Bloquear injeção de prompt em produção
Detecte e bloqueie injeção de prompt e jailbreak antes do provedor, com regras ordenadas, análise semântica e inspeção fail-closed.
Injeção de prompt não se resolve com uma lista de palavras bloqueadas. Atacantes reformulam, codificam, dividem conteúdo entre mensagens e escondem instruções em documentos recuperados. A decisão deve ocorrer antes de a solicitação sair da rede e ser registrada.
Resposta curta#
- Inspecione os dois sentidos: prompt antes do encaminhamento e resposta antes de retorná-la.
- Combine regras textuais (padrões conhecidos) e análise semântica (significado); cada abordagem sozinha deixa passar ataques.
- Avalie em ordem fixa e priorize negação sobre aceitação.
- Se a inspeção falhar, rejeite em vez de encaminhar sem análise.
Como fazer no AI-FW#
- Ative guardrails integrados contra jailbreak e injeção de prompt.
- Crie regras para padrões internos. Keyword e regex detectam marcadores conhecidos; ações block, mask, accept ou log, com negação prevalecendo.
- Adicione regra semântica em linguagem natural para detectar intenção, como tentativas de extrair system prompt. Reformulações também podem pontuar alto. Se o conteúdo não puder sair da rede, use embeddings, classificador chat ou mecanismo offline.
- Teste com Prompt Analyzer antes de aplicar. Ele verifica regras inbound sem chamada de modelo ou gravação de logs.
- Mantenha fail-closed em produção e documente exceções fail-open.
Verificar#
- Envie prompt malicioso de teste e confirme bloqueio antes do provedor.
- Consulte Audit Logs: identidade, modelo, decisão e regra, sem conteúdo original.
- Observe taxa de bloqueio no painel; mudanças bruscas podem indicar falso positivo.
- Reexecute Prompt Analyzer após alterar ordem das regras.
Relacionado#
Perguntas frequentes#
Regras de palavra-chave sozinhas bastam? Não. Detectam padrões conhecidos; análise semântica identifica reformulações. Use ambas e priorize negação.
O que ocorre se a inspeção falhar? Fail-closed rejeita em vez de encaminhar sem análise; falha do scanner não ignora política.
Solicite o Technical Plan: prova de conceito com seus prompts para medir detecções e falsos positivos antes da implantação.