Impedir que dados saiam por prompts e respostas

Um assistente de IA pode ler dados colados por usuários, consultar ferramentas e produzir texto fácil de copiar. DLP para IA coloca um ponto de verificação nesse caminho e registra o que atravessou.

Resposta curta#

• Inspecione o caminho outbound antes de o provedor receber conteúdo.
• Trate prosa e argumentos de ferramenta como dados, não apenas arquivos.
• Bloqueie o que nunca pode sair; masque o que pode ser compartilhado redigido.
• Registre decisão sem criar outro repositório de conteúdo.
• Limite destinos ao inventário aprovado.

Como fazer no AI-FW#

1. Ative inspeção outbound para detectar prompts de sistema vazados, hosts internos, credenciais e chaves privadas. Inspeção inbound cobre o que usuários/agentes enviam.
2. Defina ação por regra: block recusa, mask substitui, log registra. Deny prevalece sobre accept.
3. Cubra PII, cartão, saúde e credenciais; crie regras para IDs e formatos internos.
4. Restrinja destinos a modelos/endpoints registrados. Tráfego fora do inventário é recusado.
5. Aplique políticas por identidade para que agentes tenham controles adequados à tarefa.
6. Exporte auditoria ao SIEM por TLS ou API. Exportação contém metadados, não conteúdo bruto.

Verificar#

• Envie padrão de credencial de teste e confirme bloqueio e registro.
• Peça ao modelo para repetir instruções e confirme detecção outbound.
• Consulte Audit Logs: regra, identidade, modelo e horário, sem payload.
• Teste endpoint de modelo não registrado e confirme recusa.
• Revise Risk Profiles para padrões frequentes.

Contexto#

Controle de saída se complementa com minimização: não inclua no prompt dados desnecessários. Masque o que pode ser redigido, bloqueie o proibido e mantenha lista de destinos pequena e defensável.

Relacionado#

• Mascarar PII antes de os prompts saírem da rede
• Proteções de prompts e respostas
• Residência de dados do tráfego de IA
• PCI DSS

Perguntas frequentes#

É igual a uma ferramenta DLP de rede? Não. Tráfego de IA contém prosa, tabelas e argumentos; exige detecção de categorias e intenção. As ferramentas se complementam.

Bloquear quebra fluxos legítimos? Use mask para dados redigíveis e block para credenciais, chaves privadas, system prompts e exportações em massa. Deny prevalece sobre accept.

E dados já enviados? Não é possível recuperar um prompt enviado. Audit Logs mostra identidade, categoria, endpoint e horário; registra metadados, não conteúdo.