Encontrar e interromper uso de Shadow AI

Shadow AI costuma começar com uma equipe que precisava de uma resposta e se cadastrou em uma API de modelo. O tráfego existe, mas não a governança. Primeiro torne o uso visível, depois decida como agir.

Resposta curta#

• Centralize o tráfego e registre solicitações de modelos.
• Registro estrito transforma modelo desconhecido em recusa visível e acionável.
• Atribua o uso a uma identidade para identificar o cliente.
• A primeira semana pode gerar ruído; muito uso é legítimo e precisa apenas de uma rota aprovada.

Como fazer no AI-FW#

1. Coloque o gateway no caminho. Aponte clientes para uma base URL; compatibilidade OpenAI/Anthropic geralmente exige apenas essa mudança.
2. Ative Reject Unregistered Models. Solicitações a modelos não aprovados são recusadas e atribuídas a uma identidade.
3. Observe flags e bloqueios. Dashboard mostra tentativas de modelos não registrados; Audit Logs inclui a identidade chamadora.
4. Ofereça uma rota aprovada. Registre o modelo necessário, associe key por modelo mantida no servidor e aplique políticas.
5. Adicione score de risco. Tentativas repetidas podem elevar risco e iniciar cooldown automático durante a investigação.

Verificar#

• Confirme tentativas não registradas no log de transações com identidade.
• Verifique que modelos registrados continuam funcionando.
• Revise mensalmente Model Inventory para localizar modelos sem uso e chaves a rotacionar.

Relacionado#

• Shadow AI
• Roteamento e registro de modelos
• Perfis de risco e bloqueio automático

Perguntas frequentes#

Registro estrito quebra tráfego aprovado? Não. Modelos registrados continuam funcionando; apenas os não registrados são recusados e atribuídos.

Como integrar modelo que a equipe já usa? Registre provedor e key, depois encaminhe sob política. O objetivo é adoção aprovada, não bloqueio permanente.