Glossário

Glossário de segurança e governança de IA

Definições concisas de conceitos usados para proteger e governar aplicações, modelos e agentes de IA.

Firewall de IA

Camada de controle que inspeciona e governa interações entre pessoas, aplicações, agentes e modelos de IA.

Serviço que intermedeia solicitações entre aplicações e provedores de modelos e pode aplicar políticas de roteamento.

Entrada criada para alterar instruções ou o comportamento esperado de um modelo.

Informações que identificam uma pessoa diretamente ou em combinação com outros dados.

Prevenção contra perda de dados: controles que detectam e limitam a divulgação não autorizada de informações sensíveis.

Controle de acesso baseado em funções, atribuindo permissões conforme as responsabilidades da conta.

Autenticação TLS mútua em que cliente e servidor apresentam certificados.

Comportamento que recusa ou interrompe uma operação quando um controle necessário está indisponível.

Model Context Protocol, protocolo para conectar aplicações de IA a ferramentas e fontes de contexto.

Uso de ferramentas ou modelos de IA não aprovados ou gerenciados pela organização.

Histórico de eventos e decisões que ajuda a revisar quem fez o quê e quando, dentro do escopo registrado.

Sistema que usa um modelo para planejar ou executar tarefas, geralmente com ferramentas ou serviços externos.