Glosario

Glosario de seguridad y gobernanza de IA

Definiciones concisas de conceptos que aparecen al proteger y gobernar aplicaciones, modelos y agentes de IA.

Firewall de IA

Capa de control que inspecciona y gobierna interacciones entre usuarios, aplicaciones, agentes y modelos de IA.

Servicio que intermedia solicitudes entre aplicaciones y proveedores de modelos, y puede aplicar políticas de enrutamiento y control.

Entrada diseñada para alterar las instrucciones o el comportamiento previsto de un modelo.

Información de identificación personal que puede identificar a una persona, directamente o en combinación con otros datos.

Prevención de pérdida de datos: controles que detectan y limitan la divulgación no autorizada de información sensible.

Control de acceso basado en roles que asigna permisos según las responsabilidades de una cuenta.

Autenticación TLS mutua en la que cliente y servidor presentan certificados para verificar sus identidades.

Comportamiento que rechaza o detiene una operación cuando un control necesario no está disponible.

Model Context Protocol, un protocolo para conectar aplicaciones de IA con herramientas y fuentes de contexto.

Uso de herramientas o modelos de IA que no han sido aprobados o gestionados por la organización.

Historial de eventos y decisiones que ayuda a revisar quién hizo qué y cuándo, dentro de la cobertura registrada.

Sistema que usa un modelo para planificar o ejecutar tareas, a menudo mediante herramientas o servicios externos.