Evitar que los datos salgan mediante prompts y respuestas

Un asistente IA puede leer datos pegados por usuarios, consultar herramientas y responder con texto fácil de copiar. La prevención de pérdida de datos para IA coloca un control en ese recorrido y registra qué cruzó.

Respuesta breve#

• Inspeccione la salida antes de que llegue al proveedor.
• Trate texto y argumentos de herramientas como datos, no solo archivos.
• Bloquee lo que nunca debe salir y enmascare lo que puede compartirse redactado.
• Registre la decisión sin crear otro almacén de contenido.
• Limite destinos al inventario aprobado.

Cómo hacerlo en AI-FW#

1. Active inspección outbound de respuestas para detectar prompts de sistema expuestos, hostnames internos, credenciales y claves privadas. Inspección inbound cubre lo que usuarios y agentes envían.
2. Defina acción por regla: block rechaza, mask sustituye, log registra. Deny prevalece sobre accept.
3. Cubra datos personales, tarjetas, salud y credenciales; cree reglas para IDs internos y estructuras propias.
4. Restrinja destinos a modelos y endpoints registrados; tráfico fuera del inventario se rechaza.
5. Aplique alcance por identidad para que los agentes tengan políticas adecuadas a sus tareas.
6. Exporte auditoría a SIEM por TLS o API de auditoría. Se exportan metadatos, no contenido original.

Verificar#

• Envíe credenciales de prueba y confirme que se bloquean y registran.
• Pida al modelo repetir instrucciones y confirme detección outbound.
• Compruebe Audit Logs para regla, identidad, modelo y hora, sin payload.
• Pruebe un endpoint de modelo no registrado y confirme rechazo.
• Revise Risk Profiles para detectar patrones frecuentes.

Dónde encaja#

El control de salida se complementa con minimización: no incluya en prompts los datos que no se necesitan. Enmascare lo redactable, bloquee lo prohibido y mantenga una lista de destinos defendible.

Relacionado#

• Enmascarar PII antes de que los prompts salgan de la red
• Protección de prompts y respuestas
• Residencia de datos para tráfico de IA
• PCI DSS

Preguntas frecuentes#

¿Es igual que una herramienta DLP de red? No. El tráfico IA contiene prosa, tablas y argumentos; requiere detección por categorías e intención. Las herramientas se complementan.

¿El bloqueo interrumpe flujos legítimos? Use mask para datos redactables y block para credenciales, claves privadas, system prompts y exportaciones masivas que nunca deben salir. Deny prevalece sobre accept.

¿Qué pasa con datos ya enviados? No se puede retirar un prompt del proveedor. Audit Logs ayuda a ver qué identidad envió qué categoría, a qué endpoint y cuándo; guarda metadatos, no el contenido.