Bloquear inyección de prompts en producción
Detecte y bloquee inyección de prompts y jailbreak antes del proveedor con reglas ordenadas, análisis semántico e inspección fail-closed.
La inyección de prompts no se resuelve con una lista de palabras bloqueadas. Los atacantes reformulan, codifican, dividen contenido entre mensajes y ocultan instrucciones en documentos recuperados. La decisión debe tomarse antes de que la solicitud salga de la red y debe registrarse.
Respuesta breve#
- Inspeccione ambas direcciones: prompt antes de reenviar y respuesta antes de devolverla.
- Combine reglas de texto (patrones conocidos) y análisis semántico (significado); cada método por sí solo deja pasar ataques.
- Evalúe en orden fijo y priorice el rechazo sobre la aceptación.
- Si la inspección falla, rechace en lugar de reenviar sin analizar.
Cómo hacerlo en AI-FW#
- Active las protecciones integradas contra jailbreak e inyección de prompts.
- Añada reglas para patrones propios. Keywords y regex detectan marcadores internos. Las acciones son block, mask, accept o log; denegar prevalece.
- Añada reglas semánticas describiendo la intención en lenguaje natural. Las reformulaciones también pueden puntuar alto. Para mantener contenido local, use embeddings, clasificador de chat o motor offline.
- Pruebe con Prompt Analyzer antes de aplicar: evalúa reglas inbound sin llamar al modelo ni escribir logs.
- Mantenga fail-closed en producción y documente excepciones fail-open.
Verificar#
- Envíe un prompt malicioso de prueba y confirme que se rechaza antes del proveedor.
- Revise Audit Logs: identidad, modelo, decisión y regla, sin contenido original.
- Observe la tasa de bloqueo en el panel; un cambio brusco puede indicar falsos positivos.
- Repita Prompt Analyzer con su conjunto de pruebas tras cambiar el orden de reglas.
Relacionado#
Preguntas frecuentes#
¿Bastan las reglas de palabras clave? No. Detectan patrones conocidos; la puntuación semántica detecta reformulaciones. Use ambas y priorice el rechazo.
¿Qué ocurre si falla la inspección? Con fail-closed se rechaza la solicitud; un fallo del scanner no omite la política.
Solicite el Technical Plan: prueba de concepto con sus prompts para medir detecciones y falsos positivos antes del despliegue.