Bloquer l’injection de prompt en production
Détecter et bloquer injections de prompt et jailbreak avant le fournisseur, avec ordre des règles, analyse sémantique et inspection fail-closed.
L’injection de prompt ne se résout pas avec une liste de mots bloqués. Les attaquants reformulent, encodent, répartissent le contenu ou cachent des instructions dans des documents récupérés. La décision doit être prise avant la sortie du réseau et consignée.
Réponse courte#
- Inspectez les deux directions : prompt avant transfert, réponse avant retour.
- Combinez règles textuelles et analyse sémantique ; chacune seule manque des attaques.
- Évaluez dans un ordre fixe et faites primer le refus sur l’acceptation.
- Si l’inspection échoue, refusez plutôt que transférer sans analyse.
Procédure dans AI-FW#
- Activez les protections intégrées contre jailbreak et injection.
- Ajoutez des règles pour vos motifs internes. Keyword et regex détectent marqueurs connus ; actions block, mask, accept ou log, avec refus prioritaire.
- Décrivez l’intention en langage naturel dans une règle sémantique. Les reformulations peuvent aussi avoir un score élevé. Si le contenu ne doit pas sortir, choisissez embeddings, classificateur chat ou moteur hors ligne.
- Testez avec Prompt Analyzer avant application ; il évalue les règles inbound sans appel de modèle ni écriture de logs.
- Gardez fail-closed en production et documentez les exceptions fail-open.
Vérifier#
- Envoyez un prompt malveillant de test et confirmez son refus avant le fournisseur.
- Consultez Audit Logs : identité, modèle, décision et règle, sans contenu brut.
- Surveillez le taux de blocage du tableau de bord ; un changement brusque peut signaler des faux positifs.
- Relancez Prompt Analyzer après changement de l’ordre.
Associé#
Questions fréquentes#
Les mots-clés suffisent-ils ? Non. Ils détectent les motifs connus ; l’analyse sémantique détecte les reformulations. Utilisez les deux et privilégiez le refus.
Que se passe-t-il si l’inspection échoue ? Fail-closed rejette la requête ; une panne du scanner ne contourne pas la politique.
Demandez le Technical Plan : preuve de concept avec vos prompts pour mesurer détection et faux positifs avant déploiement.