Empêcher les données de sortir via prompts et réponses

Un assistant IA peut lire ce que les utilisateurs collent, consulter des outils et produire du texte facile à copier. La prévention des pertes de données IA place un contrôle sur ce chemin et consigne ce qui le traverse.

Réponse courte#

• Inspectez le flux sortant avant le fournisseur.
• Traitez prose et arguments d’outils comme des données.
• Bloquez ce qui ne doit jamais sortir ; masquez ce qui peut être expurgé.
• Consignez la décision sans créer un nouveau stockage de contenu.
• Limitez les destinations à l’inventaire approuvé.

Procédure dans AI-FW#

1. Activez l’inspection outbound des réponses pour repérer prompts système divulgués, hôtes internes, identifiants et clés privées. L’inspection inbound couvre les envois utilisateur/agent.
2. Choisissez l’action : block refuse, mask remplace, log consigne. Deny l’emporte sur accept.
3. Couvrez PII, cartes, santé et identifiants ; ajoutez règles pour vos identifiants internes.
4. Limitez destinations aux modèles/endpoints enregistrés. Le trafic hors inventaire est refusé.
5. Appliquez des règles par identité selon la tâche de l’agent.
6. Exportez audit vers SIEM via TLS ou API ; seuls les métadonnées sont exportés.

Vérifier#

• Envoyez un motif de credential de test et confirmez blocage et journalisation.
• Demandez au modèle de répéter ses instructions et vérifiez la détection outbound.
• Consultez Audit Logs : règle, identité, modèle, heure, sans payload.
• Testez un endpoint de modèle non enregistré et confirmez son refus.
• Examinez Risk Profiles pour les catégories fréquentes.

Contexte#

Le contrôle d’egress complète la minimisation : n’incluez pas de données inutiles dans les prompts. Masquez ce qui peut l’être, bloquez le reste et gardez une liste de destinations maîtrisable.

Associé#

• Masquer PII avant la sortie du réseau des prompts
• Protections des prompts et réponses
• Résidence des données du trafic IA
• PCI DSS

Questions fréquentes#

Est-ce équivalent à un DLP réseau ? Non. Le trafic IA est de la prose, des tableaux et arguments ; la détection doit comprendre catégories et intention. Les contrôles se complètent.

Le blocage perturbe-t-il les workflows légitimes ? Utilisez mask pour les données expurgeables et block pour identifiants, clés privées, prompts système et exportations massives. Deny prévaut.

Et les données déjà envoyées ? Un prompt envoyé ne peut être rappelé. Audit Logs indique identité, catégorie, endpoint et heure, avec métadonnées et sans contenu.