Glossaire

Exfiltration de données

Qu’est-ce que Exfiltration de données ?

L'exfiltration de données désigne la sortie non autorisée de données d'un système. Dans les applications d'IA, elle peut survenir lorsqu'un chatbot ou un agent est amené, par des saisies manipulées ou des contenus piégés – par exemple sur une page web qu'il lit –, à divulguer ou transmettre des informations confidentielles. On s'en protège par des droits d'accès minimaux, le contrôle des entrées, la limitation des connexions sortantes et la vérification des réponses.

Ce que fait KI.ordo

Le modèle « KI-Firewall » de KI.ordo se place en sous-flux devant un agent et retient les saisies qui cherchent, par exemple, à obtenir des instructions système ou des données.

En savoir plus →

Modèles adaptés

Pare-feu IA : vérifier une entréeVérifie une entrée pour détecter les tentatives de modifier les instructions, de changer de rôle ou d’obtenir des données internes et ne laisse passer que les textes sans risque ; en cas de doute, elle bloque. À placer comme sous-flux devant un agent.Voir le modèle →

Thèmes

sécurité de l'IA
protection des données
injection de prompt

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo

← Tous les termes

Termes associés

Pare-feu IA

Un pare-feu IA est une couche de protection placée entre les utilisateurs, les sources de données et un modèle d'IA. Il examine les entrées à la recherche de tentatives de manipulation comme l'injection de prompt ou le jailbreak, et contrôle les sorties, par exemple pour des données confidentielles ou des contenus indésirables, avant de les transmettre. Il peut s'appuyer sur des règles, des modèles de classification ou un second modèle de langage. Il réduit les risques sans offrir une protection totale ni remplacer des droits limités et des tests.

Sécurité
Injection de prompt
+1

Modèle

Injection de prompt indirecte

Dans une injection de prompt indirecte, les instructions malveillantes ne figurent pas dans la saisie de l'utilisateur, mais dans des contenus que le système d'IA traite en chemin : pages web, e-mails ou documents. En les lisant, un agent peut prendre des commandes cachées pour de véritables consignes et, par exemple, divulguer des données. Parmi les protections : traiter strictement les contenus externes comme des données, limiter les droits, filtrer les entrées et faire valider les actions critiques par un humain.

Sécurité
Injection de prompt
+1

Modèle

Fuite de prompt

La fuite de prompt (prompt leaking) désigne la divulgation involontaire des instructions internes d'un système d'IA, par exemple lorsqu'un chatbot restitue son prompt système face à une question habilement formulée. Cela pose problème si ces instructions contiennent de la logique métier, des informations internes, voire des identifiants. La liste OWASP pour les applications LLM mentionne explicitement ce risque. La meilleure protection : rédiger les instructions comme si elles pouvaient devenir publiques, n'y placer aucun secret et contrôler aussi les réponses.

sécurité de l'IA
prompt système
+1

Modèle

Sécurité des LLM

La sécurité des LLM regroupe les mesures qui protègent les applications fondées sur de grands modèles de langage contre les abus, les fuites de données et les comportements indésirables. Les risques typiques sont l’injection de prompt, la divulgation d’instructions ou de données confidentielles et des agents dotés de droits trop étendus. La protection repose sur plusieurs niveaux : instructions claires, droits limités, contrôle des entrées et sorties, pare-feu IA, red teaming et audits réguliers.

sécurité
modèles de langage
+1

Modèle