FR
Se connecterCommencer
Glossaire

Fuite de prompt

Qu’est-ce que Fuite de prompt ?

La fuite de prompt (prompt leaking) désigne la divulgation involontaire des instructions internes d'un système d'IA, par exemple lorsqu'un chatbot restitue son prompt système face à une question habilement formulée. Cela pose problème si ces instructions contiennent de la logique métier, des informations internes, voire des identifiants. La liste OWASP pour les applications LLM mentionne explicitement ce risque. La meilleure protection : rédiger les instructions comme si elles pouvaient devenir publiques, n'y placer aucun secret et contrôler aussi les réponses.

Ce que fait KI.ordo

Le modèle KI.ordo « Audit de sécurité d'un chatbot » permet de vérifier les instructions des agents face à ce risque ; mots de passe et autres secrets n'y ont jamais leur place.

En savoir plus →: Fuite de prompt

Modèles adaptés

Thèmes

  • sécurité de l'IA
  • prompt système
  • protection des données

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo
← Tous les termes

Termes associés

Extraction du prompt système

L'extraction du prompt système désigne les tentatives visant à amener un chatbot ou un agent IA à divulguer ses instructions système cachées. Si elle aboutit, on parle de prompt leaking : l'extraction est l'attaque, la fuite en est la conséquence. Une protection efficace consiste d'abord à ne placer ni mots de passe, ni clés, ni règles confidentielles dans les instructions et à partir du principe qu'elles peuvent devenir publiques ; contrôles des entrées et tests réguliers complètent le dispositif.

  • Sécurité
  • Prompt leaking
  • +1
Modèle

Pare-feu IA

Un pare-feu IA est une couche de protection placée entre les utilisateurs, les sources de données et un modèle d'IA. Il examine les entrées à la recherche de tentatives de manipulation comme l'injection de prompt ou le jailbreak, et contrôle les sorties, par exemple pour des données confidentielles ou des contenus indésirables, avant de les transmettre. Il peut s'appuyer sur des règles, des modèles de classification ou un second modèle de langage. Il réduit les risques sans offrir une protection totale ni remplacer des droits limités et des tests.

  • Sécurité
  • Injection de prompt
  • +1
Modèle

OWASP LLM Top 10

L’OWASP Top 10 pour les applications LLM recense les principaux risques de sécurité des applications à base de grands modèles de langage ; elle est publiée par l’OWASP GenAI Security Project. L’édition 2026, parue en août 2026 (état : octobre 2026), couvre : injection de prompt, divulgation d’informations sensibles, autonomie excessive, chaîne d’approvisionnement, empoisonnement des données et des modèles, consommation illimitée, désinformation, exposition du contexte caché, faiblesses des vecteurs et embeddings, et traitement inapproprié des sorties. Elle sert de liste de contrôle pour le développement et les audits.

  • sécurité
  • référentiel
  • +1
Modèle

Audit de sécurité de chatbot

Un audit de sécurité de chatbot est un examen structuré visant à vérifier si un chatbot d'IA protège suffisamment les données confidentielles, ses instructions internes et ses droits d'action. On y évalue notamment la vulnérabilité à l'injection de prompt, la divulgation involontaire d'informations et des accès trop larges aux outils, souvent selon l'OWASP Top 10 pour les applications LLM. Il aboutit à un rapport avec une évaluation par domaine de risque et des mesures concrètes.

  • sécurité
  • audit
  • +1
Modèle