FR
Se connecterCommencer
Glossaire

Extraction du prompt système

Qu’est-ce que Extraction du prompt système ?

L'extraction du prompt système désigne les tentatives visant à amener un chatbot ou un agent IA à divulguer ses instructions système cachées. Si elle aboutit, on parle de prompt leaking : l'extraction est l'attaque, la fuite en est la conséquence. Une protection efficace consiste d'abord à ne placer ni mots de passe, ni clés, ni règles confidentielles dans les instructions et à partir du principe qu'elles peuvent devenir publiques ; contrôles des entrées et tests réguliers complètent le dispositif.

Ce que fait KI.ordo

Le modèle KI.ordo « Audit de sécurité du chatbot » examine les instructions d'un agent, notamment le risque de divulgation des instructions système, et propose des questions d'autotest inoffensives.

En savoir plus →: Extraction du prompt système

Modèles adaptés

Thèmes

  • Sécurité
  • Prompt leaking
  • Chatbots

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo
← Tous les termes

Termes associés

Fuite de prompt

La fuite de prompt (prompt leaking) désigne la divulgation involontaire des instructions internes d'un système d'IA, par exemple lorsqu'un chatbot restitue son prompt système face à une question habilement formulée. Cela pose problème si ces instructions contiennent de la logique métier, des informations internes, voire des identifiants. La liste OWASP pour les applications LLM mentionne explicitement ce risque. La meilleure protection : rédiger les instructions comme si elles pouvaient devenir publiques, n'y placer aucun secret et contrôler aussi les réponses.

  • sécurité de l'IA
  • prompt système
  • +1
Modèle

Jailbreaking (contournement)

Le jailbreaking désigne les tentatives de contourner les règles de sécurité d'un modèle d'IA à l'aide de saisies habilement formulées, afin qu'il produise des contenus ou effectue des actions qu'il devrait refuser. Pour une entreprise, c'est un risque : un chatbot pourrait par exemple divulguer des instructions confidentielles ou répondre de façon inappropriée. Les protections incluent des instructions système claires, le filtrage des entrées et sorties, des droits limités, la journalisation et des tests de sécurité réguliers (red teaming).

  • Sécurité
  • Prévention des abus
  • +1
Modèle

Audit de sécurité de chatbot

Un audit de sécurité de chatbot est un examen structuré visant à vérifier si un chatbot d'IA protège suffisamment les données confidentielles, ses instructions internes et ses droits d'action. On y évalue notamment la vulnérabilité à l'injection de prompt, la divulgation involontaire d'informations et des accès trop larges aux outils, souvent selon l'OWASP Top 10 pour les applications LLM. Il aboutit à un rapport avec une évaluation par domaine de risque et des mesures concrètes.

  • sécurité
  • audit
  • +1
Modèle

OWASP LLM Top 10

L’OWASP Top 10 pour les applications LLM recense les principaux risques de sécurité des applications à base de grands modèles de langage ; elle est publiée par l’OWASP GenAI Security Project. L’édition 2026, parue en août 2026 (état : octobre 2026), couvre : injection de prompt, divulgation d’informations sensibles, autonomie excessive, chaîne d’approvisionnement, empoisonnement des données et des modèles, consommation illimitée, désinformation, exposition du contexte caché, faiblesses des vecteurs et embeddings, et traitement inapproprié des sorties. Elle sert de liste de contrôle pour le développement et les audits.

  • sécurité
  • référentiel
  • +1
Modèle