FR
Se connecterCommencer
Glossaire

OWASP LLM Top 10

Qu’est-ce que OWASP LLM Top 10 ?

L’OWASP Top 10 pour les applications LLM recense les principaux risques de sécurité des applications à base de grands modèles de langage ; elle est publiée par l’OWASP GenAI Security Project. L’édition 2026, parue en août 2026 (état : octobre 2026), couvre : injection de prompt, divulgation d’informations sensibles, autonomie excessive, chaîne d’approvisionnement, empoisonnement des données et des modèles, consommation illimitée, désinformation, exposition du contexte caché, faiblesses des vecteurs et embeddings, et traitement inapproprié des sorties. Elle sert de liste de contrôle pour le développement et les audits.

Ce que fait KI.ordo

Le modèle KI.ordo « Audit de sécurité de chatbot » évalue les instructions et des conversations types d’un agent selon les domaines de risque de l’OWASP Top 10 pour les applications LLM.

En savoir plus →: OWASP LLM Top 10

Modèles adaptés

Thèmes

  • sécurité
  • référentiel
  • audit

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo
← Tous les termes

Termes associés

Sécurité des LLM

La sécurité des LLM regroupe les mesures qui protègent les applications fondées sur de grands modèles de langage contre les abus, les fuites de données et les comportements indésirables. Les risques typiques sont l’injection de prompt, la divulgation d’instructions ou de données confidentielles et des agents dotés de droits trop étendus. La protection repose sur plusieurs niveaux : instructions claires, droits limités, contrôle des entrées et sorties, pare-feu IA, red teaming et audits réguliers.

  • sécurité
  • modèles de langage
  • +1
Modèle

Injection de prompt indirecte

Dans une injection de prompt indirecte, les instructions malveillantes ne figurent pas dans la saisie de l'utilisateur, mais dans des contenus que le système d'IA traite en chemin : pages web, e-mails ou documents. En les lisant, un agent peut prendre des commandes cachées pour de véritables consignes et, par exemple, divulguer des données. Parmi les protections : traiter strictement les contenus externes comme des données, limiter les droits, filtrer les entrées et faire valider les actions critiques par un humain.

  • Sécurité
  • Injection de prompt
  • +1
Modèle

Audit de sécurité de chatbot

Un audit de sécurité de chatbot est un examen structuré visant à vérifier si un chatbot d'IA protège suffisamment les données confidentielles, ses instructions internes et ses droits d'action. On y évalue notamment la vulnérabilité à l'injection de prompt, la divulgation involontaire d'informations et des accès trop larges aux outils, souvent selon l'OWASP Top 10 pour les applications LLM. Il aboutit à un rapport avec une évaluation par domaine de risque et des mesures concrètes.

  • sécurité
  • audit
  • +1
Modèle

Fuite de prompt

La fuite de prompt (prompt leaking) désigne la divulgation involontaire des instructions internes d'un système d'IA, par exemple lorsqu'un chatbot restitue son prompt système face à une question habilement formulée. Cela pose problème si ces instructions contiennent de la logique métier, des informations internes, voire des identifiants. La liste OWASP pour les applications LLM mentionne explicitement ce risque. La meilleure protection : rédiger les instructions comme si elles pouvaient devenir publiques, n'y placer aucun secret et contrôler aussi les réponses.

  • sécurité de l'IA
  • prompt système
  • +1
Modèle