FR
Se connecterCommencer
Glossaire

Injection de prompt indirecte

Qu’est-ce que Injection de prompt indirecte ?

Dans une injection de prompt indirecte, les instructions malveillantes ne figurent pas dans la saisie de l'utilisateur, mais dans des contenus que le système d'IA traite en chemin : pages web, e-mails ou documents. En les lisant, un agent peut prendre des commandes cachées pour de véritables consignes et, par exemple, divulguer des données. Parmi les protections : traiter strictement les contenus externes comme des données, limiter les droits, filtrer les entrées et faire valider les actions critiques par un humain.

Ce que fait KI.ordo

KI.ordo propose un modèle de pare-feu IA que vous pouvez placer devant un agent comme couche de contrôle supplémentaire, par exemple lorsque des contenus arrivent via l'outil de lecture de pages web.

En savoir plus →: Injection de prompt indirecte

Modèles adaptés

Thèmes

  • Sécurité
  • Injection de prompt
  • Agents

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo
← Tous les termes

Termes associés

Pare-feu IA

Un pare-feu IA est une couche de protection placée entre les utilisateurs, les sources de données et un modèle d'IA. Il examine les entrées à la recherche de tentatives de manipulation comme l'injection de prompt ou le jailbreak, et contrôle les sorties, par exemple pour des données confidentielles ou des contenus indésirables, avant de les transmettre. Il peut s'appuyer sur des règles, des modèles de classification ou un second modèle de langage. Il réduit les risques sans offrir une protection totale ni remplacer des droits limités et des tests.

  • Sécurité
  • Injection de prompt
  • +1
Modèle

Jailbreaking (contournement)

Le jailbreaking désigne les tentatives de contourner les règles de sécurité d'un modèle d'IA à l'aide de saisies habilement formulées, afin qu'il produise des contenus ou effectue des actions qu'il devrait refuser. Pour une entreprise, c'est un risque : un chatbot pourrait par exemple divulguer des instructions confidentielles ou répondre de façon inappropriée. Les protections incluent des instructions système claires, le filtrage des entrées et sorties, des droits limités, la journalisation et des tests de sécurité réguliers (red teaming).

  • Sécurité
  • Prévention des abus
  • +1
Modèle

Sécurité des LLM

La sécurité des LLM regroupe les mesures qui protègent les applications fondées sur de grands modèles de langage contre les abus, les fuites de données et les comportements indésirables. Les risques typiques sont l’injection de prompt, la divulgation d’instructions ou de données confidentielles et des agents dotés de droits trop étendus. La protection repose sur plusieurs niveaux : instructions claires, droits limités, contrôle des entrées et sorties, pare-feu IA, red teaming et audits réguliers.

  • sécurité
  • modèles de langage
  • +1
Modèle

OWASP LLM Top 10

L’OWASP Top 10 pour les applications LLM recense les principaux risques de sécurité des applications à base de grands modèles de langage ; elle est publiée par l’OWASP GenAI Security Project. L’édition 2026, parue en août 2026 (état : octobre 2026), couvre : injection de prompt, divulgation d’informations sensibles, autonomie excessive, chaîne d’approvisionnement, empoisonnement des données et des modèles, consommation illimitée, désinformation, exposition du contexte caché, faiblesses des vecteurs et embeddings, et traitement inapproprié des sorties. Elle sert de liste de contrôle pour le développement et les audits.

  • sécurité
  • référentiel
  • +1
Modèle