Glossaire

Apprentissage automatique antagoniste

Qu’est-ce que Apprentissage automatique antagoniste ?

L'apprentissage automatique antagoniste (adversarial machine learning) étudie comment des modèles d'IA peuvent être trompés par des entrées ou des données d'entraînement délibérément manipulées, et comment les en protéger. Exemples connus : des modifications d'image presque invisibles qui faussent une classification, ou des données d'entraînement empoisonnées. Le sujet devient important dès que l'IA appuie des décisions sensibles. Les parades incluent un entraînement robuste, le contrôle des entrées, la surveillance et des tests de sécurité réguliers.

Thèmes

Sécurité de l'IA
Robustesse
Protection

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo

← Tous les termes

Termes associés

Robustesse des modèles

La robustesse d’un modèle décrit sa fiabilité lorsque les entrées sont bruitées, incomplètes, inhabituelles ou délibérément manipulées. Un modèle robuste fournit malgré tout des résultats stables, par exemple une reconnaissance d’images par faible luminosité ou un modèle de langage face aux fautes de frappe. On l’évalue par des tests de résistance, des données d’entraînement variées et des essais contre des tentatives de tromperie ; elle est essentielle dans les applications critiques pour la sécurité.

fiabilité
qualité du modèle
+1

Red teaming de l'IA

Le red teaming de l'IA est l'examen structuré d'un système d'IA du point de vue d'attaquants ou d'utilisations abusives. Des spécialistes vérifient de manière contrôlée si un chatbot divulgue des instructions confidentielles, adopte des comportements indésirables, fournit des faits erronés ou expose des données ; les résultats améliorent instructions, filtres et autorisations. Un audit de sécurité de chatbot en est une forme allégée, fondée sur des zones de risque connues comme le Top 10 OWASP pour les applications LLM.

Sécurité de l'IA
Test de sécurité
+1

Modèle

Sécurité des LLM

La sécurité des LLM regroupe les mesures qui protègent les applications fondées sur de grands modèles de langage contre les abus, les fuites de données et les comportements indésirables. Les risques typiques sont l’injection de prompt, la divulgation d’instructions ou de données confidentielles et des agents dotés de droits trop étendus. La protection repose sur plusieurs niveaux : instructions claires, droits limités, contrôle des entrées et sorties, pare-feu IA, red teaming et audits réguliers.

sécurité
modèles de langage
+1

Modèle

Données d'entraînement

Les données d'entraînement sont les exemples à partir desquels un modèle d'IA apprend des régularités : de vastes corpus de textes pour les modèles de langage, des images annotées pour les modèles de vision. Leur qualité, leur diversité et leur actualité déterminent largement la fiabilité, l'équité et le niveau de connaissances d'un modèle. Pour une entreprise, il importe aussi de savoir si un fournisseur réutilise vos données clients pour l'entraînement.

Données
Entraînement
+1