Glossaire

IA en cybersécurité

Qu’est-ce que IA en cybersécurité ?

L'IA en cybersécurité présente deux facettes. D'une part, elle aide à détecter plus vite les attaques, par exemple en repérant des anomalies dans le trafic réseau, des connexions suspectes ou des e-mails d'hameçonnage, et soulage les équipes dans le tri des alertes. D'autre part, les systèmes d'IA doivent eux-mêmes être protégés, notamment contre l'injection de prompt ou les fuites de données. L'IA n'est efficace qu'associée à des processus clairs, des systèmes à jour et des personnes formées.

Thèmes

Sécurité
Détection des menaces
Protection

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo

← Tous les termes

Termes associés

Détection d'anomalies

La détection d'anomalies repère des données, événements ou motifs qui s'écartent nettement de la normale : transactions inhabituellement élevées, sauts soudains dans des mesures de capteurs, doublons ou activité réseau suspecte. Elle est utilisée en finance, sécurité informatique, production et contrôle qualité. Les méthodes vont de simples seuils statistiques à des modèles d'apprentissage ; les signalements sont des indices qu'une personne doit évaluer.

Analyse de données
Contrôle qualité
+1

Modèle

Sécurité des LLM

La sécurité des LLM regroupe les mesures qui protègent les applications fondées sur de grands modèles de langage contre les abus, les fuites de données et les comportements indésirables. Les risques typiques sont l’injection de prompt, la divulgation d’instructions ou de données confidentielles et des agents dotés de droits trop étendus. La protection repose sur plusieurs niveaux : instructions claires, droits limités, contrôle des entrées et sorties, pare-feu IA, red teaming et audits réguliers.

sécurité
modèles de langage
+1

Modèle

Test d'intrusion IA

Un test d'intrusion IA est un contrôle de sécurité commandé et encadré, au cours duquel des spécialistes recherchent délibérément les failles d'un système d'IA : injection de prompt, divulgation de données confidentielles ou droits trop étendus d'un agent. Contrairement au red teaming, plus large, il porte sur un périmètre clairement défini, avec des constats et des mesures documentés. Il est utile avant la mise en ligne d'un chatbot et après des modifications importantes.

Sécurité
Audit
+1

Modèle

Red teaming de l'IA

Le red teaming de l'IA est l'examen structuré d'un système d'IA du point de vue d'attaquants ou d'utilisations abusives. Des spécialistes vérifient de manière contrôlée si un chatbot divulgue des instructions confidentielles, adopte des comportements indésirables, fournit des faits erronés ou expose des données ; les résultats améliorent instructions, filtres et autorisations. Un audit de sécurité de chatbot en est une forme allégée, fondée sur des zones de risque connues comme le Top 10 OWASP pour les applications LLM.

Sécurité de l'IA
Test de sécurité
+1

Modèle