Glossaire

Superintelligence artificielle (ASI)

Qu’est-ce que Superintelligence artificielle (ASI) ?

La superintelligence artificielle (Artificial Superintelligence, ASI) est un concept théorique désignant une IA qui surpasserait nettement l'humain dans presque toutes les capacités intellectuelles, y compris la recherche, la planification et le jugement social. Un tel système n'existe pas. Le terme est surtout utilisé en philosophie et dans la recherche sur la sécurité de l'IA pour débattre du contrôle et de l'alignement des futurs systèmes sur les valeurs humaines.

Thèmes

Fondamentaux IA
Sécurité de l'IA
Théorie

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo

← Tous les termes

Termes associés

Intelligence artificielle générale (AGI)

L'intelligence artificielle générale (Artificial General Intelligence, AGI) désigne un système d'IA hypothétique capable d'accomplir un large éventail de tâches intellectuelles à un niveau humain et de transférer avec souplesse ses acquis à de nouveaux domaines. Les systèmes actuels sont performants sur de nombreuses tâches mais présentent encore des limites, par exemple en fiabilité. Il n'existe ni définition ni méthode de mesure reconnues, et la question de savoir si et quand l'AGI sera atteinte est débattue entre spécialistes.

Fondamentaux IA
Recherche
+1

Singularité

La singularité technologique est une notion théorique : un moment à partir duquel l'intelligence artificielle s'améliorerait elle-même si vite que le progrès technique deviendrait imprévisible et incontrôlable pour les humains. Le terme a été popularisé par l'auteur Vernor Vinge et le futurologue Ray Kurzweil. Savoir si et quand cela pourrait arriver reste une question scientifique ouverte et controversée. L'idée nourrit néanmoins les débats sur la sûreté de l'IA, sa régulation et les risques à long terme.

scénario futur
superintelligence
+1

Éthique de l'IA

L'éthique de l'IA traite des questions morales liées au développement et à l'usage de l'IA : équité et discrimination, transparence et explicabilité, protection des données, responsabilité en cas d'erreur, sécurité et effets sur le travail et la société. Pour une organisation, elle se concrétise par des lignes directrices, des évaluations des risques, un contrôle humain et une communication honnête sur les limites de l'IA. Exemple : avant d'utiliser un outil de tri des candidatures, on vérifie qu'il ne défavorise pas certains groupes.

Éthique
Responsabilité
+1

Sécurité des LLM

La sécurité des LLM regroupe les mesures qui protègent les applications fondées sur de grands modèles de langage contre les abus, les fuites de données et les comportements indésirables. Les risques typiques sont l’injection de prompt, la divulgation d’instructions ou de données confidentielles et des agents dotés de droits trop étendus. La protection repose sur plusieurs niveaux : instructions claires, droits limités, contrôle des entrées et sorties, pare-feu IA, red teaming et audits réguliers.

sécurité
modèles de langage
+1

Modèle