Glossaire

Fonctions d'activation

Qu’est-ce que Fonctions d'activation ?

Les fonctions d'activation déterminent avec quelle intensité un neurone d'un réseau de neurones artificiels transmet son signal. Elles introduisent la non-linéarité, sans laquelle le réseau ne pourrait pas représenter des relations complexes comme le langage ou les images. Exemples courants : ReLU, qui ramène les valeurs négatives à zéro, la sigmoïde pour des probabilités entre 0 et 1, et GELU, utilisée dans de nombreux modèles transformer. Ce choix influe sur la vitesse et la stabilité de l'entraînement.

Thèmes

Réseaux de neurones
Apprentissage profond
Notions de base

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo

← Tous les termes

Termes associés

Réseaux de neurones artificiels (RNA)

Les réseaux de neurones artificiels (RNA) sont des modèles de calcul composés de nombreuses unités connectées (« neurones »), organisées en couches, qui traitent les entrées via des connexions pondérées. Pendant l'entraînement, les poids sont ajustés progressivement à partir d'exemples, le plus souvent par rétropropagation. Les RNA sont à la base de l'apprentissage profond et se retrouvent dans la reconnaissance d'images et de la parole ainsi que dans les grands modèles de langage. Malgré leur inspiration biologique, ils fonctionnent bien plus simplement que le cerveau humain.

Apprentissage profond
Fondamentaux IA
+1

Rétropropagation

La rétropropagation du gradient (backpropagation) est la méthode standard d'apprentissage des réseaux de neurones. Après chaque prédiction, l'erreur est mesurée puis propagée à rebours à travers les couches, ce qui indique la contribution de chaque poids. Une méthode d'optimisation comme la descente de gradient ajuste ensuite les poids pas à pas. Sans rétropropagation, l'entraînement des modèles de langage et d'image actuels serait pratiquement impossible.

Réseaux de neurones
Entraînement
+1

Apprentissage profond

L'apprentissage profond (deep learning) est une branche de l'apprentissage automatique qui utilise des réseaux de neurones artificiels à nombreuses couches. Ces réseaux apprennent eux-mêmes, à partir de grandes quantités de données, quelles caractéristiques comptent – des contours dans les images aux liens de sens dans les textes. Il est à la base des modèles de langage actuels, de la reconnaissance d'images et de la parole ainsi que de la traduction automatique, et exige généralement beaucoup de puissance de calcul et de données.

réseaux de neurones
apprentissage automatique
+1