Glossaire

LSTM bidirectionnel

Qu’est-ce que LSTM bidirectionnel ?

Un LSTM bidirectionnel (BiLSTM) est un réseau de neurones récurrent qui lit une séquence à la fois du début vers la fin et de la fin vers le début, puis combine les deux lectures. Le contexte qui suit chaque mot est ainsi pris en compte. Avant l'essor des transformers, c'était un choix standard pour l'étiquetage morpho-syntaxique, la reconnaissance d'entités nommées ou la reconnaissance vocale. Pour les textes très longs et les gros volumes de données, les transformers sont aujourd'hui généralement plus performants.

Thèmes

Réseaux de neurones
Modèles de séquence
TAL

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo

← Tous les termes

Termes associés

Long Short-Term Memory (LSTM)

Le Long Short-Term Memory (LSTM) est un type de réseau de neurones récurrent capable de conserver des informations sur de longues séquences. Des portes décident à chaque étape de ce qui est mémorisé, oublié ou transmis, ce qui atténue le problème de disparition du gradient. Les LSTM ont longtemps marqué la reconnaissance vocale, la traduction et la prévision de séries temporelles. En traitement du langage, les transformers les ont largement remplacés, mais ils restent courants pour les données de capteurs.

réseaux de neurones
séquences
+1

Réseau de neurones récurrent (RNN)

Un réseau de neurones récurrent traite les données dans l'ordre et transmet à chaque étape un état interne à la suivante, une sorte de mémoire à court terme. Il convient donc aux séquences comme le texte, la parole ou les séries temporelles, par exemple pour prédire le mot suivant ou la prochaine valeur d'un capteur. Les RNN simples oublient facilement les informations lointaines ; des variantes comme LSTM et GRU atténuent ce problème. Pour les modèles de langage, les transformers les ont largement remplacés.

réseaux de neurones
séquences
+1

Modélisation de séquences

La modélisation de séquences regroupe les méthodes qui traitent et prédisent des données ordonnées, où la position de chaque élément compte. Les séquences typiques sont le texte, la parole, les séries temporelles comme les ventes ou les mesures de capteurs, ou encore des segments d'ADN. Les applications vont de la traduction et de la génération de texte à la reconnaissance vocale et aux prévisions de ventes. On a utilisé pour cela des modèles de Markov cachés et des réseaux récurrents ; aujourd'hui, les transformers dominent pour le langage.

séquences
apprentissage profond
+1

Reconnaissance d’entités nommées (NER)

La reconnaissance d’entités nommées (Named Entity Recognition, NER) est une technique de traitement du langage qui repère dans un texte les noms de personnes, d’entreprises et de lieux, ainsi que les dates ou montants, et les classe par catégorie. Le texte libre devient ainsi une donnée structurée. Exemple : l’entreprise expéditrice, l’interlocuteur, la date de livraison et le montant d’une facture sont extraits d’un e-mail et transférés dans un CRM.

TAL
Extraction d’information
+1

Modèle