Glossaire

Modélisation de séquences

Qu’est-ce que Modélisation de séquences ?

La modélisation de séquences regroupe les méthodes qui traitent et prédisent des données ordonnées, où la position de chaque élément compte. Les séquences typiques sont le texte, la parole, les séries temporelles comme les ventes ou les mesures de capteurs, ou encore des segments d'ADN. Les applications vont de la traduction et de la génération de texte à la reconnaissance vocale et aux prévisions de ventes. On a utilisé pour cela des modèles de Markov cachés et des réseaux récurrents ; aujourd'hui, les transformers dominent pour le langage.

Thèmes

séquences
apprentissage profond
séries temporelles

Essayer KI.ordo

Agents, flux et modèles dans un seul espace de travail – démo gratuite de 24 heures.

Lancer la démo

← Tous les termes

Termes associés

Réseau de neurones récurrent (RNN)

Un réseau de neurones récurrent traite les données dans l'ordre et transmet à chaque étape un état interne à la suivante, une sorte de mémoire à court terme. Il convient donc aux séquences comme le texte, la parole ou les séries temporelles, par exemple pour prédire le mot suivant ou la prochaine valeur d'un capteur. Les RNN simples oublient facilement les informations lointaines ; des variantes comme LSTM et GRU atténuent ce problème. Pour les modèles de langage, les transformers les ont largement remplacés.

réseaux de neurones
séquences
+1

Long Short-Term Memory (LSTM)

Le Long Short-Term Memory (LSTM) est un type de réseau de neurones récurrent capable de conserver des informations sur de longues séquences. Des portes décident à chaque étape de ce qui est mémorisé, oublié ou transmis, ce qui atténue le problème de disparition du gradient. Les LSTM ont longtemps marqué la reconnaissance vocale, la traduction et la prévision de séries temporelles. En traitement du langage, les transformers les ont largement remplacés, mais ils restent courants pour les données de capteurs.

réseaux de neurones
séquences
+1

Transformer

Le Transformer est une architecture de réseau de neurones présentée en 2017 dans l'article de recherche « Attention Is All You Need ». Son cœur est le mécanisme d'attention : chaque mot est pondéré par rapport à tous les autres mots du texte, et le calcul se parallélise efficacement. Les Transformers sont à la base des modèles de langage actuels comme GPT, Claude ou BERT et servent aussi pour l'image et l'audio.

Architecture
Deep learning
+1

Modèle de Markov caché (HMM)

Un modèle de Markov caché (Hidden Markov Model, HMM) est un modèle statistique de séquences dans lequel les états réels sont cachés et ne peuvent être déduits que de signaux observables. Il décrit la probabilité qu’un état succède à un autre et qu’il produise une observation donnée. Les HMM ont longtemps été la référence en reconnaissance vocale et en étiquetage morphosyntaxique ; ils restent utilisés, par exemple, en bio-informatique et pour les séries temporelles.

Statistiques
Modèles de séquence
+1