Glosario

Long Short-Term Memory (LSTM)

¿Qué es Long Short-Term Memory (LSTM)?

Long Short-Term Memory (LSTM) es un tipo de red neuronal recurrente capaz de conservar información a lo largo de secuencias largas. Unas puertas (gates) deciden en cada paso qué guardar, olvidar o emitir, lo que atenúa el problema del gradiente que se desvanece. Durante años marcaron el reconocimiento de voz, la traducción y las previsiones de series temporales. En el procesamiento del lenguaje los transformers las han sustituido en gran parte, pero siguen siendo habituales con datos de sensores.

Temas

redes neuronales
secuencias
deep learning

Probar KI.ordo

Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.

Iniciar demo

← Todos los términos

Términos relacionados

LSTM bidireccional

Una LSTM bidireccional (BiLSTM) es una red neuronal recurrente que lee una secuencia a la vez de principio a fin y de fin a principio y combina ambas lecturas. Así, para cada palabra también se tiene en cuenta el contexto posterior. Antes del auge de los transformers era la opción estándar para tareas como el etiquetado gramatical, el reconocimiento de entidades nombradas o el reconocimiento de voz. Para textos muy largos y grandes volúmenes de datos, hoy los transformers suelen rendir mejor.

Redes neuronales
Modelos de secuencia
+1

Red neuronal recurrente (RNN)

Una red neuronal recurrente procesa los datos en orden y en cada paso pasa un estado interno al siguiente, una especie de memoria a corto plazo. Por eso es adecuada para secuencias como texto, voz o series temporales, por ejemplo para predecir la siguiente palabra o el próximo valor de un sensor. Las RNN simples olvidan con facilidad la información lejana; variantes como LSTM y GRU lo mitigan. En los modelos de lenguaje, los transformers las han sustituido en gran medida.

redes neuronales
secuencias
+1

Modelado de secuencias

El modelado de secuencias abarca métodos que procesan y predicen datos con un orden fijo, en los que importa la posición de cada elemento. Secuencias típicas son el texto, el habla, las series temporales como ventas o lecturas de sensores y fragmentos de ADN. Las aplicaciones van desde la traducción y la generación de texto hasta el reconocimiento de voz y las previsiones de ventas. Se han usado modelos ocultos de Márkov y redes recurrentes; hoy en el lenguaje dominan los modelos transformer.

secuencias
aprendizaje profundo
+1

Transformer

El Transformer es una arquitectura de red neuronal presentada en 2017 en el artículo de investigación «Attention Is All You Need». Su núcleo es el mecanismo de atención: cada palabra se pondera en relación con todas las demás del texto, y el cálculo se paraleliza con eficacia. Los Transformers son la base de los modelos de lenguaje actuales como GPT, Claude o BERT y también se usan para imagen y audio.

Arquitectura
Deep learning
+1