Glosario

Modelado de secuencias

¿Qué es Modelado de secuencias?

El modelado de secuencias abarca métodos que procesan y predicen datos con un orden fijo, en los que importa la posición de cada elemento. Secuencias típicas son el texto, el habla, las series temporales como ventas o lecturas de sensores y fragmentos de ADN. Las aplicaciones van desde la traducción y la generación de texto hasta el reconocimiento de voz y las previsiones de ventas. Se han usado modelos ocultos de Márkov y redes recurrentes; hoy en el lenguaje dominan los modelos transformer.

Temas

  • secuencias
  • aprendizaje profundo
  • series temporales

Probar KI.ordo

Agentes, flujos y plantillas en un solo espacio de trabajo – demo gratuita de 24 horas.

Iniciar demo
← Todos los términos

Términos relacionados

Red neuronal recurrente (RNN)

Una red neuronal recurrente procesa los datos en orden y en cada paso pasa un estado interno al siguiente, una especie de memoria a corto plazo. Por eso es adecuada para secuencias como texto, voz o series temporales, por ejemplo para predecir la siguiente palabra o el próximo valor de un sensor. Las RNN simples olvidan con facilidad la información lejana; variantes como LSTM y GRU lo mitigan. En los modelos de lenguaje, los transformers las han sustituido en gran medida.

  • redes neuronales
  • secuencias
  • +1

Long Short-Term Memory (LSTM)

Long Short-Term Memory (LSTM) es un tipo de red neuronal recurrente capaz de conservar información a lo largo de secuencias largas. Unas puertas (gates) deciden en cada paso qué guardar, olvidar o emitir, lo que atenúa el problema del gradiente que se desvanece. Durante años marcaron el reconocimiento de voz, la traducción y las previsiones de series temporales. En el procesamiento del lenguaje los transformers las han sustituido en gran parte, pero siguen siendo habituales con datos de sensores.

  • redes neuronales
  • secuencias
  • +1

Transformer

El Transformer es una arquitectura de red neuronal presentada en 2017 en el artículo de investigación «Attention Is All You Need». Su núcleo es el mecanismo de atención: cada palabra se pondera en relación con todas las demás del texto, y el cálculo se paraleliza con eficacia. Los Transformers son la base de los modelos de lenguaje actuales como GPT, Claude o BERT y también se usan para imagen y audio.

  • Arquitectura
  • Deep learning
  • +1

Modelo oculto de Márkov (HMM)

Un modelo oculto de Márkov (Hidden Markov Model, HMM) es un modelo estadístico para secuencias en el que los estados reales están ocultos y solo se pueden deducir a partir de señales observables. Describe la probabilidad de que un estado siga a otro y de que produzca una observación determinada. Los HMM fueron durante años el estándar en reconocimiento de voz y etiquetado gramatical; hoy se siguen usando, por ejemplo, en bioinformática y series temporales.

  • Estadística
  • Modelos de secuencia
  • +1