Ein Hidden-Markov-Modell (HMM) ist ein statistisches Modell für Abfolgen, bei dem die eigentlichen Zustände verborgen sind und nur über beobachtbare Signale erschlossen werden können. Es beschreibt, mit welcher Wahrscheinlichkeit ein Zustand auf den nächsten folgt und welche Beobachtung er erzeugt. HMMs waren lange Standard in der Spracherkennung und beim Bestimmen von Wortarten; heute werden sie etwa noch in der Bioinformatik und bei Zeitreihen eingesetzt.
Agenten, Abläufe und Vorlagen in einem Arbeitsbereich – 24 Stunden kostenlos als Demo.
Demo startenSequenzmodellierung umfasst Verfahren, die Daten mit fester Reihenfolge verarbeiten und vorhersagen, bei denen also die Position eines Elements eine Rolle spielt. Typische Sequenzen sind Text, gesprochene Sprache, Zeitreihen wie Umsätze oder Sensorwerte sowie DNA-Abschnitte. Anwendungen reichen von Übersetzung und Textgenerierung über Spracherkennung bis zu Absatzprognosen. Verwendet wurden dafür Hidden-Markov-Modelle und rekurrente Netze; heute dominieren bei Sprache Transformer-Modelle.
Beim Wortarten-Tagging (Part-of-Speech-Tagging) erhält jedes Wort eines Satzes automatisch seine grammatische Kategorie, etwa Nomen, Verb, Adjektiv oder Präposition. Weil viele Wörter mehrdeutig sind – „Bank“ als Möbel oder Geldinstitut, „laufen“ als Verb oder substantiviert –, berücksichtigen die Verfahren den Satzzusammenhang. POS-Tagging ist ein klassischer Vorverarbeitungsschritt, etwa für Satzanalyse, Informationsextraktion oder Rechtschreibprüfung, und wird von Bibliotheken wie spaCy oder NLTK angeboten.
Ein rekurrentes neuronales Netz verarbeitet Daten der Reihe nach und gibt bei jedem Schritt einen inneren Zustand an den nächsten weiter – eine Art Kurzzeitgedächtnis. Damit eignet es sich für Sequenzen wie Text, Sprache oder Zeitreihen, etwa zur Vorhersage des nächsten Wortes oder von Sensorwerten. Einfache RNNs vergessen weit zurückliegende Informationen leicht; Varianten wie LSTM und GRU mildern das. Für Sprachmodelle wurden RNNs weitgehend von Transformern abgelöst.
Spracherkennung, auch ASR (Automatic Speech Recognition) genannt, wandelt gesprochene Sprache automatisch in geschriebenen Text um. Moderne Systeme nutzen neuronale Netze, die auf großen Mengen von Audioaufnahmen trainiert wurden, und kommen auch mit Akzenten und Hintergrundgeräuschen recht gut zurecht. Anwendungen sind Diktierfunktionen, Untertitel, Sprachassistenten oder die Transkription von Besprechungen und Kundengesprächen. Fachbegriffe, Eigennamen und schlechte Tonqualität bleiben häufige Fehlerquellen.
