Ukryty model Markowa (HMM) to model statystyczny dla sekwencji, w którym rzeczywiste stany są ukryte i można je wywnioskować tylko z obserwowalnych sygnałów. Opisuje prawdopodobieństwo, że po jednym stanie nastąpi inny, oraz że każdy stan wytworzy daną obserwację. HMM-y były długo standardem w rozpoznawaniu mowy i oznaczaniu części mowy; dziś nadal stosuje się je na przykład w bioinformatyce i analizie szeregów czasowych.
Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.
Uruchom demoModelowanie sekwencji obejmuje metody, które przetwarzają i przewidują dane w ustalonej kolejności, w której liczy się pozycja każdego elementu. Typowe sekwencje to tekst, mowa, szeregi czasowe, takie jak sprzedaż lub odczyty czujników, oraz fragmenty DNA. Zastosowania sięgają od tłumaczenia i generowania tekstu po rozpoznawanie mowy i prognozowanie sprzedaży. Dawniej stosowano do tego ukryte modele Markowa i sieci rekurencyjne; dziś w przypadku języka dominują modele typu transformer.
Oznaczanie części mowy automatycznie przypisuje każdemu słowu w zdaniu jego kategorię gramatyczną, na przykład rzeczownik, czasownik, przymiotnik lub przyimek. Ponieważ wiele słów jest wieloznacznych („stali” jako forma rzeczownika „stal” lub czasownika „stać”), metody uwzględniają kontekst zdania. POS tagging to klasyczny krok wstępnego przetwarzania w parsowaniu, ekstrakcji informacji lub sprawdzaniu pisowni i jest oferowany przez biblioteki takie jak spaCy i NLTK.
Rekurencyjna sieć neuronowa przetwarza dane po kolei i przekazuje stan wewnętrzny z jednego kroku do następnego – rodzaj pamięci krótkotrwałej. Dzięki temu nadaje się do sekwencji, takich jak tekst, mowa lub szeregi czasowe, na przykład do przewidywania kolejnego słowa lub kolejnego odczytu czujnika. Proste sieci RNN łatwo zapominają informacje z odległej przeszłości; warianty takie jak LSTM i GRU łagodzą ten problem. W modelach językowych sieci RNN zostały w dużej mierze wyparte przez transformery.
Rozpoznawanie mowy, zwane też ASR (automatic speech recognition), automatycznie zamienia język mówiony na tekst pisany. Nowoczesne systemy korzystają z sieci neuronowych trenowanych na dużych zbiorach nagrań audio i całkiem dobrze radzą sobie z akcentami i hałasem w tle. Zastosowania obejmują dyktowanie, napisy, asystentów głosowych oraz transkrypcję spotkań i rozmów z klientami. Terminy specjalistyczne, nazwy własne i słaba jakość dźwięku pozostają częstymi źródłami błędów.
