Fogalomtár

Sorozatmodellezés

Mi a(z) Sorozatmodellezés?

A sorozatmodellezés olyan módszereket foglal magában, amelyek rögzített sorrendű adatokat dolgoznak fel és jeleznek előre, ahol az egyes elemek helye számít. Tipikus sorozatok a szöveg, a beszélt nyelv, az idősorok – például értékesítési vagy szenzoradatok – és a DNS-szakaszok. Az alkalmazások a fordítástól és a szöveggenerálástól a beszédfelismerésen át az értékesítési előrejelzésig terjednek. Erre rejtett Markov-modelleket és rekurrens hálózatokat használtak; ma a nyelvnél a transzformer-modellek dominálnak.

Témák

sorozatok
mélytanulás
idősor

Próbálja ki a KI.ordót

Ügynökök, munkafolyamatok és sablonok egyetlen munkaterületen – ingyenes, 24 órás demó.

Demó indítása

← Minden fogalom

Kapcsolódó fogalmak

Rekurrens neurális hálózat (RNN)

A rekurrens neurális hálózat sorrendben dolgozza fel az adatokat, és egy belső állapotot ad át lépésről lépésre – egyfajta rövid távú memóriát. Ezért alkalmas olyan sorozatokra, mint a szöveg, a beszéd vagy az idősorok, például a következő szó vagy a következő szenzorérték előrejelzésére. Az egyszerű RNN-ek könnyen elfelejtik a távolabbi információt; az olyan változatok, mint az LSTM és a GRU, enyhítik ezt. A nyelvi modelleknél az RNN-eket nagyrészt felváltották a transzformerek.

neurális hálók
sorozatok
+1

Long Short-Term Memory (LSTM)

A hosszú rövid távú memória (Long Short-Term Memory, LSTM) a rekurrens neurális hálók egy típusa, amely hosszú sorozatokon át képes megőrizni az információt. Az úgynevezett kapuk minden lépésben eldöntik, mit tároljon, felejtsen el vagy adjon ki, ami enyhíti az eltűnő gradiens problémáját. Az LSTM-ek éveken át meghatározták a beszédfelismerést, a fordítást és az idősor-előrejelzést. A nyelvfeldolgozásban nagyrészt a transzformerek váltották fel őket, de az érzékelőadatoknál továbbra is gyakoriak.

neurális hálók
sorozatok
+1

Transformer

A transzformer egy neurális hálózati architektúra, amelyet 2017-ben az „Attention Is All You Need” kutatási cikkben mutattak be. Középpontjában a figyelemmechanizmus áll: a szöveg minden szavát a többi szóhoz viszonyítva súlyozza, és a számítás hatékonyan párhuzamosítható. A transzformerek a mai nyelvi modellek – például a GPT, a Claude és a BERT – alapját képezik, és képekhez, valamint hanghoz is használják őket.

architektúra
Mélytanulás
+1

Rejtett Markov-modell (HMM)

A rejtett Markov-modell (Hidden Markov Model, HMM) sorozatokra szolgáló statisztikai modell, amelyben a tényleges állapotok rejtettek, és csak megfigyelhető jelekből következtethetők ki. Leírja annak valószínűségét, hogy egy állapotot egy másik követ, és hogy minden állapot egy adott megfigyelést hoz létre. A HMM-ek sokáig a beszédfelismerés és a szófaji címkézés szabványát jelentették; ma is használják őket például a bioinformatikában és az idősorelemzésben.

Statisztika
Szekvenciamodellek
+1