Fogalomtár

Kétirányú LSTM

Mi a(z) Kétirányú LSTM?

A kétirányú LSTM (BiLSTM) olyan rekurrens neurális hálózat, amely egy sorozatot előre és visszafelé is beolvas, és a két nézőpontot egyesíti. Így az egyes szavakat követő kontextust is figyelembe veszi. Mielőtt a transzformerek átvették volna a vezető szerepet, ez volt a szokásos választás olyan feladatokhoz, mint a szófaji címkézés, a névelem-felismerés és a beszédfelismerés. Nagyon hosszú szövegek és nagy adathalmazok esetén ma általában a transzformerek teljesítenek jobban.

Témák

Neurális hálózatok
Szekvenciamodellek
NLP

Próbálja ki a KI.ordót

Ügynökök, munkafolyamatok és sablonok egyetlen munkaterületen – ingyenes, 24 órás demó.

Demó indítása

← Minden fogalom

Kapcsolódó fogalmak

Long Short-Term Memory (LSTM)

A hosszú rövid távú memória (Long Short-Term Memory, LSTM) a rekurrens neurális hálók egy típusa, amely hosszú sorozatokon át képes megőrizni az információt. Az úgynevezett kapuk minden lépésben eldöntik, mit tároljon, felejtsen el vagy adjon ki, ami enyhíti az eltűnő gradiens problémáját. Az LSTM-ek éveken át meghatározták a beszédfelismerést, a fordítást és az idősor-előrejelzést. A nyelvfeldolgozásban nagyrészt a transzformerek váltották fel őket, de az érzékelőadatoknál továbbra is gyakoriak.

neurális hálók
sorozatok
+1

Rekurrens neurális hálózat (RNN)

A rekurrens neurális hálózat sorrendben dolgozza fel az adatokat, és egy belső állapotot ad át lépésről lépésre – egyfajta rövid távú memóriát. Ezért alkalmas olyan sorozatokra, mint a szöveg, a beszéd vagy az idősorok, például a következő szó vagy a következő szenzorérték előrejelzésére. Az egyszerű RNN-ek könnyen elfelejtik a távolabbi információt; az olyan változatok, mint az LSTM és a GRU, enyhítik ezt. A nyelvi modelleknél az RNN-eket nagyrészt felváltották a transzformerek.

neurális hálók
sorozatok
+1

Sorozatmodellezés

A sorozatmodellezés olyan módszereket foglal magában, amelyek rögzített sorrendű adatokat dolgoznak fel és jeleznek előre, ahol az egyes elemek helye számít. Tipikus sorozatok a szöveg, a beszélt nyelv, az idősorok – például értékesítési vagy szenzoradatok – és a DNS-szakaszok. Az alkalmazások a fordítástól és a szöveggenerálástól a beszédfelismerésen át az értékesítési előrejelzésig terjednek. Erre rejtett Markov-modelleket és rekurrens hálózatokat használtak; ma a nyelvnél a transzformer-modellek dominálnak.

sorozatok
mélytanulás
+1

Névelem-felismerés (NER)

A névelem-felismerés (Named Entity Recognition, NER) egy természetesnyelv-feldolgozási technika, amely a szövegben megtalálja a személyek, cégek és helyek nevét, valamint a dátumokat vagy összegeket, és mindegyiket kategóriába sorolja. A szabad szöveget strukturált adattá alakítja. Példa: egy e-mailből automatikusan kinyerik a feladó cégét, a kapcsolattartót, a szállítási dátumot és a számlaösszeget, és átviszik egy CRM-be.

NLP
információkinyerés
+1

Sablon