Terminų žodynas

Įterpties vektorius (embedding)

Kas yra Įterpties vektorius (embedding)?

Įterpties vektorius (įterptis, angl. embedding) – tai skaičių sąrašas, vaizduojantis žodžio, sakinio ar dokumento prasmę taip, kad panašaus turinio tekstai atsiduria arti vienas kito. Tai leidžia pastebėti, pavyzdžiui, kad „atšaukimas“ ir „sutarties nutraukimas“ yra susiję, nors neturi bendrų žodžių. Įterptys yra daugelio semantinės paieškos sistemų, rekomendacijų paslaugų ir RAG taikomųjų programų pagrindas; jas skaičiuoja specialiai apmokyti modeliai.

Kaip padeda KI.ordo

KI.ordo žinių paieškai nenaudoja įterpčių, o naudoja BM25 raktažodžių paiešką, vykdomą tiesiogiai serveryje.

Temos

vektorius
semantinė paieška
NLP

Išbandykite KI.ordo

Agentai, srautai ir šablonai vienoje darbo srityje – nemokama 24 valandų demonstracinė versija.

Pradėti demonstraciją

← Visi terminai

Susiję terminai

Žodžių įterpiniai

Žodžių įterpiniai pateikia žodžius kaip skaitinius vektorius, kad panašios prasmės žodžiai vektorių erdvėje būtų arti vienas kito, pavyzdžiui, „automobilis“ ir „transporto priemonė“. Tokie metodai kaip Word2Vec ar GloVe šiuos vektorius išmoksta iš didelių tekstų kiekių. Jie buvo svarbus žingsnis kalbos apdorojime, pavyzdžiui, paieškai ar klasifikavimui; šiandienos kalbos modeliai naudoja kontekstinius įterpinius, kuriuose žodis pateikiamas skirtingai, priklausomai nuo sakinio.

NLP
Vektoriai
+1

Papildyta paieškos generacija (RAG)

Papildyta paieškos generacija (angl. retrieval-augmented generation) sujungia paiešką su tekstų generavimu: prieš atsakydama sistema žinių rinkinyje – pavyzdžiui, instrukcijose, taisyklėse ar DUK – ieško svarbių ištraukų ir perduoda jas kalbos modeliui kaip kontekstą. Todėl atsakymas remiasi aktualiu, įmonei specifiniu turiniu, o ne tik modelio mokymo žiniomis. Tai sumažina išgalvotus teiginius, leidžia atsekti šaltinius ir atnaujinti turinį be permokymo.

RAG
žinių paieška
+1

Informacijos paieška (information retrieval)

Informacijos paieška apima metodus, kurie dideliame teksto kiekyje randa užklausą atitinkančius dokumentus ar ištraukas ir surikiuoja jas pagal aktualumą. Klasikiniai metodai, tokie kaip BM25, paieškos terminus sveria pagal tai, kaip dažnai ir kaip retai jie pasitaiko; naujesni prideda semantinį panašumą. Ji yra paieškos sistemų, įmonių paieškos ir paieška papildyto generavimo pagrindas, kai kalbos modelis rastas ištraukas naudoja kaip atsakymo pagrindą.

Paieška
BM25
+1

Transformer

Transformeris – neuroninio tinklo architektūra, pristatyta 2017 m. moksliniame straipsnyje „Attention Is All You Need“. Jos esmė – dėmesio mechanizmas: kiekvienas teksto žodis įvertinamas atsižvelgiant į visus kitus žodžius, o skaičiavimus galima efektyviai lygiagretinti. Transformeriais remiasi šiandienos kalbos modeliai, tokie kaip GPT, Claude ir BERT, jie taip pat naudojami vaizdams ir garsui.

architektūra
Gilusis mokymasis
+1