Sõnastik

Sisendivektor (embedding)

Mis on Sisendivektor (embedding)?

Sisendivektor (embedding) on arvude loend, mis esitab sõna, lause või dokumendi tähendust nii, et sarnase sisuga tekstid asuvad üksteise lähedal. See võimaldab näiteks tuvastada, et „ülesütlemine“ ja „lepingu lõpetamine“ on omavahel seotud, kuigi neil pole ühtegi ühist sõna. Sisendivektorid on paljude semantiliste otsingusüsteemide, soovitusteenuste ja RAG-rakenduste aluseks; neid arvutavad spetsiaalselt treenitud mudelid.

Kuidas KI.ordo aitab

KI.ordo ei kasuta oma teadmisteotsingus sisendivektoreid, vaid BM25 märksõnaotsingut, mis töötab otse serveris.

Teemad

vektor
semantiline otsing
NLP

Proovi KI.ordot

Agendid, töövood ja mallid ühes tööruumis – tasuta 24-tunnine demo.

Alusta demot

← Kõik terminid

Seotud terminid

Sõnaembeddingud

Sõnaembeddingud esitavad sõnu arvuvektoritena nii, et sarnase tähendusega sõnad asuvad vektorruumis lähestikku, näiteks „auto“ ja „sõiduk“. Meetodid nagu Word2Vec või GloVe õpivad need vektorid suurtest tekstihulkadest. Need olid keeletöötluses oluline samm, näiteks otsingu või klassifitseerimise jaoks; tänapäeva keelemudelid kasutavad kontekstipõhiseid embeddinguid, kus sõna esitatakse sõltuvalt lausest erinevalt.

NLP
vektorid
+1

Otsinguga täiendatud genereerimine (RAG)

Otsinguga täiendatud genereerimine (retrieval-augmented generation) ühendab otsingu ja tekstigenereerimise: enne vastamist otsib süsteem teadmiste kogumikust – näiteks käsiraamatutest, reeglitest või KKK-st – asjakohaseid lõike ja annab need keelemudelile kontekstina. Vastus põhineb seega ajakohasel, ettevõttespetsiifilisel sisul, mitte ainult mudeli treeningteadmistel. See vähendab väljamõeldud väiteid, muudab allikad jälgitavaks ja võimaldab värskendusi ilma ümberõppeta.

RAG
teadmiste otsing
+1

Infootsing

Infootsing hõlmab meetodeid, mis leiavad suurest tekstihulgast päringule vastavad dokumendid või lõigud ja järjestavad need olulisuse järgi. Klassikalised lähenemised, nagu BM25, kaalutlevad otsingutermineid selle järgi, kui sageli ja kui harva need esinevad; uuemad lisavad semantilise sarnasuse. See on otsingumootorite, ettevõttesisese otsingu ja otsingupõhise genereerimise (RAG) aluseks, kus keelemudel kasutab leitud lõike oma vastuse alusena.

Otsing
BM25
+1

Transformer

Transformer on närvivõrgu arhitektuur, mis tutvustati 2017. aastal uurimistöös „Attention Is All You Need“. Selle tuumaks on tähelepanumehhanism: iga sõna kaalutakse suhtes kõigi teiste sõnadega tekstis ning arvutust saab tõhusalt paralleliseerida. Transformerid on tänapäeva keelemudelite, nagu GPT, Claude ja BERT, aluseks ning neid kasutatakse ka piltide ja heli jaoks.

Arhitektuur
Süvaõpe
+1