Pojmovnik

Vektor ugrađivanja (embedding)

Što je Vektor ugrađivanja (embedding)?

Vektor ugrađivanja (embedding) popis je brojeva koji predstavlja značenje riječi, rečenice ili dokumenta tako da tekstovi sličnog sadržaja leže blizu jedni drugima. To omogućuje, primjerice, prepoznavanje da su „otkaz” i „prekid ugovora” povezani iako nemaju zajedničkih riječi. Embeddingi su temelj mnogih sustava semantičke pretrage, usluga preporuka i RAG aplikacija; izračunavaju ih posebno trenirani modeli.

Kako KI.ordo pomaže

KI.ordo ne koristi embeddinge za pretragu znanja, nego pretragu ključnih riječi BM25, koja se izvodi izravno na poslužitelju.

Teme

vektor
semantička pretraga
NLP

Isprobajte KI.ordo

Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.

Pokrenite demo

← Svi pojmovi

Srodni pojmovi

Ugradnje riječi (word embeddings)

Ugradnje riječi prikazuju riječi kao numeričke vektore tako da riječi sličnog značenja leže blizu u vektorskom prostoru, primjerice „auto“ i „vozilo“. Metode poput Word2Veca ili GloVea uče te vektore iz velikih količina teksta. Bile su važan korak u obradi jezika, primjerice za pretraživanje ili klasifikaciju; današnji jezični modeli koriste kontekstualne ugradnje u kojima se riječ prikazuje drukčije ovisno o rečenici.

NLP
Vektori
+1

Generiranje potpomognuto dohvaćanjem (RAG)

Generiranje potpomognuto dohvaćanjem povezuje pretraživanje i generiranje teksta: prije odgovaranja sustav u zbirci znanja – primjerice priručnicima, pravilnicima ili čestim pitanjima – traži relevantne odlomke i prosljeđuje ih jezičnom modelu kao kontekst. Odgovor se tako temelji na aktualnom sadržaju specifičnom za tvrtku, a ne samo na znanju stečenom treniranjem modela. To smanjuje izmišljene tvrdnje, omogućuje praćenje izvora i dopušta ažuriranja bez ponovnog treniranja.

RAG
pretraživanje znanja
+1

Dohvaćanje informacija (information retrieval)

Dohvaćanje informacija (information retrieval) obuhvaća metode koje u velikom korpusu teksta pronalaze dokumente ili odlomke koji odgovaraju upitu i rangiraju ih prema relevantnosti. Klasični pristupi poput BM25 ponderiraju pojmove pretrage prema tome koliko se često i koliko rijetko pojavljuju; noviji dodaju semantičku sličnost. Temelj je tražilica, pretraživanja unutar poduzeća i generiranja potpomognutog dohvaćanjem, u kojem jezični model dohvaćene odlomke koristi kao osnovu za svoj odgovor.

Pretraživanje
BM25
+1

Transformer

Transformer je arhitektura neuronskih mreža predstavljena 2017. u istraživačkom radu „Attention Is All You Need“. U njezinoj je jezgri mehanizam pažnje: svaka riječ vaga se u odnosu na sve ostale riječi u tekstu, a izračun se može učinkovito paralelizirati. Transformeri su temelj današnjih jezičnih modela poput GPT-a, Claudea i BERT-a, a koriste se i za slike i zvuk.

Arhitektura
Duboko učenje
+1