Slovník pojmov

Vektor vnorenia (embedding)

Čo je Vektor vnorenia (embedding)?

Vektor vnorenia (embedding) je zoznam čísel, ktorý reprezentuje význam slova, vety alebo dokumentu tak, že texty s podobným obsahom ležia blízko seba. Vďaka tomu možno napríklad rozpoznať, že „výpoveď“ a „ukončenie zmluvy“ spolu súvisia, hoci nemajú spoločné slová. Vnorenia sú základom mnohých systémov sémantického vyhľadávania, odporúčacích služieb a aplikácií RAG; vypočítavajú ich špeciálne natrénované modely.

Ako pomáha KI.ordo

KI.ordo nepoužíva vnorenia na vyhľadávanie znalostí, ale kľúčové vyhľadávanie BM25 spúšťané priamo na serveri.

Témy

  • vektor
  • sémantické vyhľadávanie
  • NLP

Vyskúšajte KI.ordo

Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.

Spustiť demo
← Všetky pojmy

Súvisiace pojmy

Word embeddings

Word embeddings reprezentujú slová ako číselné vektory tak, aby slová s podobným významom ležali vo vektorovom priestore blízko seba, napríklad „auto“ a „vozidlo“. Metódy ako Word2Vec alebo GloVe sa tieto vektory učia z veľkého množstva textu. Boli dôležitým krokom v spracovaní jazyka, napríklad pri vyhľadávaní alebo klasifikácii; dnešné jazykové modely používajú kontextové embeddingy, v ktorých je slovo reprezentované inak podľa vety.

  • NLP
  • Vektory
  • +1

Retrieval-augmented generation (RAG)

Retrieval-augmented generation spája vyhľadávanie s generovaním textu: pred odpoveďou systém vyhľadá relevantné pasáže v zbierke znalostí – napríklad v príručkách, smerniciach alebo FAQ – a odovzdá ich jazykovému modelu ako kontext. Odpoveď tak vychádza z aktuálneho obsahu špecifického pre firmu, a nielen z trénovacích znalostí modelu. Znižuje to vymyslené tvrdenia, zviditeľňuje zdroje a umožňuje aktualizácie bez pretrénovania.

  • RAG
  • vyhľadávanie v znalostiach
  • +1

Vyhľadávanie informácií (information retrieval)

Vyhľadávanie informácií (information retrieval) zahŕňa metódy, ktoré vo veľkom súbore textov nájdu dokumenty alebo úryvky zodpovedajúce dopytu a zoradia ich podľa relevantnosti. Klasické prístupy, ako je BM25, váhujú hľadané výrazy podľa toho, ako často a ako zriedka sa vyskytujú; novšie pridávajú sémantickú podobnosť. Tvorí základ vyhľadávačov, podnikového vyhľadávania a generovania rozšíreného o vyhľadávanie (RAG), pri ktorom jazykový model používa nájdené úryvky ako základ svojej odpovede.

  • Vyhľadávanie
  • BM25
  • +1

Transformer

Transformer je architektúra neurónových sietí, ktorá bola predstavená v roku 2017 vo výskumnej práci „Attention Is All You Need“. Jej jadrom je mechanizmus pozornosti: každé slovo sa váži vo vzťahu ku všetkým ostatným slovám v texte a výpočet sa dá efektívne paralelizovať. Transformery tvoria základ dnešných jazykových modelov, ako sú GPT, Claude a BERT, a používajú sa aj pri obrázkoch a zvuku.

  • Architektúra
  • Hlboké učenie
  • +1