Słownik pojęć

Wektor osadzenia (embedding)

Czym jest Wektor osadzenia (embedding)?

Wektor osadzenia (embedding) to lista liczb reprezentująca znaczenie słowa, zdania lub dokumentu w taki sposób, że teksty o podobnej treści leżą blisko siebie. Dzięki temu można rozpoznać na przykład, że „wypowiedzenie” i „rozwiązanie umowy” są ze sobą powiązane, mimo że nie mają wspólnych słów. Embeddingi leżą u podstaw wielu systemów wyszukiwania semantycznego, usług rekomendacyjnych i aplikacji RAG; są obliczane przez specjalnie wytrenowane modele.

Jak pomaga KI.ordo

KI.ordo nie używa embeddingów do wyszukiwania w wiedzy, lecz wyszukiwania słów kluczowych BM25, wykonywanego bezpośrednio na serwerze.

Tematy

  • wektor
  • wyszukiwanie semantyczne
  • NLP

Wypróbuj KI.ordo

Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.

Uruchom demo
← Wszystkie pojęcia

Powiązane pojęcia

Osadzenia słów (word embeddings)

Osadzenia słów reprezentują słowa jako wektory liczbowe, tak aby słowa o podobnym znaczeniu leżały blisko siebie w przestrzeni wektorowej, na przykład „samochód” i „pojazd”. Metody takie jak Word2Vec czy GloVe uczą się tych wektorów z dużych zbiorów tekstów. Były one ważnym krokiem w przetwarzaniu języka, na przykład w wyszukiwaniu lub klasyfikacji; dzisiejsze modele językowe używają kontekstowych osadzeń, w których słowo jest reprezentowane inaczej w zależności od zdania.

  • NLP
  • Wektory
  • +1

Generowanie wspomagane wyszukiwaniem (RAG)

Generowanie wspomagane wyszukiwaniem łączy wyszukiwanie z generowaniem tekstu: przed udzieleniem odpowiedzi system przeszukuje zbiór wiedzy – na przykład instrukcje, regulaminy wewnętrzne lub FAQ – w poszukiwaniu istotnych fragmentów i przekazuje je modelowi językowemu jako kontekst. Odpowiedź opiera się więc na aktualnych treściach specyficznych dla firmy, a nie wyłącznie na wiedzy treningowej modelu. Ogranicza to zmyślone stwierdzenia, umożliwia prześledzenie źródeł i pozwala na aktualizacje bez ponownego trenowania.

  • RAG
  • wyszukiwanie wiedzy
  • +1

Wyszukiwanie informacji (information retrieval)

Wyszukiwanie informacji (information retrieval) obejmuje metody znajdowania w dużym zbiorze tekstów dokumentów lub fragmentów pasujących do zapytania i porządkowania ich według trafności. Klasyczne podejścia, takie jak BM25, ważą szukane terminy według tego, jak często i jak rzadko występują; nowsze dodają podobieństwo semantyczne. Stanowi podstawę wyszukiwarek, wyszukiwania korporacyjnego i generowania wspomaganego wyszukiwaniem, w którym model językowy wykorzystuje znalezione fragmenty jako podstawę odpowiedzi.

  • Wyszukiwanie
  • BM25
  • +1

Transformer

Transformer to architektura sieci neuronowych przedstawiona w 2017 roku w artykule naukowym „Attention Is All You Need”. Jej rdzeniem jest mechanizm uwagi: każde słowo jest ważone w relacji do wszystkich pozostałych słów w tekście, a obliczenia można efektywnie zrównoleglać. Transformery stanowią podstawę dzisiejszych modeli językowych, takich jak GPT, Claude i BERT, i są też wykorzystywane do obrazów i dźwięku.

  • Architektura
  • Deep learning
  • +1