Речник

Вектор на влагане (embedding)

Какво е Вектор на влагане (embedding)?

Векторът на влагане (embedding) е списък от числа, който представя значението на дума, изречение или документ така, че текстовете със сходно съдържание да са разположени близо един до друг. Това дава възможност да се разпознае например, че „отмяна“ и „прекратяване на договор“ са свързани, въпреки че нямат общи думи. Влаганията са в основата на много системи за семантично търсене, услуги за препоръки и RAG приложения; изчисляват се от специално обучени модели.

Как помага KI.ordo

KI.ordo не използва влагания за търсенето в знанията, а търсенето по ключови думи BM25, изпълнявано директно на сървъра.

Теми

  • вектор
  • семантично търсене
  • NLP

Изпробвайте KI.ordo

Агенти, потоци и шаблони в едно работно пространство – безплатна 24-часова демонстрация.

Стартирайте демото
← Всички термини

Свързани термини

Вградени представяния на думи (word embeddings)

Вградените представяния на думи (word embeddings) представят думите като числови вектори, така че думи с близко значение да лежат близо една до друга във векторното пространство, например „кола“ и „автомобил“. Методи като Word2Vec или GloVe научават тези вектори от големи количества текст. Те бяха важна стъпка в езиковата обработка, например за търсене или класификация; днешните езикови модели използват контекстуални представяния, при които една дума се представя по различен начин в зависимост от изречението.

  • NLP
  • Вектори
  • +1

Генериране, допълнено с извличане (RAG)

Генерирането, допълнено с извличане (Retrieval-augmented generation), съчетава търсене с генериране на текст: преди да отговори, системата търси в колекция от знания – например ръководства, правилници или често задавани въпроси – подходящи пасажи и ги подава на езиковия модел като контекст. Така отговорът се основава на актуално съдържание, специфично за компанията, а не само на знанията от обучението на модела. Това намалява измислените твърдения, прави източниците проследими и позволява актуализации без повторно обучение.

  • RAG
  • търсене в знанията
  • +1

Извличане на информация (information retrieval)

Извличането на информация (information retrieval) обхваща методи за намиране на документите или откъсите в голям обем текст, които съответстват на дадена заявка, и за подреждането им по релевантност. Класически подходи като BM25 претеглят термините за търсене според това колко често и колко рядко се срещат; по-новите добавят семантично сходство. То е в основата на търсачките, корпоративното търсене и retrieval-augmented generation, при което езиков модел използва извлечените откъси като основа за отговора си.

  • Търсене
  • BM25
  • +1

Transformer

Трансформърът е архитектура на невронна мрежа, представена през 2017 г. в научната статия „Attention Is All You Need“. В основата ѝ е механизмът на вниманието: всяка дума се претегля във връзка с всички останали думи в текста, а изчислението може да се паралелизира ефективно. Трансформърите са в основата на днешните езикови модели като GPT, Claude и BERT и се използват също за изображения и аудио.

  • Архитектура
  • Дълбоко обучение
  • +1