Речник

Генериране, допълнено с извличане (RAG)

Какво е Генериране, допълнено с извличане (RAG)?

Генерирането, допълнено с извличане (Retrieval-augmented generation), съчетава търсене с генериране на текст: преди да отговори, системата търси в колекция от знания – например ръководства, правилници или често задавани въпроси – подходящи пасажи и ги подава на езиковия модел като контекст. Така отговорът се основава на актуално съдържание, специфично за компанията, а не само на знанията от обучението на модела. Това намалява измислените твърдения, прави източниците проследими и позволява актуализации без повторно обучение.

Как помага KI.ordo

Точно така работят агентите на KI.ordo: те търсят в съхранените знания чрез търсене по ключови думи (BM25) и отговарят с посочване на източници.

Научете повече

Теми

RAG
търсене в знанията
езикови модели

Изпробвайте KI.ordo

Агенти, потоци и шаблони в едно работно пространство – безплатна 24-часова демонстрация.

Стартирайте демото

← Всички термини

Свързани термини

Конвейер за извличане

Конвейерът за извличане (retrieval pipeline) е последователността от стъпки на обработка, с която една система намира правилната информация за даден въпрос. Типични стъпки са: приемане и почистване на документите, разделянето им на части (chunks), изграждане на индекс за търсене, при желание преформулиране на заявката, извличане на съвпаденията, подреждането им (reranking) и подаване на най-добрите към езиковия модел. Той е основата на всяко RAG приложение и качеството му до голяма степен определя колко добри ще бъдат получените отговори.

RAG
търсене
+1

Халюцинация

Халюцинацията е изход на ИИ модел, който звучи убедително, но е грешен или напълно измислен – например несъществуващо съдебно решение, неточна цифра или измислен източник. Причината: езиковите модели създават вероятни формулировки; те не търсят автоматично факти. Рискът намалява, когато отговорите се основават на проверени източници, посочват се доказателства и хората проверяват важните резултати.

Езикови модели
Надеждност
+1

Шаблон

Генериране, допълнено с кеш (CAG)

Генерирането, допълнено с кеш (cache-augmented generation, CAG), е подход, при който езиковият модел не търси знания при всеки въпрос. Вместо това обозрима база от знания се зарежда предварително в контекстния му прозорец и това състояние се кешира, така че отговорите не изискват отделна стъпка на извличане. Терминът е популяризиран от научна статия от края на 2024 г. като алтернатива на генерирането, допълнено с извличане (RAG). CAG е подходящо за малки, стабилни бази от знания; при големи или често променящи се данни RAG обикновено остава по-практично.

RAG
Контекстен прозорец
+1

Извличане на информация (information retrieval)

Извличането на информация (information retrieval) обхваща методи за намиране на документите или откъсите в голям обем текст, които съответстват на дадена заявка, и за подреждането им по релевантност. Класически подходи като BM25 претеглят термините за търсене според това колко често и колко рядко се срещат; по-новите добавят семантично сходство. То е в основата на търсачките, корпоративното търсене и retrieval-augmented generation, при което езиков модел използва извлечените откъси като основа за отговора си.

Търсене
BM25
+1