BG
ВходЗапочнете сега
Речник

Халюцинация

Какво е Халюцинация?

Халюцинацията е изход на ИИ модел, който звучи убедително, но е грешен или напълно измислен – например несъществуващо съдебно решение, неточна цифра или измислен източник. Причината: езиковите модели създават вероятни формулировки; те не търсят автоматично факти. Рискът намалява, когато отговорите се основават на проверени източници, посочват се доказателства и хората проверяват важните резултати.

Как помага KI.ordo

Агентите на KI.ordo отговарят от знанията, които предоставяте, посочват източниците си и открито казват, когато не знаят нещо; шаблонът „Проверка на факти спрямо собствените знания“ помага при проверката – грешки все пак не могат да бъдат изключени напълно.

Научете повече : Халюцинация

Подходящи шаблони

Теми

  • Езикови модели
  • Надеждност
  • Риск

Изпробвайте KI.ordo

Агенти, потоци и шаблони в едно работно пространство – безплатна 24-часова демонстрация.

Стартирайте демото
← Всички термини

Свързани термини

Генериране, допълнено с извличане (RAG)

Генерирането, допълнено с извличане (Retrieval-augmented generation), съчетава търсене с генериране на текст: преди да отговори, системата търси в колекция от знания – например ръководства, правилници или често задавани въпроси – подходящи пасажи и ги подава на езиковия модел като контекст. Така отговорът се основава на актуално съдържание, специфично за компанията, а не само на знанията от обучението на модела. Това намалява измислените твърдения, прави източниците проследими и позволява актуализации без повторно обучение.

  • RAG
  • търсене в знанията
  • +1

Граница на знанията (knowledge cutoff)

Границата на знанията (knowledge cutoff) е моментът, до който стигат данните за обучение на езиковия модел. Моделът няма присъщи знания за събития, цени, закони или продукти, възникнали след него, и може да дава остаряла информация, ако не му се предоставят актуални данни. Това може да се реши с методи, които въвеждат собствени документи или актуално уеб съдържание по време на изпълнение.

  • LLM
  • Актуалност
  • +1

Голям езиков модел (LLM)

Големият езиков модел (large language model, LLM) е невронна мрежа, обучена върху много големи количества текст, която може да разбира и генерира език. Работи, като стъпка по стъпка изчислява най-вероятния следващ токен. LLM пишат, обобщават, превеждат, отговарят на въпроси и генерират код; известни примери са Claude, GPT, Gemini и Llama. Без достъп до актуални източници те знаят само онова, което е било в обучителните им данни.

  • Езикови модели
  • Генеративен ИИ
  • +1

Човек в цикъла (human-in-the-loop)

Човек в цикъла (human-in-the-loop) описва работни процеси, при които хора се включват в ИИ процес на определени точки: преглеждат резултатите, одобряват ги или ги коригират, или поемат трудните случаи. Принципът намалява риска от погрешни резултати и оставя отговорността на хората, особено при решения, засягащи отделни лица, пари или правни въпроси. Пример: ИИ агент изготвя отговори на запитвания на клиенти, а служител ги проверява, преди да бъдат изпратени.

  • Одобрение
  • Надзор
  • +1