PL
Zaloguj sięZacznij teraz
Słownik pojęć

Halucynacja

Czym jest Halucynacja?

Halucynacja to wynik modelu AI, który brzmi przekonująco, ale jest błędny lub całkowicie zmyślony – na przykład nieistniejący wyrok sądu, błędna liczba czy wymyślone źródło. Przyczyna: modele językowe tworzą prawdopodobne sformułowania, a nie sprawdzają automatycznie faktów. Ryzyko maleje, gdy odpowiedzi opierają się na zweryfikowanych źródłach, podawane są dowody, a ważne wyniki sprawdzają ludzie.

Jak pomaga KI.ordo

Agenci KI.ordo odpowiadają na podstawie wiedzy, którą udostępnisz, podają swoje źródła i otwarcie mówią, gdy czegoś nie wiedzą; szablon „Zweryfikuj fakty na podstawie własnej wiedzy” pomaga w sprawdzaniu – błędów nadal nie można całkowicie wykluczyć.

Dowiedz się więcej : Halucynacja

Pasujące szablony

Tematy

  • modele językowe
  • niezawodność
  • ryzyko

Wypróbuj KI.ordo

Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.

Uruchom demo
← Wszystkie pojęcia

Powiązane pojęcia

Generowanie wspomagane wyszukiwaniem (RAG)

Generowanie wspomagane wyszukiwaniem łączy wyszukiwanie z generowaniem tekstu: przed udzieleniem odpowiedzi system przeszukuje zbiór wiedzy – na przykład instrukcje, regulaminy wewnętrzne lub FAQ – w poszukiwaniu istotnych fragmentów i przekazuje je modelowi językowemu jako kontekst. Odpowiedź opiera się więc na aktualnych treściach specyficznych dla firmy, a nie wyłącznie na wiedzy treningowej modelu. Ogranicza to zmyślone stwierdzenia, umożliwia prześledzenie źródeł i pozwala na aktualizacje bez ponownego trenowania.

  • RAG
  • wyszukiwanie wiedzy
  • +1

Granica wiedzy modelu (knowledge cutoff)

Granica wiedzy (knowledge cutoff) to moment, do którego sięgają dane treningowe modelu językowego. Model nie ma wrodzonej wiedzy o wydarzeniach, cenach, przepisach ani produktach, które pojawiły się później, i może podawać nieaktualne informacje, jeśli nie zostanie zasilony bieżącymi danymi. Można temu zaradzić metodami, które w czasie działania wprowadzają własne dokumenty lub aktualne treści z sieci.

  • LLM
  • Aktualność
  • +1

Duży model językowy (LLM)

Duży model językowy (LLM) to sieć neuronowa wytrenowana na bardzo dużych ilościach tekstu, dzięki czemu potrafi rozumieć i generować język. Działa, obliczając krok po kroku najbardziej prawdopodobny kolejny token. LLM-y piszą, streszczają, tłumaczą, odpowiadają na pytania i generują kod; znane przykłady to Claude, GPT, Gemini i Llama. Bez dostępu do aktualnych źródeł wiedzą tylko to, co znajdowało się w ich danych treningowych.

  • modele językowe
  • generatywna AI
  • +1

Człowiek w pętli (human-in-the-loop)

Human-in-the-loop (człowiek w pętli) opisuje przepływy pracy, w których ludzie włączają się w proces AI w określonych punktach: sprawdzają wyniki, zatwierdzają je lub poprawiają albo przejmują trudne przypadki. Zasada ta zmniejsza ryzyko błędnych wyników i pozostawia odpowiedzialność po stronie ludzi, zwłaszcza w decyzjach dotyczących osób, pieniędzy czy spraw prawnych. Przykład: agent AI przygotowuje szkice odpowiedzi na zapytania klientów, a pracownik sprawdza je przed wysłaniem.

  • zatwierdzenie
  • nadzór
  • +1