HU
BejelentkezésKezdje el most
Fogalomtár

Hallucináció

Mi a(z) Hallucináció?

A hallucináció egy MI-modell meggyőzően hangzó, de téves vagy teljesen kitalált kimenete – például egy nem létező bírósági ítélet, egy hibás szám vagy egy kitalált forrás. Az ok: a nyelvi modellek valószínű megfogalmazásokat állítanak elő, nem keresnek fel automatikusan tényeket. A kockázat csökken, ha a válaszok ellenőrzött forrásokon alapulnak, bizonyítékokat hivatkoznak, és emberek ellenőrzik a fontos eredményeket.

Így segít a KI.ordo

A KI.ordo ügynökei a megadott tudásból válaszolnak, megnevezik a forrásaikat, és nyíltan megmondják, ha valamit nem tudnak; az ellenőrzésben segít a „Tényellenőrzés a saját tudás alapján” sablon – a hibák azonban így sem zárhatók ki teljesen.

További információ : Hallucináció

Kapcsolódó sablonok

Témák

  • nyelvi modellek
  • megbízhatóság
  • kockázat

Próbálja ki a KI.ordót

Ügynökök, munkafolyamatok és sablonok egyetlen munkaterületen – ingyenes, 24 órás demó.

Demó indítása
← Minden fogalom

Kapcsolódó fogalmak

Visszakeresésalapú generálás (RAG)

A visszakeresésalapú generálás a keresést a szöveggeneráláshoz kapcsolja: a válasz előtt a rendszer egy tudásgyűjteményben – például kézikönyvekben, irányelvekben vagy GYIK-ekben – releváns részleteket keres, és ezeket kontextusként átadja a nyelvi modellnek. A válasz így naprakész, vállalatspecifikus tartalmakon alapul, nem csak a modell tanítási tudásán. Ez csökkenti a kitalált állításokat, nyomon követhetővé teszi a forrásokat, és újratanítás nélküli frissítést tesz lehetővé.

  • RAG
  • tudáskeresés
  • +1

Tudáshatár (knowledge cutoff)

A tudáshatár az az időpont, ameddig egy nyelvi modell tanítóadatai terjednek. A modellnek nincs eleve tudása az ezután történt eseményekről, árakról, törvényekről vagy termékekről, és elavult információkat adhat, hacsak nem kap aktuális adatokat. Ezt olyan módszerekkel lehet kezelni, amelyek futásidőben saját dokumentumokat vagy aktuális webes tartalmakat vonnak be.

  • LLM
  • Naprakészség
  • +1

Nagy nyelvi modell (LLM)

A nagy nyelvi modell (LLM) egy nagyon nagy szövegmennyiségen betanított neurális háló, amely képes a nyelv megértésére és előállítására. Úgy működik, hogy lépésről lépésre kiszámítja a legvalószínűbb következő tokent. Az LLM-ek írnak, összefoglalnak, fordítanak, kérdésekre válaszolnak és kódot generálnak; ismert példák a Claude, a GPT, a Gemini és a Llama. Aktuális források elérése nélkül csak azt tudják, ami a tanítóadataikban szerepelt.

  • nyelvi modellek
  • generatív MI
  • +1

Human-in-the-Loop (ember a folyamatban)

A human-in-the-loop olyan munkafolyamatokat ír le, amelyekben emberek meghatározott pontokon lépnek be egy MI-folyamatba: ellenőrzik az eredményeket, jóváhagyják vagy javítják őket, vagy átveszik a nehéz eseteket. Az elv csökkenti a hibás kimenet kockázatát, és az emberen tartja a felelősséget, különösen az egyéneket, pénzt vagy jogi ügyeket érintő döntéseknél. Példa: egy MI-ügynök vázlatot ír az ügyfélmegkeresésekre adott válaszokról, és egy munkatárs elküldés előtt átnézi azokat.

  • jóváhagyás
  • felügyelet
  • +1