SK
Prihlásiť saZačať
Slovník pojmov

Halucinácia

Čo je Halucinácia?

Halucinácia je výstup modelu AI, ktorý znie presvedčivo, ale je nesprávny alebo úplne vymyslený – napríklad neexistujúci súdny rozsudok, nesprávne číslo alebo vymyslený zdroj. Príčina: jazykové modely vytvárajú pravdepodobné formulácie; fakty automaticky nevyhľadávajú. Riziko klesá, keď sa odpovede opierajú o overené zdroje, uvádzajú sa dôkazy a ľudia kontrolujú dôležité výsledky.

Ako pomáha KI.ordo

Agenti KI.ordo odpovedajú zo znalostí, ktoré poskytnete, uvádzajú svoje zdroje a otvorene povedia, keď niečo nevedia; šablóna „Overiť fakty podľa vlastných znalostí“ pomáha pri overovaní – chyby sa napriek tomu nedajú úplne vylúčiť.

Zistiť viac : Halucinácia

Vhodné šablóny

Témy

  • jazykové modely
  • spoľahlivosť
  • riziko

Vyskúšajte KI.ordo

Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.

Spustiť demo
← Všetky pojmy

Súvisiace pojmy

Retrieval-augmented generation (RAG)

Retrieval-augmented generation spája vyhľadávanie s generovaním textu: pred odpoveďou systém vyhľadá relevantné pasáže v zbierke znalostí – napríklad v príručkách, smerniciach alebo FAQ – a odovzdá ich jazykovému modelu ako kontext. Odpoveď tak vychádza z aktuálneho obsahu špecifického pre firmu, a nielen z trénovacích znalostí modelu. Znižuje to vymyslené tvrdenia, zviditeľňuje zdroje a umožňuje aktualizácie bez pretrénovania.

  • RAG
  • vyhľadávanie v znalostiach
  • +1

Hranica znalostí (knowledge cutoff)

Hranica znalostí (knowledge cutoff) je časový bod, po ktorý siahajú trénovacie dáta jazykového modelu. Model nemá vlastné znalosti o udalostiach, cenách, zákonoch alebo produktoch, ktoré vznikli neskôr, a môže poskytovať zastarané informácie, ak mu nie sú dodané aktuálne dáta. Dá sa to riešiť metódami, ktoré počas behu zapájajú vlastné dokumenty alebo aktuálny webový obsah.

  • LLM
  • Aktuálnosť
  • +1

Veľký jazykový model (LLM)

Veľký jazykový model (LLM, large language model) je neurónová sieť natrénovaná na veľmi veľkom množstve textu, vďaka čomu rozumie jazyku a dokáže ho tvoriť. Funguje tak, že krok za krokom vypočítava najpravdepodobnejší nasledujúci token. LLM píšu, zhŕňajú, prekladajú, odpovedajú na otázky a generujú kód; známymi príkladmi sú Claude, GPT, Gemini a Llama. Bez prístupu k aktuálnym zdrojom vedia len to, čo bolo v ich trénovacích údajoch.

  • jazykové modely
  • generatívna AI
  • +1

Človek v procese (human-in-the-loop)

Človek v procese (human-in-the-loop) opisuje pracovné postupy, v ktorých ľudia zasahujú do procesu AI vo vopred určených bodoch: kontrolujú výsledky, schvaľujú ich alebo opravujú, prípadne preberajú ťažké prípady. Zásada znižuje riziko chybných výstupov a ponecháva zodpovednosť ľuďom, najmä pri rozhodnutiach týkajúcich sa jednotlivcov, peňazí alebo právnych záležitostí. Príklad: agent AI pripraví návrhy odpovedí na dopyty zákazníkov a zamestnanec ich pred odoslaním skontroluje.

  • schválenie
  • dohľad
  • +1