CS
Přihlásit seZačít
Glosář

Halucinace

Co je Halucinace?

Halucinace je výstup modelu AI, který zní přesvědčivě, ale je nesprávný nebo zcela vymyšlený – například neexistující soudní rozhodnutí, nesprávné číslo nebo vymyšlený zdroj. Příčina: jazykové modely vytvářejí pravděpodobné formulace; fakta si automaticky nevyhledávají. Riziko klesá, když odpovědi vycházejí z ověřených zdrojů, dokládají se důkazy a důležité výsledky kontrolují lidé.

Jak pomáhá KI.ordo

Agenti KI.ordo odpovídají ze znalostí, které poskytnete, uvádějí své zdroje a otevřeně přiznají, když něco nevědí; při ověřování pomáhá šablona „Ověřit fakta podle vlastních znalostí“ – chyby se přesto nedají zcela vyloučit.

Zjistit více : Halucinace

Vhodné šablony

Témata

  • jazykové modely
  • spolehlivost
  • riziko

Vyzkoušet KI.ordo

Agenti, postupy a šablony v jednom pracovním prostoru – 24hodinové demo zdarma.

Spustit demo
← Všechny pojmy

Související pojmy

Retrieval-augmented generation (RAG)

Retrieval-augmented generation kombinuje vyhledávání s generováním textu: před odpovědí systém prohledá sbírku znalostí – například příručky, směrnice nebo časté dotazy – a relevantní pasáže předá jazykovému modelu jako kontext. Odpověď je tak založena na aktuálním obsahu specifickém pro firmu, a nikoli jen na znalostech z trénování modelu. Snižuje to vymyšlená tvrzení, zdroje jsou dohledatelné a aktualizace nevyžadují opakované trénování.

  • RAG
  • vyhledávání ve znalostech
  • +1

Hranice znalostí (knowledge cutoff)

Hranice znalostí je okamžik, do něhož sahají trénovací data jazykového modelu. Model nemá z podstaty žádné znalosti o událostech, cenách, zákonech nebo produktech, které vznikly později, a pokud mu nejsou dodána aktuální data, může uvádět zastaralé informace. Řešením jsou metody, které za běhu přinášejí vlastní dokumenty nebo aktuální obsah z webu.

  • LLM
  • aktuálnost
  • +1

Velký jazykový model (LLM)

Velký jazykový model (LLM) je neuronová síť natrénovaná na velmi velkém množství textu, díky čemuž dokáže jazyk chápat a generovat. Funguje tak, že krok za krokem počítá nejpravděpodobnější další token. LLM píší, shrnují, překládají, odpovídají na otázky a generují kód; mezi známé příklady patří Claude, GPT, Gemini a Llama. Bez přístupu k aktuálním zdrojům vědí jen to, co bylo v jejich trénovacích datech.

  • jazykové modely
  • generativní AI
  • +1

Člověk ve smyčce (human-in-the-loop)

Human-in-the-loop (člověk ve smyčce) popisuje pracovní postupy, v nichž lidé v definovaných bodech vstupují do procesu AI: kontrolují výsledky, schvalují je nebo opravují, případně přebírají obtížné případy. Princip snižuje riziko chybných výstupů a ponechává odpovědnost lidem, zejména u rozhodnutí týkajících se jednotlivců, peněz nebo právních záležitostí. Příklad: agent AI připraví návrhy odpovědí na zákaznické dotazy a zaměstnanec je před odesláním zkontroluje.

  • schválení
  • dohled
  • +1