Glosář

Člověk ve smyčce (human-in-the-loop)

Co je Člověk ve smyčce (human-in-the-loop)?

Human-in-the-loop (člověk ve smyčce) popisuje pracovní postupy, v nichž lidé v definovaných bodech vstupují do procesu AI: kontrolují výsledky, schvalují je nebo opravují, případně přebírají obtížné případy. Princip snižuje riziko chybných výstupů a ponechává odpovědnost lidem, zejména u rozhodnutí týkajících se jednotlivců, peněz nebo právních záležitostí. Příklad: agent AI připraví návrhy odpovědí na zákaznické dotazy a zaměstnanec je před odesláním zkontroluje.

Jak pomáhá KI.ordo

V projektech KI.ordo agenti dodávají návrhy, které lidé schvalují, a chat na webu může předat konverzace týmu prostřednictvím kontaktního formuláře.

Zjistit více

Témata

schválení
dohled
odpovědnost

Vyzkoušet KI.ordo

Agenti, postupy a šablony v jednom pracovním prostoru – 24hodinové demo zdarma.

Spustit demo

← Všechny pojmy

Související pojmy

Systém automatizace s AI

Systém automatizace s AI spojuje tradiční automatizaci procesů se schopnostmi AI, jako je porozumění textu, klasifikace nebo podpora rozhodování. Díky tomu lze automatizovat pracovní postupy i s nestrukturovanými vstupy, jako jsou e-maily, formuláře nebo dotazy. Typické uspořádání je řetězec spouštěče, kroků zpracování, podmínek a výstupu, s lidským schválením v kritických bodech. Příklad: příchozí dotazy se automaticky zařadí do kategorií, shrnou a přepošlou na správné oddělení.

Automatizace
Procesy
+1

Inteligentní agenti

Inteligentní agent je systém, který vnímá své prostředí, zpracovává informace a samostatně volí akce, aby dosáhl cíle. Dnes tento pojem obvykle označuje software postavený na velkých jazykových modelech, který plní pokyny, čerpá ze znalostí a volá nástroje, například vyhledávání nebo API. O tom, kolik smí agent dělat samostatně, je třeba rozhodnout záměrně. Příklad: agent odpovídá na dotazy zákazníků na základě produktové dokumentace.

agenti
autonomie
+1

Posilované učení z lidské zpětné vazby (RLHF)

RLHF je trénovací metoda, díky níž jsou jazykové modely užitečnější a bezpečnější. Lidé porovnávají a hodnotí několik odpovědí modelu; z těchto úsudků se trénuje model odměn, který pak prostřednictvím posilovaného učení dále trénuje samotný jazykový model. Učí se tak například odpovídat srozumitelněji nebo odmítat problematické požadavky. RLHF probíhá u poskytovatele modelu před jeho vydáním – ne u jednotlivých uživatelů.

trénování
lidská zpětná vazba
+1

Halucinace

Halucinace je výstup modelu AI, který zní přesvědčivě, ale je nesprávný nebo zcela vymyšlený – například neexistující soudní rozhodnutí, nesprávné číslo nebo vymyšlený zdroj. Příčina: jazykové modely vytvářejí pravděpodobné formulace; fakta si automaticky nevyhledávají. Riziko klesá, když odpovědi vycházejí z ověřených zdrojů, dokládají se důkazy a důležité výsledky kontrolují lidé.

jazykové modely
spolehlivost
+1

Šablona