SK
Prihlásiť saZačať
Slovník pojmov

Človek v procese (human-in-the-loop)

Čo je Človek v procese (human-in-the-loop)?

Človek v procese (human-in-the-loop) opisuje pracovné postupy, v ktorých ľudia zasahujú do procesu AI vo vopred určených bodoch: kontrolujú výsledky, schvaľujú ich alebo opravujú, prípadne preberajú ťažké prípady. Zásada znižuje riziko chybných výstupov a ponecháva zodpovednosť ľuďom, najmä pri rozhodnutiach týkajúcich sa jednotlivcov, peňazí alebo právnych záležitostí. Príklad: agent AI pripraví návrhy odpovedí na dopyty zákazníkov a zamestnanec ich pred odoslaním skontroluje.

Ako pomáha KI.ordo

V projektoch KI.ordo agenti dodávajú návrhy, ktoré ľudia schvaľujú, a chat na webe môže rozhovory odovzdať tímu cez kontaktný formulár.

Zistiť viac : Človek v procese (human-in-the-loop)

Témy

  • schválenie
  • dohľad
  • zodpovednosť

Vyskúšajte KI.ordo

Agenti, postupy a šablóny v jednom pracovnom priestore – bezplatné 24-hodinové demo.

Spustiť demo
← Všetky pojmy

Súvisiace pojmy

Systém automatizácie s AI

Systém automatizácie s AI spája tradičnú automatizáciu procesov so schopnosťami AI, ako je porozumenie textu, klasifikácia alebo podpora rozhodovania. Vďaka tomu možno automatizovať aj pracovné postupy s nestruktúrovanými vstupmi, ako sú e-maily, formuláre alebo dopyty. Typické nastavenie je reťazec spúšťača, krokov spracovania, podmienok a výstupu s ľudským schválením v kritických bodoch. Príklad: prichádzajúce dopyty sa automaticky zaradia do kategórií, zhrnú a pošlú správnemu oddeleniu.

  • Automatizácia
  • Procesy
  • +1

Inteligentní agenti

Inteligentný agent je systém, ktorý vníma svoje prostredie, spracúva informácie a samostatne vyberá akcie na dosiahnutie cieľa. Dnes tento pojem zvyčajne označuje softvér postavený na veľkých jazykových modeloch, ktorý plní pokyny, čerpá zo znalostí a volá nástroje, ako je funkcia vyhľadávania alebo API. O tom, koľko smie agent robiť samostatne, by sa malo rozhodnúť premyslene. Príklad: agent odpovedá na otázky zákazníkov na základe produktovej dokumentácie.

  • agenti
  • autonómia
  • +1

Posilňované učenie z ľudskej spätnej väzby (RLHF)

RLHF je trénovacia metóda, vďaka ktorej sú jazykové modely užitočnejšie a bezpečnejšie. Ľudia porovnávajú a hodnotia viaceré odpovede modelu; z týchto posudkov sa trénuje model odmien, ktorý potom prostredníctvom posilňovaného učenia ďalej trénuje samotný jazykový model. Učí ho to napríklad odpovedať jasnejšie alebo odmietať problematické požiadavky. RLHF prebieha u poskytovateľa modelu pred jeho vydaním – nie u jednotlivých používateľov.

  • trénovanie
  • ľudská spätná väzba
  • +1

Halucinácia

Halucinácia je výstup modelu AI, ktorý znie presvedčivo, ale je nesprávny alebo úplne vymyslený – napríklad neexistujúci súdny rozsudok, nesprávne číslo alebo vymyslený zdroj. Príčina: jazykové modely vytvárajú pravdepodobné formulácie; fakty automaticky nevyhľadávajú. Riziko klesá, keď sa odpovede opierajú o overené zdroje, uvádzajú sa dôkazy a ľudia kontrolujú dôležité výsledky.

  • jazykové modely
  • spoľahlivosť
  • +1
Šablóna