SL
PrijavaZačnite zdaj
Slovar pojmov

Človek v zanki

Kaj je Človek v zanki?

Človek v zanki (human-in-the-loop) opisuje poteke dela, pri katerih ljudje na določenih točkah vstopijo v proces UI: pregledajo rezultate, jih odobrijo ali popravijo ali prevzamejo težke primere. Načelo zmanjšuje tveganje napačnih izpisov in odgovornost ohranja pri ljudeh, zlasti pri odločitvah, ki zadevajo posameznike, denar ali pravne zadeve. Primer: agent UI pripravi osnutke odgovorov na povpraševanja strank, sodelavec pa jih pred pošiljanjem preveri.

Kako pomaga KI.ordo

V projektih KI.ordo agenti pripravijo osnutke, ki jih ljudje odobrijo, klepet na spletnem mestu pa lahko pogovore prek kontaktnega obrazca preda ekipi.

Več o tem : Človek v zanki

Teme

  • Odobritev
  • Nadzor
  • Odgovornost

Preizkusite KI.ordo

Agenti, poteki dela in predloge v enem delovnem prostoru – brezplačna 24-urna predstavitev.

Začni predstavitev
← Vsi pojmi

Sorodni pojmi

Sistem za avtomatizacijo z UI

Sistem za avtomatizacijo z UI združuje klasično avtomatizacijo procesov z zmožnostmi UI, kot so razumevanje besedil, klasifikacija ali podpora pri odločanju. Tako je mogoče avtomatizirati tudi poteke dela z nestrukturiranimi vnosi, kot so e-poštna sporočila, obrazci ali povpraševanja. Tipična zasnova je veriga sprožilca, korakov obdelave, pogojev in izpisa s človeško odobritvijo na kritičnih točkah. Primer: prispela povpraševanja se samodejno razvrstijo, povzamejo in posredujejo pravemu oddelku.

  • Avtomatizacija
  • Procesi
  • +1

Inteligentni agenti

Inteligentni agent je sistem, ki zaznava svoje okolje, obdeluje informacije in samostojno izbira dejanja, da doseže cilj. Danes izraz običajno označuje programsko opremo na osnovi velikih jezikovnih modelov, ki upošteva navodila, črpa iz znanja in kliče orodja, kot sta iskalna funkcija ali API. Koliko sme agent početi samostojno, je treba odločiti premišljeno. Primer: agent odgovarja na vprašanja strank na podlagi dokumentacije izdelka.

  • Agenti
  • Avtonomija
  • +1

Spodbujevalno učenje s človeško povratno informacijo (RLHF)

RLHF je učna metoda, ki jezikovne modele naredi bolj koristne in varnejše. Ljudje primerjajo in ocenijo več odgovorov modela; iz teh presoj se nauči model nagrajevanja, ki nato jezikovni model samega s spodbujevalnim učenjem dodatno uči. Tako se na primer nauči odgovarjati jasneje ali zavrniti sporne zahteve. RLHF poteka pri ponudniku modela, preden je model objavljen – ne pri posameznih uporabnikih.

  • učenje
  • človeška povratna informacija
  • +1

Halucinacija

Halucinacija je izpis modela UI, ki zveni prepričljivo, a je napačen ali popolnoma izmišljen – na primer neobstoječa sodba, napačna številka ali izmišljen vir. Vzrok: jezikovni modeli ustvarjajo verjetna besedila, dejstev pa samodejno ne iščejo. Tveganje se zmanjša, kadar odgovori temeljijo na preverjenih virih, so dokazi navedeni in ljudje preverijo pomembne rezultate.

  • Jezikovni modeli
  • zanesljivost
  • +1
Predloga