HR
PrijavaZapočnite odmah
Pojmovnik

Čovjek u petlji (human-in-the-loop)

Što je Čovjek u petlji (human-in-the-loop)?

Čovjek u petlji (human-in-the-loop) opisuje tijekove rada u kojima ljudi na definiranim točkama ulaze u UI proces: pregledavaju rezultate, odobravaju ih ili ispravljaju, ili preuzimaju zahtjevne slučajeve. Načelo smanjuje rizik od pogrešnih izlaza i zadržava odgovornost kod ljudi, osobito kod odluka koje se tiču pojedinaca, novca ili pravnih pitanja. Primjer: UI agent izrađuje nacrte odgovora na upite klijenata, a djelatnik ih provjerava prije slanja.

Kako KI.ordo pomaže

U projektima u KI.ordo agenti isporučuju nacrte koje ljudi odobravaju, a chat na web-stranici može razgovore putem kontaktnog obrasca predati timu.

Saznajte više : Čovjek u petlji (human-in-the-loop)

Teme

  • Odobrenje
  • Nadzor
  • Odgovornost

Isprobajte KI.ordo

Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.

Pokrenite demo
← Svi pojmovi

Srodni pojmovi

UI sustav za automatizaciju

UI sustav za automatizaciju kombinira tradicionalnu automatizaciju procesa s mogućnostima UI-ja poput razumijevanja teksta, klasifikacije ili podrške odlučivanju. Time je moguće automatizirati tijekove rada i s nestrukturiranim ulazima, poput e-poruka, obrazaca ili upita. Tipična struktura je lanac okidača, koraka obrade, uvjeta i izlaza, uz ljudsko odobrenje na kritičnim točkama. Primjer: pristigli upiti automatski se kategoriziraju, sažimaju i prosljeđuju pravom odjelu.

  • Automatizacija
  • Procesi
  • +1

Inteligentni agenti

Inteligentni agent je sustav koji percipira svoju okolinu, obrađuje informacije i samostalno odabire radnje kako bi postigao cilj. Danas se taj pojam obično odnosi na softver temeljen na velikim jezičnim modelima koji slijedi upute, koristi znanje i poziva alate poput funkcije pretraživanja ili API-ja. Koliko agent smije raditi samostalno treba odlučiti promišljeno. Primjer: agent odgovara na pitanja klijenata na temelju dokumentacije proizvoda.

  • Agenti
  • Autonomija
  • +1

Učenje podrškom na temelju ljudskih povratnih informacija (RLHF)

RLHF je metoda treniranja koja jezične modele čini korisnijima i sigurnijima. Ljudi uspoređuju i ocjenjuju više odgovora modela; te se prosudbe koriste za treniranje modela nagrađivanja, koji zatim putem učenja podrškom dalje trenira sam jezični model. Tako se, primjerice, uči jasnije odgovarati ili odbijati problematične zahtjeve. RLHF se provodi kod pružatelja modela prije izlaska modela – ne kod pojedinačnih korisnika.

  • treniranje
  • ljudske povratne informacije
  • +1

Halucinacija

Halucinacija je izlaz UI modela koji zvuči uvjerljivo, ali je pogrešan ili potpuno izmišljen – primjerice nepostojeća sudska odluka, netočna brojka ili izmišljen izvor. Uzrok: jezični modeli stvaraju vjerojatne formulacije, a ne provjeravaju automatski činjenice. Rizik se smanjuje kada se odgovori temelje na provjerenim izvorima, navode se dokazi, a ljudi provjeravaju važne rezultate.

  • Jezični modeli
  • Pouzdanost
  • +1
Predložak