Sõnastik

Inimene tsüklis (human-in-the-loop)

Mis on Inimene tsüklis (human-in-the-loop)?

Inimene tsüklis (human-in-the-loop) kirjeldab töövooge, kus inimesed astuvad TI-protsessi kindlates punktides sisse: nad vaatavad tulemused üle, kinnitavad või parandavad need või võtavad üle rasked juhtumid. Põhimõte vähendab vigase väljundi riski ja jätab vastutuse inimestele, eriti üksikisikuid, raha või õigusküsimusi puudutavate otsuste puhul. Näide: TI-agent koostab vastuste kavandeid klienditaotlustele ja töötaja kontrollib neid enne saatmist.

Kuidas KI.ordo aitab

KI.ordo projektides esitavad agendid kavandeid, mida inimesed kinnitavad, ja veebilehe vestlus saab anda vestlused kontaktivormi kaudu meeskonnale üle.

Loe lähemalt

Teemad

Kinnitus
Järelevalve
Vastutus

Proovi KI.ordot

Agendid, töövood ja mallid ühes tööruumis – tasuta 24-tunnine demo.

Alusta demot

← Kõik terminid

Seotud terminid

TI automatiseerimissüsteem

TI automatiseerimissüsteem ühendab traditsioonilise protsesside automatiseerimise TI võimalustega, nagu teksti mõistmine, klassifitseerimine või otsustustugi. See võimaldab automatiseerida ka töövooge struktureerimata sisenditega, nagu e-kirjad, vormid või päringud. Tüüpiline lahendus on ahel päästikust, töötlemissammudest, tingimustest ja väljundist, kriitilistes punktides inimese kinnitusega. Näide: saabuvad päringud kategoriseeritakse automaatselt, võetakse kokku ja suunatakse õigesse osakonda.

Automatiseerimine
Protsessid
+1

Intelligentsed agendid

Intelligentne agent on süsteem, mis tajub oma keskkonda, töötleb infot ja valib iseseisvalt toiminguid eesmärgi saavutamiseks. Tänapäeval viitab termin tavaliselt suurtel keelemudelitel põhinevale tarkvarale, mis järgib juhiseid, toetub teadmistele ja kutsub välja tööriistu, nagu otsingufunktsioon või API. Kui palju agent tohib iseseisvalt teha, tuleks otsustada teadlikult. Näide: agent vastab klientide küsimustele tootedokumentatsiooni põhjal.

Agendid
Autonoomia
+1

Stiimulõpe inimese tagasisidest (RLHF)

RLHF on treeningmeetod, mis muudab keelemudelid kasulikumaks ja turvalisemaks. Inimesed võrdlevad ja hindavad mudeli mitut vastust; neid hinnanguid kasutatakse tasumudeli treenimiseks, mis seejärel treenib stiimulõppe abil edasi keelemudelit ennast. See õpetab mudelit näiteks vastama selgemalt või keelduma problemaatilistest päringutest. RLHF toimub mudelipakkuja juures enne mudeli avaldamist – mitte üksikute kasutajatega.

treenimine
inimese tagasiside
+1

Hallutsinatsioon

Hallutsinatsioon on TI-mudeli väljund, mis kõlab veenvalt, kuid on vale või täiesti väljamõeldud – näiteks olematu kohtuotsus, vale arv või väljamõeldud allikas. Põhjus: keelemudelid loovad tõenäolisi sõnastusi; nad ei otsi fakte automaatselt üles. Risk väheneb, kui vastused põhinevad kontrollitud allikatel, tõendid on viidatud ja inimesed kontrollivad olulisi tulemusi.

Keelemudelid
Usaldusväärsus
+1

Mall