Sanasto

Ihminen prosessissa (human-in-the-loop)

Mikä on Ihminen prosessissa (human-in-the-loop)?

Human-in-the-loop kuvaa työnkulkuja, joissa ihmiset astuvat tekoälyprosessiin määritellyissä kohdissa: he tarkastavat tuloksia, hyväksyvät tai korjaavat niitä tai ottavat hoitaakseen hankalat tapaukset. Periaate pienentää virheellisten tulosteiden riskiä ja pitää vastuun ihmisillä, erityisesti yksilöitä, rahaa tai oikeudellisia asioita koskevissa päätöksissä. Esimerkki: tekoälyagentti luonnostelee vastauksia asiakaskyselyihin, ja työntekijä tarkistaa ne ennen lähettämistä.

Miten KI.ordo auttaa

KI.ordo-projekteissa agentit tuottavat luonnoksia, jotka ihmiset hyväksyvät, ja verkkosivuchat voi siirtää keskustelut tiimille yhteydenottolomakkeen kautta.

Lue lisää : Ihminen prosessissa (human-in-the-loop)

Aiheet

  • hyväksyntä
  • valvonta
  • vastuu

Kokeile KI.ordoa

Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.

Aloita demo
← Kaikki termit

Liittyvät termit

Tekoälyautomaatiojärjestelmä

Tekoälyautomaatiojärjestelmä yhdistää perinteisen prosessiautomaation ja tekoälyn kyvyt, kuten tekstin ymmärtämisen, luokittelun tai päätöksenteon tuen. Näin voidaan automatisoida myös työnkulkuja, joiden syötteet ovat jäsentymätöntä, kuten sähköpostit, lomakkeet tai kyselyt. Tyypillinen rakenne on ketju, jossa on laukaisija, käsittelyvaiheet, ehdot ja tuloste sekä ihmisen hyväksyntä kriittisissä kohdissa. Esimerkki: saapuvat kyselyt luokitellaan, tiivistetään ja välitetään automaattisesti oikealle osastolle.

  • Automaatio
  • Prosessit
  • +1

Älykkäät agentit

Älykäs agentti on järjestelmä, joka havaitsee ympäristönsä, käsittelee tietoa ja valitsee toimia itsenäisesti tavoitteen saavuttamiseksi. Nykyään termi viittaa yleensä suuriin kielimalleihin perustuvaan ohjelmistoon, joka noudattaa ohjeita, hyödyntää tietämystä ja kutsuu työkaluja, kuten hakutoimintoa tai API:a. Se, kuinka paljon agentti saa tehdä itsenäisesti, tulee päättää harkiten. Esimerkki: agentti vastaa asiakkaiden kysymyksiin tuotedokumentaation pohjalta.

  • agentit
  • autonomia
  • +1

Vahvistusoppiminen ihmispalautteesta (RLHF)

RLHF on opetusmenetelmä, joka tekee kielimalleista avuliaampia ja turvallisempia. Ihmiset vertailevat ja arvioivat mallin useita vastauksia; näiden arvioiden avulla opetetaan palkkiomalli, joka puolestaan opettaa kielimallia edelleen vahvistusoppimisella. Näin se oppii esimerkiksi vastaamaan selkeämmin tai kieltäytymään ongelmallisista pyynnöistä. RLHF tehdään mallin tarjoajalla ennen mallin julkaisua – ei yksittäisten käyttäjien kanssa.

  • koulutus
  • ihmispalaute
  • +1

Hallusinaatio

Hallusinaatio on tekoälymallin tuloste, joka kuulostaa vakuuttavalta mutta on virheellinen tai täysin keksitty – esimerkiksi olematon tuomioistuimen päätös, väärä luku tai keksitty lähde. Syynä on, että kielimallit tuottavat todennäköisiä sanamuotoja; ne eivät hae tosiasioita automaattisesti. Riski pienenee, kun vastaukset perustuvat varmennettuihin lähteisiin, todisteet mainitaan ja ihmiset tarkistavat tärkeät tulokset.

  • kielimallit
  • luotettavuus
  • +1
Malli