DA
Log indKom i gang
Ordliste

Human-in-the-loop

Hvad er Human-in-the-loop?

Human-in-the-loop beskriver arbejdsgange, hvor mennesker træder ind i en AI-proces på bestemte punkter: De gennemgår resultater, godkender eller retter dem eller overtager vanskelige sager. Princippet mindsker risikoen for fejlbehæftet output og lader ansvaret ligge hos mennesker, især ved beslutninger, der berører enkeltpersoner, penge eller juridiske forhold. Eksempel: En AI-agent udarbejder udkast til svar på kundehenvendelser, og en medarbejder gennemgår dem, før de sendes.

Sådan hjælper KI.ordo

I KI.ordo-projekter leverer agenter udkast, som mennesker godkender, og websitechatten kan overdrage samtaler til teamet via en kontaktformular.

Læs mere : Human-in-the-loop

Emner

  • Godkendelse
  • Tilsyn
  • Ansvar

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo
← Alle begreber

Relaterede begreber

AI-automatiseringssystem

Et AI-automatiseringssystem kombinerer traditionel procesautomatisering med AI-evner som tekstforståelse, klassifikation eller beslutningsstøtte. Det gør det muligt også at automatisere arbejdsgange med ustrukturerede input som e-mails, formularer eller henvendelser. En typisk opbygning er en kæde af udløser, behandlingstrin, betingelser og output med menneskelig godkendelse på kritiske punkter. Eksempel: Indkomne henvendelser kategoriseres, opsummeres og videresendes automatisk til den rette afdeling.

  • Automatisering
  • Processer
  • +1

Intelligente agenter

En intelligent agent er et system, der opfatter sine omgivelser, behandler information og selv vælger handlinger for at nå et mål. I dag refererer begrebet som regel til software bygget på store sprogmodeller, som følger instruktioner, trækker på viden og kalder værktøjer som en søgefunktion eller en API. Hvor meget en agent selv må gøre, bør afgøres bevidst. Eksempel: En agent besvarer kundespørgsmål ud fra produktdokumentationen.

  • Agenter
  • Autonomi
  • +1

Reinforcement learning from human feedback (RLHF)

RLHF er en træningsmetode, der gør sprogmodeller mere hjælpsomme og sikrere. Mennesker sammenligner og bedømmer flere af modellens svar; disse vurderinger bruges til at træne en belønningsmodel, som derefter træner selve sprogmodellen videre gennem reinforcement learning. Det lærer den f.eks. at svare mere klart eller at afvise problematiske forespørgsler. RLHF foregår hos modeludbyderen, før en model udgives – ikke hos de enkelte brugere.

  • træning
  • menneskelig feedback
  • +1

Hallucination

En hallucination er output fra en AI-model, der lyder overbevisende, men er forkert eller helt opdigtet – f.eks. en ikke-eksisterende retsafgørelse, et forkert tal eller en opfundet kilde. Årsagen: Sprogmodeller frembringer sandsynlige formuleringer; de slår ikke automatisk fakta op. Risikoen falder, når svarene bygger på verificerede kilder, dokumentation angives, og mennesker kontrollerer vigtige resultater.

  • Sprogmodeller
  • Pålidelighed
  • +1
Skabelon