Woordenlijst

Human-in-the-loop

Wat is Human-in-the-loop?

Human-in-the-loop beschrijft workflows waarin mensen op vaste momenten ingrijpen in een AI-proces: ze controleren resultaten, keuren ze goed of corrigeren ze, of nemen moeilijke gevallen over. Het principe verkleint het risico op foute uitvoer en houdt de verantwoordelijkheid bij mensen, vooral bij beslissingen die personen, geld of juridische zaken raken. Voorbeeld: een AI-agent stelt antwoorden op klantvragen op en een medewerker controleert ze voordat ze worden verzonden.

Hoe KI.ordo helpt

In KI.ordo-projecten leveren agents concepten die mensen goedkeuren, en de websitechat kan gesprekken via een contactformulier aan het team overdragen.

Meer informatie

Onderwerpen

Goedkeuring
Toezicht
Verantwoordelijkheid

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten

← Alle begrippen

Verwante begrippen

AI-automatiseringssysteem

Een AI-automatiseringssysteem combineert traditionele procesautomatisering met AI-mogelijkheden zoals tekstbegrip, classificatie of beslisondersteuning. Zo kunnen ook workflows met ongestructureerde invoer worden geautomatiseerd, zoals e-mails, formulieren of vragen. Een typische opzet is een keten van trigger, verwerkingsstappen, voorwaarden en uitvoer, met menselijke goedkeuring op kritieke punten. Voorbeeld: binnenkomende vragen worden automatisch gecategoriseerd, samengevat en doorgestuurd naar de juiste afdeling.

Automatisering
Processen
+1

Intelligente agents

Een intelligente agent is een systeem dat zijn omgeving waarneemt, informatie verwerkt en zelfstandig acties kiest om een doel te bereiken. Tegenwoordig verwijst de term meestal naar software op basis van grote taalmodellen die instructies opvolgt, kennis raadpleegt en tools aanroept zoals een zoekfunctie of een API. Hoeveel een agent zelfstandig mag doen, moet bewust worden bepaald. Voorbeeld: een agent beantwoordt klantvragen aan de hand van de productdocumentatie.

Agents
Autonomie
+1

Reinforcement learning met menselijke feedback (RLHF)

RLHF is een trainingsmethode die taalmodellen behulpzamer en veiliger maakt. Mensen vergelijken en beoordelen meerdere antwoorden van het model; met die oordelen wordt een beloningsmodel getraind, dat het taalmodel zelf vervolgens via reinforcement learning verder traint. Zo leert het bijvoorbeeld duidelijker te antwoorden of problematische verzoeken te weigeren. RLHF vindt plaats bij de aanbieder van het model voordat een model wordt uitgebracht – niet bij individuele gebruikers.

training
menselijke feedback
+1

Hallucinatie

Een hallucinatie is uitvoer van een AI-model die overtuigend klinkt maar onjuist of volledig verzonnen is – zoals een niet-bestaande rechterlijke uitspraak, een verkeerd cijfer of een verzonnen bron. De oorzaak: taalmodellen produceren waarschijnlijke formuleringen; ze zoeken niet automatisch feiten op. Het risico daalt wanneer antwoorden op gecontroleerde bronnen zijn gebaseerd, bewijs wordt aangehaald en mensen belangrijke resultaten controleren.

Taalmodellen
Betrouwbaarheid
+1

Sjabloon