Woordenlijst

Reinforcement learning met menselijke feedback (RLHF)

Wat is Reinforcement learning met menselijke feedback (RLHF)?

RLHF is een trainingsmethode die taalmodellen behulpzamer en veiliger maakt. Mensen vergelijken en beoordelen meerdere antwoorden van het model; met die oordelen wordt een beloningsmodel getraind, dat het taalmodel zelf vervolgens via reinforcement learning verder traint. Zo leert het bijvoorbeeld duidelijker te antwoorden of problematische verzoeken te weigeren. RLHF vindt plaats bij de aanbieder van het model voordat een model wordt uitgebracht – niet bij individuele gebruikers.

Hoe KI.ordo helpt

De beoordelingen met 👍/👎 in KI.ordo trainen het model niet opnieuw; ze laten zien waar de kennis of de opdracht van een agent verbeterd moet worden.

Meer informatie

Onderwerpen

training
menselijke feedback
taalmodellen

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten

← Alle begrippen

Verwante begrippen

Reinforcement learning (RL)

Reinforcement learning is een tak van machine learning waarin een agent leert door vallen en opstaan. Hij handelt binnen een omgeving, krijgt beloningen voor goede uitkomsten en straffen voor slechte, en ontwikkelt zo een strategie die de totale beloning maximaliseert. Bekende voorbeelden zijn programma’s die bordspellen als Go beheersen, de besturing van robots en het finetunen van taalmodellen op basis van menselijke beoordelingen.

leermethode
beloning
+1

Instruction Tuning

Instruction tuning is een vorm van fine-tuning waarbij een vooraf getraind taalmodel verder wordt getraind op veel paren van instructies en gewenste antwoorden. Zo leert het model in natuurlijke taal geformuleerde opdrachten uit te voeren in plaats van alleen tekst voort te zetten. Het is een belangrijke stap om van een basismodel een assistent te maken en wordt vaak gecombineerd met methoden zoals RLHF. Voorbeeld: ‘Vat deze tekst samen in drie zinnen’ wordt betrouwbaar uitgevoerd.

Fine-tuning
Taalmodellen
+1

Constitutional AI

Constitutional AI is een trainingsmethode voor taalmodellen die Anthropic in 2022 publiceerde; ze heeft niets te maken met staatsrecht. Ze is gebaseerd op een opgeschreven reeks principes, de “constitutie”: het model bekritiseert en herziet zijn eigen antwoorden aan de hand van deze principes, vervolgens vergelijkt een AI paren antwoorden, en deze feedback dient als beloningssignaal voor reinforcement learning (RLAIF). Dit verkleint de behoefte aan menselijk labelen van schadelijke inhoud; in januari 2026 publiceerde Anthropic een herziene constitutie voor Claude.

Training
AI-veiligheid
+1

Fine-tuning

Fine-tuning betekent het verder trainen van een reeds vooraf getraind AI-model op aanvullende, meestal taakspecifieke data. De interne gewichten worden zo bijgesteld dat het model bijvoorbeeld een bepaalde schrijfstijl, vakjargon of uitvoerformaat betrouwbaarder beheerst. Fine-tuning vereist zorgvuldig voorbereide voorbeelddata, rekenkracht en tests. Voor veel toepassingen volstaan goed geschreven instructies en gekoppelde kennis, en die zijn makkelijker aan te passen.

Modeltraining
Maatwerk
+1