Woordenlijst

Constitutional AI

Wat is Constitutional AI?

Constitutional AI is een trainingsmethode voor taalmodellen die Anthropic in 2022 publiceerde; ze heeft niets te maken met staatsrecht. Ze is gebaseerd op een opgeschreven reeks principes, de “constitutie”: het model bekritiseert en herziet zijn eigen antwoorden aan de hand van deze principes, vervolgens vergelijkt een AI paren antwoorden, en deze feedback dient als beloningssignaal voor reinforcement learning (RLAIF). Dit verkleint de behoefte aan menselijk labelen van schadelijke inhoud; in januari 2026 publiceerde Anthropic een herziene constitutie voor Claude.

Hoe KI.ordo helpt

De Claude-modellen van Anthropic die in KI.ordo worden gebruikt, zijn onder meer met deze methode getraind.

Onderwerpen

Training
AI-veiligheid
Anthropic

KI.ordo uitproberen

Agents, workflows en sjablonen in één werkruimte – gratis demo van 24 uur.

Demo starten

← Alle begrippen

Verwante begrippen

Reinforcement learning met menselijke feedback (RLHF)

RLHF is een trainingsmethode die taalmodellen behulpzamer en veiliger maakt. Mensen vergelijken en beoordelen meerdere antwoorden van het model; met die oordelen wordt een beloningsmodel getraind, dat het taalmodel zelf vervolgens via reinforcement learning verder traint. Zo leert het bijvoorbeeld duidelijker te antwoorden of problematische verzoeken te weigeren. RLHF vindt plaats bij de aanbieder van het model voordat een model wordt uitgebracht – niet bij individuele gebruikers.

training
menselijke feedback
+1

Claude

Claude is een familie van grote taalmodellen van het Amerikaanse AI-bedrijf Anthropic. De modellen begrijpen en schrijven tekst in veel talen, analyseren documenten, schrijven code en kunnen tools gebruiken, bijvoorbeeld voor onderzoek of automatisering. Het bekendst zijn de modelfamilies Haiku, Sonnet en Opus, die verschillen in snelheid, kosten en capaciteiten. Anthropic legt bijzondere nadruk op veiligheid en betrouwbaar modelgedrag.

Anthropic
taalmodel
+1

AI-ethiek

AI-ethiek behandelt de morele vragen rond de ontwikkeling en het gebruik van AI: eerlijkheid en discriminatie, transparantie en verklaarbaarheid, gegevensbescherming, verantwoordelijkheid voor fouten, veiligheid en de gevolgen voor werk en samenleving. Voor organisaties wordt het concreet in richtlijnen, risicobeoordelingen, menselijk toezicht en eerlijke communicatie over de grenzen van AI. Voorbeeld: voordat een tool voor cv-screening wordt ingevoerd, wordt gecontroleerd of die bepaalde groepen benadeelt.

Ethiek
Verantwoordelijkheid
+1

LLM-beveiliging

LLM-beveiliging omvat alle maatregelen die toepassingen op basis van grote taalmodellen beschermen tegen misbruik, datalekken en ongewenst gedrag. Typische risico’s zijn prompt injection, het prijsgeven van vertrouwelijke instructies of gegevens, en agents met te ruime rechten. Bescherming komt uit meerdere lagen: duidelijke instructies, beperkte rechten, controles op invoer en uitvoer, AI-firewalls, red teaming en regelmatige audits.

beveiliging
taalmodellen
+1

Sjabloon