Ordliste

Constitutional AI

Hvad er Constitutional AI?

Constitutional AI er en træningsmetode til sprogmodeller, som Anthropic offentliggjorde i 2022; den har intet med forfatningsret at gøre. Den bygger på et skriftligt sæt principper, »forfatningen« (constitution): Modellen kritiserer og reviderer sine egne svar ud fra disse principper, derefter sammenligner en AI par af svar, og denne feedback bruges som belønningssignal til reinforcement learning (RLAIF). Det mindsker behovet for menneskelig mærkning af skadeligt indhold; i januar 2026 offentliggjorde Anthropic en revideret forfatning for Claude.

Sådan hjælper KI.ordo

De Claude-modeller fra Anthropic, som bruges i KI.ordo, er bl.a. trænet med denne metode.

Emner

Training
AI-sikkerhed
Anthropic

Prøv KI.ordo

Agenter, flows og skabeloner i ét arbejdsområde – gratis demo i 24 timer.

Start demo

← Alle begreber

Relaterede begreber

Reinforcement learning from human feedback (RLHF)

RLHF er en træningsmetode, der gør sprogmodeller mere hjælpsomme og sikrere. Mennesker sammenligner og bedømmer flere af modellens svar; disse vurderinger bruges til at træne en belønningsmodel, som derefter træner selve sprogmodellen videre gennem reinforcement learning. Det lærer den f.eks. at svare mere klart eller at afvise problematiske forespørgsler. RLHF foregår hos modeludbyderen, før en model udgives – ikke hos de enkelte brugere.

træning
menneskelig feedback
+1

Claude

Claude er en familie af store sprogmodeller fra den amerikanske AI-virksomhed Anthropic. Modellerne forstår og skriver tekst på mange sprog, analyserer dokumenter, skriver kode og kan bruge værktøjer, for eksempel til research eller automatisering. Bedst kendt er modelfamilierne Haiku, Sonnet og Opus, der adskiller sig i hastighed, omkostninger og ydeevne. Anthropic lægger særlig vægt på sikkerhed og pålidelig modeladfærd.

Anthropic
sprogmodel
+1

AI-etik

AI-etik beskæftiger sig med de moralske spørgsmål omkring udvikling og brug af AI: retfærdighed og diskrimination, gennemsigtighed og forklarlighed, databeskyttelse, ansvar for fejl, sikkerhed og konsekvenserne for arbejde og samfund. For organisationer bliver det konkret i retningslinjer, risikovurderinger, menneskeligt tilsyn og ærlig kommunikation om AI's begrænsninger. Eksempel: Før et værktøj til screening af CV'er indføres, kontrolleres det, om det stiller bestemte grupper dårligere.

Etik
Ansvarsområde
+1

LLM-sikkerhed

LLM-sikkerhed omfatter alle foranstaltninger, der beskytter applikationer bygget på store sprogmodeller mod misbrug, datalæk og uønsket adfærd. Typiske risici er prompt injection, afsløring af fortrolige instruktioner eller data og agenter med for vidtgående tilladelser. Beskyttelsen kommer fra flere lag: klare instruktioner, begrænsede rettigheder, kontrol af input og output, AI-firewalls, red teaming og regelmæssige audits.

sikkerhed
sprogmodeller
+1

Skabelon