Sõnastik

Põhiseaduslik TI (Constitutional AI)

Mis on Põhiseaduslik TI (Constitutional AI)?

Constitutional AI on Anthropicu 2022. aastal avaldatud keelemudelite treenimismeetod; sellel pole põhiseaduse õigusega mingit pistmist. See põhineb kirjalikul põhimõtete kogumil, „põhiseadusel“: mudel kritiseerib ja redigeerib oma vastuseid nende põhimõtete alusel, seejärel võrdleb TI vastuste paare ning see tagasiside on tugevdusõppe preemiasignaal (RLAIF). See vähendab vajadust kahjuliku sisu inimmärgendamise järele; 2026. aasta jaanuaris avaldas Anthropic Claude'i jaoks uuendatud põhiseaduse.

Kuidas KI.ordo aitab

KI.ordos kasutatavad Anthropicu Claude'i mudelid on muu hulgas selle meetodiga treenitud.

Teemad

Training
TI ohutus
Anthropic

Proovi KI.ordot

Agendid, töövood ja mallid ühes tööruumis – tasuta 24-tunnine demo.

Alusta demot

← Kõik terminid

Seotud terminid

Stiimulõpe inimese tagasisidest (RLHF)

RLHF on treeningmeetod, mis muudab keelemudelid kasulikumaks ja turvalisemaks. Inimesed võrdlevad ja hindavad mudeli mitut vastust; neid hinnanguid kasutatakse tasumudeli treenimiseks, mis seejärel treenib stiimulõppe abil edasi keelemudelit ennast. See õpetab mudelit näiteks vastama selgemalt või keelduma problemaatilistest päringutest. RLHF toimub mudelipakkuja juures enne mudeli avaldamist – mitte üksikute kasutajatega.

treenimine
inimese tagasiside
+1

Claude

Claude on USA TI-ettevõtte Anthropic suurte keelemudelite perekond. Mudelid mõistavad ja kirjutavad teksti paljudes keeltes, analüüsivad dokumente, kirjutavad koodi ja oskavad kasutada tööriistu, näiteks uurimistöö või automatiseerimise jaoks. Tuntuimad on mudeliperekonnad Haiku, Sonnet ja Opus, mis erinevad kiiruse, hinna ja võimekuse poolest. Anthropic paneb erilist rõhku turvalisusele ja mudelite usaldusväärsele käitumisele.

Anthropic
keelemudel
+1

TI eetika

TI eetika käsitleb TI arendamise ja kasutamisega seotud moraalseid küsimusi: õiglus ja diskrimineerimine, läbipaistvus ja selgitatavus, andmekaitse, vastutus vigade eest, ohutus ning mõju tööle ja ühiskonnale. Organisatsioonidele muutub see konkreetseks juhistes, riskihinnangutes, inimlikus kontrollis ja ausas suhtlemises TI piirangute kohta. Näide: enne CV-sõelumise tööriista kasutuselevõttu kontrollitakse, kas see seab teatud rühmad ebasoodsamasse olukorda.

Eetika
Vastutus
+1

LLM-i turvalisus

LLM-i turvalisus hõlmab kõiki meetmeid, mis kaitsevad suurtel keelemudelitel põhinevaid rakendusi väärkasutuse, andmelekke ja soovimatu käitumise eest. Tüüpilised riskid on prompt injection, konfidentsiaalsete juhiste või andmete avaldamine ning liiga laiade õigustega agendid. Kaitse tuleneb mitmest kihist: selged juhised, piiratud õigused, sisendite ja väljundite kontroll, TI tulemüürid, red teaming ja regulaarsed auditid.

turvalisus
keelemudelid
+1

Mall