Glosārijs

Konstitucionālais MI (Constitutional AI)

Kas ir Konstitucionālais MI (Constitutional AI)?

Konstitucionālais MI ir Anthropic 2022. gadā publicēta valodas modeļu apmācības metode; tai nav sakara ar konstitucionālajām tiesībām. Tā balstās uz rakstisku principu kopumu, „konstitūciju”: modelis kritizē un pārstrādā savas atbildes pret šiem principiem, pēc tam MI salīdzina atbilžu pārus, un šī atgriezeniskā saite kalpo kā atlīdzības signāls pastiprinātajai mācīšanai (RLAIF). Tas mazina nepieciešamību pēc cilvēku veiktas kaitīga satura marķēšanas; 2026. gada janvārī Anthropic publicēja pārskatītu konstitūciju Claude modelim.

Kā palīdz KI.ordo

Anthropic Claude modeļi, ko izmanto KI.ordo, cita starpā tiek apmācīti ar šo metodi.

Tēmas

Training
MI drošība
Anthropic

Izmēģiniet KI.ordo

Aģenti, plūsmas un veidnes vienā darbvietā – bezmaksas 24 stundu demo.

Sākt demo

← Visi termini

Saistītie termini

Pastiprinātā mācīšanās no cilvēka atgriezeniskās saites (RLHF)

RLHF ir apmācības metode, kas valodas modeļus padara noderīgākus un drošākus. Cilvēki salīdzina un vērtē vairākas modeļa atbildes; šos vērtējumus izmanto, lai apmācītu atlīdzības modeli, kas ar pastiprināto mācīšanos tālāk apmāca pašu valodas modeli. Tā tas, piemēram, iemācās atbildēt skaidrāk vai noraidīt problemātiskus pieprasījumus. RLHF notiek pie modeļa pakalpojumu sniedzēja pirms modeļa izlaišanas — nevis pie atsevišķiem lietotājiem.

apmācība
cilvēka atgriezeniskā saite
+1

Claude

Claude ir ASV MI uzņēmuma Anthropic lielo valodas modeļu saime. Modeļi saprot un raksta tekstu daudzās valodās, analizē dokumentus, raksta kodu un var izmantot rīkus, piemēram, izpētei vai automatizācijai. Pazīstamākās ir modeļu saimes Haiku, Sonnet un Opus, kas atšķiras pēc ātruma, izmaksām un spējām. Anthropic īpašu uzmanību pievērš drošībai un uzticamai modeļu uzvedībai.

Anthropic
valodas modelis
+1

MI ētika

MI ētika nodarbojas ar morāles jautājumiem ap MI izstrādi un izmantošanu: taisnīgumu un diskrimināciju, pārredzamību un izskaidrojamību, datu aizsardzību, atbildību par kļūdām, drošību un ietekmi uz darbu un sabiedrību. Organizācijām tā kļūst konkrēta vadlīnijās, riska novērtējumos, cilvēka uzraudzībā un godīgā komunikācijā par MI ierobežojumiem. Piemērs: pirms CV atlases rīka ieviešanas tiek pārbaudīts, vai tas nenostāda neizdevīgākā situācijā noteiktas grupas.

Ētika
Atbildība
+1

LLM drošība

LLM drošība aptver visus pasākumus, kas aizsargā uz lielajiem valodas modeļiem balstītas lietojumprogrammas pret ļaunprātīgu izmantošanu, datu noplūdi un nevēlamu uzvedību. Tipiski riski ir uzvedņu injekcija, konfidenciālu norādījumu vai datu izpaušana un aģenti ar pārmērīgām atļaujām. Aizsardzību nodrošina vairāki slāņi: skaidri norādījumi, ierobežotas tiesības, ievaddatu un izvaddatu pārbaudes, MI ugunsmūri, red teaming un regulāri auditi.

drošība
valodas modeļi
+1

Veidne