Fogalomtár

Konstitucionális MI

Mi a(z) Konstitucionális MI?

A konstitucionális MI (Constitutional AI) az Anthropic által 2022-ben közzétett tanítási módszer nyelvi modellekhez; semmi köze az alkotmányjoghoz. Írott elvek összességére, az „alkotmányra” épül: a modell ezen elvek alapján bírálja és javítja saját válaszait, majd egy MI válaszpárokat hasonlít össze, és ez a visszajelzés szolgál jutalomjelként a megerősítéses tanuláshoz (RLAIF). Ez csökkenti a káros tartalmak emberi címkézésének szükségességét; 2026 januárjában az Anthropic közzétett egy átdolgozott alkotmányt a Claude számára.

Így segít a KI.ordo

A KI.ordo-ban használt Anthropic Claude-modelleket egyebek mellett ezzel a módszerrel tanítják.

Témák

Training
MI-biztonság
Anthropic

Próbálja ki a KI.ordót

Ügynökök, munkafolyamatok és sablonok egyetlen munkaterületen – ingyenes, 24 órás demó.

Demó indítása

← Minden fogalom

Kapcsolódó fogalmak

Megerősítéses tanulás emberi visszajelzésből (RLHF)

Az RLHF olyan tanítási módszer, amely a nyelvi modelleket segítőkészebbé és biztonságosabbá teszi. Emberek összehasonlítják és értékelik a modell több válaszát; ezekből az ítéletekből jutalommodellt tanítanak, amely aztán megerősítéses tanulással tovább tanítja magát a nyelvi modellt. Így megtanulja például, hogy világosabban válaszoljon, vagy hogy elutasítsa a problémás kéréseket. Az RLHF a modell kiadása előtt, a modellszolgáltatónál zajlik – nem az egyes felhasználóknál.

tanítás
emberi visszajelzés
+1

Claude

A Claude az amerikai Anthropic MI-vállalat nagy nyelvi modelljeinek családja. A modellek számos nyelven értenek és írnak szöveget, dokumentumokat elemeznek, kódot írnak, és eszközöket is használhatnak, például kutatáshoz vagy automatizáláshoz. A legismertebbek a Haiku, a Sonnet és az Opus modellcsaládok, amelyek sebességükben, költségükben és képességeikben különböznek. Az Anthropic különös hangsúlyt helyez a biztonságra és a megbízható modellviselkedésre.

Anthropic
nyelvi modell
+1

MI-etika

Az MI-etika az MI fejlesztését és használatát övező erkölcsi kérdésekkel foglalkozik: méltányosság és diszkrimináció, átláthatóság és magyarázhatóság, adatvédelem, a hibákért viselt felelősség, biztonság, valamint a munkára és a társadalomra gyakorolt hatások. A szervezetek számára irányelvekben, kockázatértékelésekben, emberi felügyeletben és az MI korlátairól szóló őszinte kommunikációban válik konkréttá. Példa: egy önéletrajz-szűrő eszköz bevezetése előtt ellenőrzik, hogy nem hozza-e hátrányba bizonyos csoportokat.

etika
Illetékesség
+1

LLM-biztonság

Az LLM-biztonság mindazon intézkedéseket magában foglalja, amelyek a nagy nyelvi modellekre épülő alkalmazásokat védik a visszaélésektől, az adatszivárgástól és a nem kívánt viselkedéstől. Tipikus kockázatok: a prompt injection, a bizalmas utasítások vagy adatok kiszivárogtatása, valamint a túlzott jogosultságokkal rendelkező ügynökök. A védelem több rétegből áll: egyértelmű utasítások, korlátozott jogok, a bemenetek és kimenetek ellenőrzése, MI-tűzfalak, red teaming és rendszeres auditok.

biztonság
nyelvi modellek
+1

Sablon