LT
PrisijungtiPradėti
Terminų žodynas

Konstitucinis DI (Constitutional AI)

Kas yra Konstitucinis DI (Constitutional AI)?

Konstitucinis DI – tai kalbos modelių mokymo metodas, kurį 2022 m. paskelbė „Anthropic“; jis neturi nieko bendra su konstitucine teise. Jis grindžiamas raštišku principų rinkiniu, „konstitucija“: modelis kritikuoja ir taiso savo atsakymus pagal šiuos principus, tada DI lygina atsakymų poras, o ši grįžtamoji informacija tampa atlygio signalu sustiprintam mokymuisi (RLAIF). Tai sumažina poreikį žmonėms žymėti žalingą turinį; 2026 m. sausį „Anthropic“ paskelbė peržiūrėtą „Claude“ konstituciją.

Kaip padeda KI.ordo

„Anthropic“ „Claude“ modeliai, naudojami KI.ordo, be kita ko, apmokyti šiuo metodu.

Temos

  • Training
  • DI sauga
  • Anthropic

Išbandykite KI.ordo

Agentai, srautai ir šablonai vienoje darbo srityje – nemokama 24 valandų demonstracinė versija.

Pradėti demonstraciją
← Visi terminai

Susiję terminai

Skatinamasis mokymasis iš žmogaus grįžtamojo ryšio (RLHF)

RLHF – mokymo metodas, daro kalbos modelius naudingesnius ir saugesnius. Žmonės palygina ir įvertina kelis modelio atsakymus; šie vertinimai naudojami atlygio modeliui apmokyti, kuris paskui skatinamuoju mokymusi toliau moko patį kalbos modelį. Taip jis išmoksta, pavyzdžiui, atsakyti aiškiau arba atsisakyti problemiškų prašymų. RLHF vyksta pas modelio tiekėją prieš išleidžiant modelį – o ne su atskirais naudotojais.

  • mokymas
  • žmogaus grįžtamasis ryšys
  • +1

Claude

Claude – JAV DI įmonės Anthropic didžiųjų kalbos modelių šeima. Modeliai supranta ir rašo tekstą daugeliu kalbų, analizuoja dokumentus, rašo kodą ir gali naudoti įrankius, pavyzdžiui, paieškai ar automatizavimui. Geriausiai žinomos modelių šeimos – Haiku, Sonnet ir Opus, kurios skiriasi greičiu, kaina ir gebėjimais. Anthropic ypač daug dėmesio skiria saugumui ir patikimam modelių elgesiui.

  • Anthropic
  • kalbos modelis
  • +1

DI etika

DI etika nagrinėja moralinius klausimus, susijusius su DI kūrimu ir naudojimu: sąžiningumą ir diskriminaciją, skaidrumą ir paaiškinamumą, duomenų apsaugą, atsakomybę už klaidas, saugą ir poveikį darbui bei visuomenei. Organizacijoms tai konkretizuojasi gairėse, rizikos vertinimuose, žmogaus vykdomoje priežiūroje ir sąžiningame bendravime apie DI ribas. Pavyzdys: prieš įdiegiant gyvenimo aprašymų atrankos įrankį patikrinama, ar jis nenuvertina tam tikrų grupių.

  • etika
  • Atsakomybė
  • +1

LLM sauga

LLM sauga apima visas priemones, saugančias didelių kalbos modelių pagrindu sukurtas programas nuo piktnaudžiavimo, duomenų nutekėjimo ir nepageidaujamo elgesio. Tipinė rizika: užklausos injekcija, konfidencialių nurodymų ar duomenų atskleidimas ir agentai su pernelyg dideliais leidimais. Apsauga kyla iš kelių sluoksnių: aiškių nurodymų, apribotų teisių, įvesties ir išvesties patikrų, DI ugniasienių, red teaming ir reguliarių auditų.

  • saugumas
  • kalbos modeliai
  • +1
Šablonas