Pojmovnik

Konstitucijska UI (Constitutional AI)

Što je Konstitucijska UI (Constitutional AI)?

Konstitucijska UI (Constitutional AI) metoda je treniranja jezičnih modela koju je Anthropic objavio 2022.; nema veze s ustavnim pravom. Temelji se na pisanom skupu načela, „ustavu”: model kritizira i prerađuje vlastite odgovore prema tim načelima, zatim UI uspoređuje parove odgovora, a ta povratna informacija služi kao signal nagrade za podržano učenje (RLAIF). Time se smanjuje potreba za ljudskim označavanjem štetnog sadržaja; u siječnju 2026. Anthropic je objavio revidirani ustav za Claudea.

Kako KI.ordo pomaže

Anthropicovi modeli Claude koji se koriste u KI.ordo, među ostalim, trenirani su ovom metodom.

Teme

Training
sigurnost UI-ja
Anthropic

Isprobajte KI.ordo

Agenti, tijekovi rada i predlošci u jednom radnom prostoru – besplatna demo verzija na 24 sata.

Pokrenite demo

← Svi pojmovi

Srodni pojmovi

Učenje podrškom na temelju ljudskih povratnih informacija (RLHF)

RLHF je metoda treniranja koja jezične modele čini korisnijima i sigurnijima. Ljudi uspoređuju i ocjenjuju više odgovora modela; te se prosudbe koriste za treniranje modela nagrađivanja, koji zatim putem učenja podrškom dalje trenira sam jezični model. Tako se, primjerice, uči jasnije odgovarati ili odbijati problematične zahtjeve. RLHF se provodi kod pružatelja modela prije izlaska modela – ne kod pojedinačnih korisnika.

treniranje
ljudske povratne informacije
+1

Claude

Claude je obitelj velikih jezičnih modela američke tvrtke za UI Anthropic. Modeli razumiju i pišu tekst na mnogim jezicima, analiziraju dokumente, pišu kod i mogu koristiti alate, primjerice za istraživanje ili automatizaciju. Najpoznatije su obitelji modela Haiku, Sonnet i Opus, koje se razlikuju po brzini, trošku i sposobnostima. Anthropic posebno naglašava sigurnost i pouzdano ponašanje modela.

Anthropic
jezični model
+1

Etika UI-ja

Etika UI-ja bavi se moralnim pitanjima razvoja i uporabe UI-ja: pravednošću i diskriminacijom, transparentnošću i objašnjivošću, zaštitom podataka, odgovornošću za pogreške, sigurnošću te utjecajem na rad i društvo. Za organizacije postaje konkretna u smjernicama, procjenama rizika, ljudskom nadzoru i iskrenoj komunikaciji o ograničenjima UI-ja. Primjer: prije uvođenja alata za probir životopisa provjerava se stavlja li određene skupine u nepovoljniji položaj.

Etika
Nadležnost
+1

Sigurnost LLM-a

Sigurnost LLM-a obuhvaća sve mjere koje aplikacije izgrađene na velikim jezičnim modelima štite od zlouporabe, curenja podataka i neželjenog ponašanja. Tipični rizici uključuju prompt injection, otkrivanje povjerljivih uputa ili podataka te agente s prevelikim ovlastima. Zaštita dolazi iz više slojeva: jasnih uputa, ograničenih prava, provjera unosa i izlaza, UI vatrozida, red teaminga i redovitih revizija.

sigurnost
jezični modeli
+1

Predložak