Glossarju

IA kostituzzjonali

X'inhu IA kostituzzjonali?

L-IA kostituzzjonali (Constitutional AI) hija metodu ta' taħriġ għal mudelli lingwistiċi ppubblikat minn Anthropic fl-2022; m'għandha x'taqsam xejn mal-liġi kostituzzjonali. Hija bbażata fuq sett miktub ta' prinċipji, il-“kostituzzjoni”: il-mudell jikkritika u jirrevedi t-tweġibiet tiegħu stess skont dawn il-prinċipji, imbagħad IA tqabbel pari ta' tweġibiet, u dan il-feedback jservi bħala sinjal ta' premju għat-tagħlim bir-rinforz (RLAIF). Dan inaqqas il-ħtieġa ta' tikkettar uman ta' kontenut ta' ħsara; f'Jannar 2026 Anthropic ippubblikat kostituzzjoni riveduta għal Claude.

Kif jgħin KI.ordo

Il-mudelli Claude ta' Anthropic użati f'KI.ordo huma mħarrġa bl-użu ta' dan il-metodu, fost oħrajn.

Suġġetti

Training
Sigurtà tal-IA
Anthropic

Ipprova KI.ordo

Aġenti, flussi tax-xogħol u mudelli fi spazju tax-xogħol wieħed – demo b'xejn għal 24 siegħa.

Ibda d-demo

← It-termini kollha

Termini relatati

Tagħlim bir-rinforz minn feedback tal-bniedem (RLHF)

L-RLHF huwa metodu ta' taħriġ li jagħmel il-mudelli lingwistiċi aktar siewja u aktar sikuri. In-nies jqabblu u jevalwaw diversi tweġibiet tal-mudell; dawn il-ġudizzji jintużaw biex jitħarreġ mudell tal-premjijiet, li mbagħad iħarreġ aktar lill-mudell lingwistiku stess permezz tat-tagħlim bir-rinforz. Dan jgħallmu, per eżempju, iwieġeb b'mod aktar ċar jew jirrifjuta talbiet problematiċi. L-RLHF isir għand il-fornitur tal-mudell qabel ma mudell jinħareġ – mhux ma' utenti individwali.

taħriġ
feedback tal-bniedem
+1

Claude

Claude hija familja ta' mudelli kbar tal-lingwa mill-kumpanija Amerikana tal-IA Anthropic. Il-mudelli jifhmu u jiktbu test f'ħafna lingwi, janalizzaw dokumenti, jiktbu kodiċi u jistgħu jużaw għodod, pereżempju għar-riċerka jew l-awtomazzjoni. L-aktar magħrufa huma l-familji tal-mudelli Haiku, Sonnet u Opus, li jvarjaw fil-veloċità, l-ispiża u l-kapaċità. Anthropic tagħti enfasi partikolari lis-sigurtà u lil imġiba affidabbli tal-mudelli.

Anthropic
mudell tal-lingwa
+1

Etika tal-IA

L-etika tal-IA tittratta l-kwistjonijiet morali madwar l-iżvilupp u l-użu tal-IA: ġustizzja u diskriminazzjoni, trasparenza u spjegabbiltà, protezzjoni tad-data, responsabbiltà għall-iżbalji, sigurtà u l-effetti fuq ix-xogħol u s-soċjetà. Għall-organizzazzjonijiet issir konkreta f'linji gwida, valutazzjonijiet tar-riskju, sorveljanza umana u komunikazzjoni onesta dwar il-limiti tal-IA. Eżempju: qabel ma tiddaħħal għodda għall-iskrinjar ta' CVs, tiġi ċċekkjata jekk tpoġġix gruppi partikolari fi żvantaġġ.

Etika
Responsabbiltà
+1

Sigurtà tal-LLM

Is-sigurtà tal-LLM tkopri l-miżuri kollha li jipproteġu applikazzjonijiet mibnija fuq mudelli lingwistiċi kbar minn użu ħażin, tnixxija tad-data u mġiba mhux mixtieqa. Riskji tipiċi jinkludu prompt injection, żvelar ta' struzzjonijiet jew data kunfidenzjali, u aġenti b'permessi eċċessivi. Il-protezzjoni tiġi minn diversi saffi: struzzjonijiet ċari, drittijiet ristretti, kontrolli tal-inputs u tal-outputs, firewalls tal-IA, red teaming u awditi regolari.

sigurtà
mudelli lingwistiċi
+1

Mudell