Sanasto

Konstitutionaalinen tekoäly (Constitutional AI)

Mikä on Konstitutionaalinen tekoäly (Constitutional AI)?

Constitutional AI on Anthropicin vuonna 2022 julkaisema kielimallien koulutusmenetelmä; sillä ei ole mitään tekemistä valtiosääntöoikeuden kanssa. Se perustuu kirjalliseen periaatekokoelmaan, ”perustuslakiin”: malli arvioi kriittisesti ja muokkaa omia vastauksiaan näiden periaatteiden mukaisesti, sitten tekoäly vertaa vastauspareja, ja tämä palaute toimii palkintosignaalina vahvistusoppimisessa (RLAIF). Tämä vähentää tarvetta ihmisten tekemään haitallisen sisällön merkitsemiseen; tammikuussa 2026 Anthropic julkaisi Claudelle uudistetun perustuslain.

Miten KI.ordo auttaa

KI.ordossa käytettävät Anthropicin Claude-mallit on koulutettu muun muassa tällä menetelmällä.

Aiheet

Training
tekoälyn turvallisuus
Anthropic

Kokeile KI.ordoa

Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.

Aloita demo

← Kaikki termit

Liittyvät termit

Vahvistusoppiminen ihmispalautteesta (RLHF)

RLHF on opetusmenetelmä, joka tekee kielimalleista avuliaampia ja turvallisempia. Ihmiset vertailevat ja arvioivat mallin useita vastauksia; näiden arvioiden avulla opetetaan palkkiomalli, joka puolestaan opettaa kielimallia edelleen vahvistusoppimisella. Näin se oppii esimerkiksi vastaamaan selkeämmin tai kieltäytymään ongelmallisista pyynnöistä. RLHF tehdään mallin tarjoajalla ennen mallin julkaisua – ei yksittäisten käyttäjien kanssa.

koulutus
ihmispalaute
+1

Claude

Claude on yhdysvaltalaisen tekoälyyhtiö Anthropicin suurten kielimallien perhe. Mallit ymmärtävät ja kirjoittavat tekstiä monilla kielillä, analysoivat asiakirjoja, kirjoittavat koodia ja voivat käyttää työkaluja esimerkiksi tiedonhakuun tai automaatioon. Tunnetuimpia ovat malliperheet Haiku, Sonnet ja Opus, jotka eroavat toisistaan nopeuden, kustannusten ja suorituskyvyn osalta. Anthropic painottaa erityisesti turvallisuutta ja luotettavaa mallin käyttäytymistä.

Anthropic
kielimalli
+1

Tekoälyetiikka

Tekoälyetiikka käsittelee tekoälyn kehittämiseen ja käyttöön liittyviä moraalikysymyksiä: reiluutta ja syrjintää, läpinäkyvyyttä ja selitettävyyttä, tietosuojaa, vastuuta virheistä, turvallisuutta sekä vaikutuksia työhön ja yhteiskuntaan. Organisaatioille se konkretisoituu ohjeistuksina, riskinarviointeina, inhimillisenä valvontana ja avoimena viestintänä tekoälyn rajoituksista. Esimerkki: ennen ansioluettelojen seulontatyökalun käyttöönottoa tarkistetaan, asettaako se tietyt ryhmät epäedulliseen asemaan.

etiikka
Vastuu
+1

LLM-tietoturva

LLM-tietoturva kattaa kaikki toimenpiteet, jotka suojaavat suuriin kielimalleihin perustuvia sovelluksia väärinkäytöltä, tietovuodoilta ja ei-toivotulta käyttäytymiseltä. Tyypillisiä riskejä ovat kehoteinjektio, luottamuksellisten ohjeiden tai tietojen paljastuminen ja agentit, joilla on liialliset oikeudet. Suoja syntyy useista kerroksista: selkeät ohjeet, rajatut oikeudet, syötteiden ja tulosteiden tarkistukset, tekoälypalomuurit, red teaming ja säännölliset auditoinnit.

tietoturva
kielimallit
+1

Malli