Sanasto

Tekoäly ja ihmisoikeudet

Mikä on Tekoäly ja ihmisoikeudet?

Termi kuvaa, miten tekoälyjärjestelmät voivat vaikuttaa ihmisoikeuksiin, kuten yksityisyyteen, yhdenvertaiseen kohteluun, sananvapauteen tai oikeudenmukaiseen oikeudenkäyntiin, sekä myönteisesti että kielteisesti. Riskejä syntyy esimerkiksi syrjivistä päätöksistä, massavalvonnasta, biometrisestä tunnistuksesta tai keinojen puutteesta päätösten riitauttamiseen. Näihin kysymyksiin vastaavat kansainväliset kehykset, kuten Euroopan neuvoston tekoälyä koskeva puitesopimus ja EU:n tekoälysäädös. Organisaatiot vastaavat vaikutustenarvioinneilla, läpinäkyvyydellä ja inhimillisellä valvonnalla.

Aiheet

etiikka
perusoikeudet
Sääntely

Kokeile KI.ordoa

Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.

Aloita demo

← Kaikki termit

Liittyvät termit

Tekoälyetiikka

Tekoälyetiikka käsittelee tekoälyn kehittämiseen ja käyttöön liittyviä moraalikysymyksiä: reiluutta ja syrjintää, läpinäkyvyyttä ja selitettävyyttä, tietosuojaa, vastuuta virheistä, turvallisuutta sekä vaikutuksia työhön ja yhteiskuntaan. Organisaatioille se konkretisoituu ohjeistuksina, riskinarviointeina, inhimillisenä valvontana ja avoimena viestintänä tekoälyn rajoituksista. Esimerkki: ennen ansioluettelojen seulontatyökalun käyttöönottoa tarkistetaan, asettaako se tietyt ryhmät epäedulliseen asemaan.

etiikka
Vastuu
+1

Syrjintä tekoälyssä

Syrjintä tekoälyssä tarkoittaa, että tekoälyjärjestelmä asettaa ihmiset perusteettomasti epäedulliseen asemaan esimerkiksi sukupuolen, etnisen alkuperän, iän tai vammaisuuden perusteella. Syynä on yleensä vinoutunut koulutusdata, sopimattomat sijaisominaisuudet, kuten postinumerot, tai testauksen puute; tunnettuja tapauksia on rekrytoinnista ja luotonannosta. Vastatoimia ovat edustava data, säännöllinen reiluustestaus, läpinäkyvyys ja ihmisiä koskevien päätösten inhimillinen valvonta.

reiluus
harha
+1

Tietosuojasäännökset

Tietosuojasäännökset ovat oikeussääntöjä, jotka ohjaavat henkilötietojen käsittelyä. EU:ssa keskeinen kehys on yleinen tietosuoja-asetus (GDPR); se edellyttää muun muassa oikeusperustetta jokaiselle käsittelylle, tietojen minimointia, läpinäkyvyyttä rekisteröityjä kohtaan ja henkilötietojen käsittelysopimuksia palveluntarjoajien kanssa. Tekoälyä käytettäessä organisaatioiden on selvitettävä, mitä tietoja päätyy syötteisiin, tietolähteisiin ja lokeihin ja missä niitä käsitellään.

GDPR
tietosuoja
+1

Tekoälyn läpinäkyvyys

Tekoälyn läpinäkyvyys tarkoittaa sen kertomista, milloin tekoäly on mukana, mihin dataan ja lähteisiin sen tulokset perustuvat ja miten päätöksiin päädytään. Tähän kuuluvat tekoälysisällön merkitseminen, jäljitettävät lähdeviitteet, lokit ja dokumentoidut muutokset. Läpinäkyvyys rakentaa luottamusta, helpottaa vianetsintää ja on osittain lakisääteistä, esimerkiksi EU:n tekoälysäädöksen läpinäkyvyysvelvoitteiden mukaisesti, joiden nojalla ihmisten tulisi voida havaita olevansa vuorovaikutuksessa tekoälyn kanssa.

Läpinäkyvyys
Luottamus
+1