Sanasto

Tekoälyetiikka

Mikä on Tekoälyetiikka?

Tekoälyetiikka käsittelee tekoälyn kehittämiseen ja käyttöön liittyviä moraalikysymyksiä: reiluutta ja syrjintää, läpinäkyvyyttä ja selitettävyyttä, tietosuojaa, vastuuta virheistä, turvallisuutta sekä vaikutuksia työhön ja yhteiskuntaan. Organisaatioille se konkretisoituu ohjeistuksina, riskinarviointeina, inhimillisenä valvontana ja avoimena viestintänä tekoälyn rajoituksista. Esimerkki: ennen ansioluettelojen seulontatyökalun käyttöönottoa tarkistetaan, asettaako se tietyt ryhmät epäedulliseen asemaan.

Aiheet

etiikka
Vastuu
Fairness

Kokeile KI.ordoa

Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.

Aloita demo

← Kaikki termit

Liittyvät termit

Bias

Tekoälyssä vinouma (bias) tarkoittaa tulosten järjestelmällistä vääristymää. Se johtuu usein epätasapainoisesta tai historiallisesti vinoutuneesta opetusdatasta, mutta myös mallin suunnittelusta tai kysymyksen muotoilusta. Tunnettu esimerkki: hakijoiden seulontatyökalu, joka oppii aiemmista rekrytointipäätöksistä, voi ylläpitää olemassa olevaa syrjintää. Tilastotieteessä harha tarkoittaa myös estimaatin poikkeamaa todellisesta arvosta. Vastatoimia ovat monipuolinen data, säännölliset auditoinnit ja ihmisten tekemät henkilöstöpäätökset.

Tekoälyetiikka
Fairness
+1

Tekoälyn läpinäkyvyys

Tekoälyn läpinäkyvyys tarkoittaa sen kertomista, milloin tekoäly on mukana, mihin dataan ja lähteisiin sen tulokset perustuvat ja miten päätöksiin päädytään. Tähän kuuluvat tekoälysisällön merkitseminen, jäljitettävät lähdeviitteet, lokit ja dokumentoidut muutokset. Läpinäkyvyys rakentaa luottamusta, helpottaa vianetsintää ja on osittain lakisääteistä, esimerkiksi EU:n tekoälysäädöksen läpinäkyvyysvelvoitteiden mukaisesti, joiden nojalla ihmisten tulisi voida havaita olevansa vuorovaikutuksessa tekoälyn kanssa.

Läpinäkyvyys
Luottamus
+1

Selitettävyys

Selitettävyys (explainable AI, XAI) kuvaa sitä, kuinka hyvin voidaan ymmärtää, miksi tekoälyjärjestelmä päätyi tiettyyn tulokseen. Se kattaa menetelmät, jotka osoittavat, mitkä syötteet vaikuttivat päätökseen eniten, sekä käytännön apuvälineet, kuten lähdeviitteet ja lokit. Selitettävyys on tärkeää luottamukselle, vianetsinnälle ja sääntelylle – esimerkiksi kun pankin on perusteltava, miksi hakemus hylättiin.

XAI
Läpinäkyvyys
+1

Tekoäly ja ihmisoikeudet

Termi kuvaa, miten tekoälyjärjestelmät voivat vaikuttaa ihmisoikeuksiin, kuten yksityisyyteen, yhdenvertaiseen kohteluun, sananvapauteen tai oikeudenmukaiseen oikeudenkäyntiin, sekä myönteisesti että kielteisesti. Riskejä syntyy esimerkiksi syrjivistä päätöksistä, massavalvonnasta, biometrisestä tunnistuksesta tai keinojen puutteesta päätösten riitauttamiseen. Näihin kysymyksiin vastaavat kansainväliset kehykset, kuten Euroopan neuvoston tekoälyä koskeva puitesopimus ja EU:n tekoälysäädös. Organisaatiot vastaavat vaikutustenarvioinneilla, läpinäkyvyydellä ja inhimillisellä valvonnalla.

etiikka
perusoikeudet
+1