Sanasto

Bias

Mikä on Bias?

Tekoälyssä vinouma (bias) tarkoittaa tulosten järjestelmällistä vääristymää. Se johtuu usein epätasapainoisesta tai historiallisesti vinoutuneesta opetusdatasta, mutta myös mallin suunnittelusta tai kysymyksen muotoilusta. Tunnettu esimerkki: hakijoiden seulontatyökalu, joka oppii aiemmista rekrytointipäätöksistä, voi ylläpitää olemassa olevaa syrjintää. Tilastotieteessä harha tarkoittaa myös estimaatin poikkeamaa todellisesta arvosta. Vastatoimia ovat monipuolinen data, säännölliset auditoinnit ja ihmisten tekemät henkilöstöpäätökset.

Aiheet

Tekoälyetiikka
Fairness
Datan laatu

Kokeile KI.ordoa

Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.

Aloita demo

← Kaikki termit

Liittyvät termit

Syrjintä tekoälyssä

Syrjintä tekoälyssä tarkoittaa, että tekoälyjärjestelmä asettaa ihmiset perusteettomasti epäedulliseen asemaan esimerkiksi sukupuolen, etnisen alkuperän, iän tai vammaisuuden perusteella. Syynä on yleensä vinoutunut koulutusdata, sopimattomat sijaisominaisuudet, kuten postinumerot, tai testauksen puute; tunnettuja tapauksia on rekrytoinnista ja luotonannosta. Vastatoimia ovat edustava data, säännöllinen reiluustestaus, läpinäkyvyys ja ihmisiä koskevien päätösten inhimillinen valvonta.

reiluus
harha
+1

Opetusdata

Opetusdata ovat esimerkkejä, joista tekoälymalli oppii säännönmukaisuuksia: suuria tekstikokoelmia kielimalleille, luokiteltuja kuvia kuvamalleille. Niiden laatu, monipuolisuus ja ajantasaisuus määräävät pitkälti, kuinka luotettava ja oikeudenmukainen malli on ja kuinka ajan tasalla sen tietämys on. Organisaatioille on myös tärkeää, käyttääkö tarjoaja syöttämiään asiakastietoja jatko-opetukseen.

Data
Training
+1

Tekoälyetiikka

Tekoälyetiikka käsittelee tekoälyn kehittämiseen ja käyttöön liittyviä moraalikysymyksiä: reiluutta ja syrjintää, läpinäkyvyyttä ja selitettävyyttä, tietosuojaa, vastuuta virheistä, turvallisuutta sekä vaikutuksia työhön ja yhteiskuntaan. Organisaatioille se konkretisoituu ohjeistuksina, riskinarviointeina, inhimillisenä valvontana ja avoimena viestintänä tekoälyn rajoituksista. Esimerkki: ennen ansioluettelojen seulontatyökalun käyttöönottoa tarkistetaan, asettaako se tietyt ryhmät epäedulliseen asemaan.

etiikka
Vastuu
+1

Selitettävyys

Selitettävyys (explainable AI, XAI) kuvaa sitä, kuinka hyvin voidaan ymmärtää, miksi tekoälyjärjestelmä päätyi tiettyyn tulokseen. Se kattaa menetelmät, jotka osoittavat, mitkä syötteet vaikuttivat päätökseen eniten, sekä käytännön apuvälineet, kuten lähdeviitteet ja lokit. Selitettävyys on tärkeää luottamukselle, vianetsinnälle ja sääntelylle – esimerkiksi kun pankin on perusteltava, miksi hakemus hylättiin.

XAI
Läpinäkyvyys
+1