Sanasto

Syrjintä tekoälyssä

Mikä on Syrjintä tekoälyssä?

Syrjintä tekoälyssä tarkoittaa, että tekoälyjärjestelmä asettaa ihmiset perusteettomasti epäedulliseen asemaan esimerkiksi sukupuolen, etnisen alkuperän, iän tai vammaisuuden perusteella. Syynä on yleensä vinoutunut koulutusdata, sopimattomat sijaisominaisuudet, kuten postinumerot, tai testauksen puute; tunnettuja tapauksia on rekrytoinnista ja luotonannosta. Vastatoimia ovat edustava data, säännöllinen reiluustestaus, läpinäkyvyys ja ihmisiä koskevien päätösten inhimillinen valvonta.

Miten KI.ordo auttaa

KI.ordo-projekteissa agentit tuottavat luonnoksia, jotka ihmiset tarkastavat ja hyväksyvät.

Aiheet

reiluus
harha
Tekoälyetiikka

Kokeile KI.ordoa

Agentit, työnkulut ja mallit yhdessä työtilassa – maksuton 24 tunnin demo.

Aloita demo

← Kaikki termit

Liittyvät termit

Bias

Tekoälyssä vinouma (bias) tarkoittaa tulosten järjestelmällistä vääristymää. Se johtuu usein epätasapainoisesta tai historiallisesti vinoutuneesta opetusdatasta, mutta myös mallin suunnittelusta tai kysymyksen muotoilusta. Tunnettu esimerkki: hakijoiden seulontatyökalu, joka oppii aiemmista rekrytointipäätöksistä, voi ylläpitää olemassa olevaa syrjintää. Tilastotieteessä harha tarkoittaa myös estimaatin poikkeamaa todellisesta arvosta. Vastatoimia ovat monipuolinen data, säännölliset auditoinnit ja ihmisten tekemät henkilöstöpäätökset.

Tekoälyetiikka
Fairness
+1

Tekoälyetiikka

Tekoälyetiikka käsittelee tekoälyn kehittämiseen ja käyttöön liittyviä moraalikysymyksiä: reiluutta ja syrjintää, läpinäkyvyyttä ja selitettävyyttä, tietosuojaa, vastuuta virheistä, turvallisuutta sekä vaikutuksia työhön ja yhteiskuntaan. Organisaatioille se konkretisoituu ohjeistuksina, riskinarviointeina, inhimillisenä valvontana ja avoimena viestintänä tekoälyn rajoituksista. Esimerkki: ennen ansioluettelojen seulontatyökalun käyttöönottoa tarkistetaan, asettaako se tietyt ryhmät epäedulliseen asemaan.

etiikka
Vastuu
+1

Selitettävyys

Selitettävyys (explainable AI, XAI) kuvaa sitä, kuinka hyvin voidaan ymmärtää, miksi tekoälyjärjestelmä päätyi tiettyyn tulokseen. Se kattaa menetelmät, jotka osoittavat, mitkä syötteet vaikuttivat päätökseen eniten, sekä käytännön apuvälineet, kuten lähdeviitteet ja lokit. Selitettävyys on tärkeää luottamukselle, vianetsinnälle ja sääntelylle – esimerkiksi kun pankin on perusteltava, miksi hakemus hylättiin.

XAI
Läpinäkyvyys
+1

Ihminen prosessissa (human-in-the-loop)

Human-in-the-loop kuvaa työnkulkuja, joissa ihmiset astuvat tekoälyprosessiin määritellyissä kohdissa: he tarkastavat tuloksia, hyväksyvät tai korjaavat niitä tai ottavat hoitaakseen hankalat tapaukset. Periaate pienentää virheellisten tulosteiden riskiä ja pitää vastuun ihmisillä, erityisesti yksilöitä, rahaa tai oikeudellisia asioita koskevissa päätöksissä. Esimerkki: tekoälyagentti luonnostelee vastauksia asiakaskyselyihin, ja työntekijä tarkistaa ne ennen lähettämistä.

hyväksyntä
valvonta
+1