Glossarju

Diskriminazzjoni fl-IA

X'inhu Diskriminazzjoni fl-IA?

Id-diskriminazzjoni fl-IA sseħħ meta sistema tal-IA tpoġġi persuni fi żvantaġġ b'mod inġustifikat abbażi ta' karatteristiċi bħas-sess, l-oriġini etnika, l-età jew id-diżabilità. Il-kawżi normalment huma data tat-taħriġ imxejna, karatteristiċi proxy mhux adattati bħall-kodiċijiet postali, jew nuqqas ta' ttestjar; każijiet magħrufa joriġinaw mir-reklutaġġ u mis-self. Il-kontromiżuri jinkludu data rappreżentattiva, ittestjar regolari tal-ġustizzja, trasparenza u sorveljanza umana tad-deċiżjonijiet dwar persuni.

Kif jgħin KI.ordo

Fi proġetti ta' KI.ordo, l-aġenti jagħtu abbozzi li persuni jirrevedu u japprovaw.

Suġġetti

ġustizzja
preġudizzju
Etika tal-IA

Ipprova KI.ordo

Aġenti, flussi tax-xogħol u mudelli fi spazju tax-xogħol wieħed – demo b'xejn għal 24 siegħa.

Ibda d-demo

← It-termini kollha

Termini relatati

Bias

Fl-IA, il-preġudizzju (bias) jirreferi għal distorsjoni sistematika tar-riżultati. Ta' spiss jirriżulta minn data tat-taħriġ mhux ibbilanċjata jew storikament żbilanċjata, iżda wkoll mid-disinn tal-mudell jew mill-mod kif tiġi fformulata mistoqsija. Eżempju magħruf: għodda għall-għażla tal-applikanti li titgħallem minn deċiżjonijiet ta' reklutaġġ tal-passat tista' tipperpetwa żvantaġġi eżistenti. Fl-istatistika, il-bias ifisser ukoll id-devjazzjoni ta' stima mill-valur veru. Il-kontromiżuri jinkludu data diversa, verifiki regolari u deċiżjonijiet umani fi kwistjonijiet tal-persunal.

Etika tal-IA
Fairness
+1

Etika tal-IA

L-etika tal-IA tittratta l-kwistjonijiet morali madwar l-iżvilupp u l-użu tal-IA: ġustizzja u diskriminazzjoni, trasparenza u spjegabbiltà, protezzjoni tad-data, responsabbiltà għall-iżbalji, sigurtà u l-effetti fuq ix-xogħol u s-soċjetà. Għall-organizzazzjonijiet issir konkreta f'linji gwida, valutazzjonijiet tar-riskju, sorveljanza umana u komunikazzjoni onesta dwar il-limiti tal-IA. Eżempju: qabel ma tiddaħħal għodda għall-iskrinjar ta' CVs, tiġi ċċekkjata jekk tpoġġix gruppi partikolari fi żvantaġġ.

Etika
Responsabbiltà
+1

Spjegabbiltà

L-ispjegabbiltà (IA spjegabbli, XAI) tiddeskrivi kemm wieħed jista' jifhem għaliex sistema tal-IA waslet għal riżultat partikolari. Tkopri metodi li juru liema inputs influwenzaw l-aktar deċiżjoni, kif ukoll għajnuniet prattiċi bħal referenzi għas-sorsi u reġistri. L-ispjegabbiltà hija importanti għall-fiduċja, għall-issolvar tal-problemi u għar-regolamentazzjoni – pereżempju meta bank irid jiġġustifika għaliex applikazzjoni ġiet miċħuda.

XAI
Trasparenza
+1

Human-in-the-Loop (bniedem fil-ċirku)

Human-in-the-loop jiddeskrivi flussi tax-xogħol li fihom persuni jidħlu fi proċess tal-IA f'punti definiti: jirrevedu r-riżultati, japprovawhom jew jikkoreġuhom, jew jieħdu f'idejhom każijiet diffiċli. Il-prinċipju jnaqqas ir-riskju ta' output difettuż u jżomm ir-responsabbiltà f'idejn il-persuni, speċjalment għal deċiżjonijiet li jolqtu individwi, flus jew kwistjonijiet legali. Eżempju: aġent tal-IA jabbozza risposti għal talbiet tal-klijenti u membru tal-persunal jiċċekkjahom qabel jinbagħtu.

Approvazzjoni
Sorveljanza
+1