Glossarju

Bias

X'inhu Bias?

Fl-IA, il-preġudizzju (bias) jirreferi għal distorsjoni sistematika tar-riżultati. Ta' spiss jirriżulta minn data tat-taħriġ mhux ibbilanċjata jew storikament żbilanċjata, iżda wkoll mid-disinn tal-mudell jew mill-mod kif tiġi fformulata mistoqsija. Eżempju magħruf: għodda għall-għażla tal-applikanti li titgħallem minn deċiżjonijiet ta' reklutaġġ tal-passat tista' tipperpetwa żvantaġġi eżistenti. Fl-istatistika, il-bias ifisser ukoll id-devjazzjoni ta' stima mill-valur veru. Il-kontromiżuri jinkludu data diversa, verifiki regolari u deċiżjonijiet umani fi kwistjonijiet tal-persunal.

Suġġetti

Etika tal-IA
Fairness
Kwalità tad-data

Ipprova KI.ordo

Aġenti, flussi tax-xogħol u mudelli fi spazju tax-xogħol wieħed – demo b'xejn għal 24 siegħa.

Ibda d-demo

← It-termini kollha

Termini relatati

Diskriminazzjoni fl-IA

Id-diskriminazzjoni fl-IA sseħħ meta sistema tal-IA tpoġġi persuni fi żvantaġġ b'mod inġustifikat abbażi ta' karatteristiċi bħas-sess, l-oriġini etnika, l-età jew id-diżabilità. Il-kawżi normalment huma data tat-taħriġ imxejna, karatteristiċi proxy mhux adattati bħall-kodiċijiet postali, jew nuqqas ta' ttestjar; każijiet magħrufa joriġinaw mir-reklutaġġ u mis-self. Il-kontromiżuri jinkludu data rappreżentattiva, ittestjar regolari tal-ġustizzja, trasparenza u sorveljanza umana tad-deċiżjonijiet dwar persuni.

ġustizzja
preġudizzju
+1

Data tat-taħriġ

Id-data tat-taħriġ hija l-eżempji li minnhom mudell tal-IA jitgħallem mudelli: kollezzjonijiet kbar ta' test għal mudelli lingwistiċi, immaġini ttikkettjati għal mudelli tal-immaġini. Il-kwalità, id-diversità u l-aġġornament tagħha jiddeterminaw ħafna kemm mudell ikun affidabbli u ġust u kemm l-għarfien tiegħu jkun aġġornat. Għall-organizzazzjonijiet huwa importanti wkoll jekk fornitur juża d-data tal-klijenti li jidħlu għal aktar taħriġ.

Data
Training
+1

Etika tal-IA

L-etika tal-IA tittratta l-kwistjonijiet morali madwar l-iżvilupp u l-użu tal-IA: ġustizzja u diskriminazzjoni, trasparenza u spjegabbiltà, protezzjoni tad-data, responsabbiltà għall-iżbalji, sigurtà u l-effetti fuq ix-xogħol u s-soċjetà. Għall-organizzazzjonijiet issir konkreta f'linji gwida, valutazzjonijiet tar-riskju, sorveljanza umana u komunikazzjoni onesta dwar il-limiti tal-IA. Eżempju: qabel ma tiddaħħal għodda għall-iskrinjar ta' CVs, tiġi ċċekkjata jekk tpoġġix gruppi partikolari fi żvantaġġ.

Etika
Responsabbiltà
+1

Spjegabbiltà

L-ispjegabbiltà (IA spjegabbli, XAI) tiddeskrivi kemm wieħed jista' jifhem għaliex sistema tal-IA waslet għal riżultat partikolari. Tkopri metodi li juru liema inputs influwenzaw l-aktar deċiżjoni, kif ukoll għajnuniet prattiċi bħal referenzi għas-sorsi u reġistri. L-ispjegabbiltà hija importanti għall-fiduċja, għall-issolvar tal-problemi u għar-regolamentazzjoni – pereżempju meta bank irid jiġġustifika għaliex applikazzjoni ġiet miċħuda.

XAI
Trasparenza
+1