Glosar

Discriminarea în IA

Ce este Discriminarea în IA?

Discriminarea în IA apare atunci când un sistem IA dezavantajează în mod nejustificat persoane pe baza unor caracteristici precum sexul, originea etnică, vârsta sau dizabilitatea. Cauzele sunt, de obicei, date de antrenare distorsionate, caracteristici-proxy nepotrivite, precum codurile poștale, sau lipsa testării; cazuri cunoscute provin din recrutare și acordarea de credite. Măsurile de contracarare includ date reprezentative, teste periodice de echitate, transparență și supraveghere umană a deciziilor privind persoanele.

Cum ajută KI.ordo

În proiectele KI.ordo, agenții livrează ciorne pe care oamenii le verifică și le aprobă.

Subiecte

echitate
prejudecată algoritmică (bias)
Etica IA

Încercați KI.ordo

Agenți, fluxuri și șabloane într-un singur spațiu de lucru – demo gratuit de 24 de ore.

Porniți demo-ul

← Toți termenii

Termeni înrudiți

Bias

În IA, bias (prejudecata algoritmică) desemnează o distorsionare sistematică a rezultatelor. Aceasta provine adesea din date de antrenare dezechilibrate sau distorsionate istoric, dar și din proiectarea modelului ori din modul în care este formulată o întrebare. Un exemplu cunoscut: un instrument de preselecție a candidaților care învață din deciziile de angajare anterioare poate perpetua dezavantajele existente. În statistică, bias înseamnă și abaterea unei estimări de la valoarea reală. Contramăsurile includ date diverse, audituri periodice și decizii luate de oameni în chestiunile de personal.

Etica IA
Fairness
+1

Etica IA

Etica IA se ocupă de întrebările morale legate de dezvoltarea și utilizarea IA: echitate și discriminare, transparență și explicabilitate, protecția datelor, responsabilitatea pentru erori, siguranța și efectele asupra muncii și societății. Pentru organizații, devine concretă în ghiduri, evaluări de risc, supraveghere umană și comunicare sinceră despre limitele IA. Exemplu: înainte de introducerea unui instrument de triere a CV-urilor, se verifică dacă dezavantajează anumite grupuri.

etică
Responsabilitate
+1

Explicabilitate

Explicabilitatea (IA explicabilă, XAI) descrie cât de bine se poate înțelege de ce un sistem IA a ajuns la un anumit rezultat. Cuprinde metode care arată ce intrări au influențat cel mai mult o decizie, precum și ajutoare practice, cum ar fi trimiterile la surse și jurnalele. Explicabilitatea contează pentru încredere, remedierea erorilor și reglementare – de exemplu atunci când o bancă trebuie să justifice de ce a respins o cerere.

XAI
Transparență
+1

Human-in-the-Loop

Human-in-the-loop descrie fluxurile de lucru în care oamenii intervin într-un proces IA în puncte definite: verifică rezultatele, le aprobă sau le corectează ori preiau cazurile dificile. Principiul reduce riscul unor rezultate eronate și păstrează răspunderea la nivel uman, mai ales în cazul deciziilor care privesc persoane, bani sau aspecte juridice. Exemplu: un agent IA redactează răspunsuri la solicitările clienților, iar un angajat le verifică înainte de trimitere.

aprobare
supraveghere
+1