Glosar

Bias

Ce este Bias?

În IA, bias (prejudecata algoritmică) desemnează o distorsionare sistematică a rezultatelor. Aceasta provine adesea din date de antrenare dezechilibrate sau distorsionate istoric, dar și din proiectarea modelului ori din modul în care este formulată o întrebare. Un exemplu cunoscut: un instrument de preselecție a candidaților care învață din deciziile de angajare anterioare poate perpetua dezavantajele existente. În statistică, bias înseamnă și abaterea unei estimări de la valoarea reală. Contramăsurile includ date diverse, audituri periodice și decizii luate de oameni în chestiunile de personal.

Subiecte

Etica IA
Fairness
Calitatea datelor

Încercați KI.ordo

Agenți, fluxuri și șabloane într-un singur spațiu de lucru – demo gratuit de 24 de ore.

Porniți demo-ul

← Toți termenii

Termeni înrudiți

Discriminarea în IA

Discriminarea în IA apare atunci când un sistem IA dezavantajează în mod nejustificat persoane pe baza unor caracteristici precum sexul, originea etnică, vârsta sau dizabilitatea. Cauzele sunt, de obicei, date de antrenare distorsionate, caracteristici-proxy nepotrivite, precum codurile poștale, sau lipsa testării; cazuri cunoscute provin din recrutare și acordarea de credite. Măsurile de contracarare includ date reprezentative, teste periodice de echitate, transparență și supraveghere umană a deciziilor privind persoanele.

echitate
prejudecată algoritmică (bias)
+1

Date de antrenare

Datele de antrenare sunt exemplele din care un model de IA învață tipare: colecții mari de texte pentru modelele lingvistice, imagini etichetate pentru modelele de imagini. Calitatea, diversitatea și actualitatea lor determină în mare măsură cât de fiabil și echitabil este un model și cât de actuale sunt cunoștințele sale. Pentru organizații contează și dacă un furnizor folosește datele clienților introduse de aceștia pentru antrenare ulterioară.

Date
Training
+1

Etica IA

Etica IA se ocupă de întrebările morale legate de dezvoltarea și utilizarea IA: echitate și discriminare, transparență și explicabilitate, protecția datelor, responsabilitatea pentru erori, siguranța și efectele asupra muncii și societății. Pentru organizații, devine concretă în ghiduri, evaluări de risc, supraveghere umană și comunicare sinceră despre limitele IA. Exemplu: înainte de introducerea unui instrument de triere a CV-urilor, se verifică dacă dezavantajează anumite grupuri.

etică
Responsabilitate
+1

Explicabilitate

Explicabilitatea (IA explicabilă, XAI) descrie cât de bine se poate înțelege de ce un sistem IA a ajuns la un anumit rezultat. Cuprinde metode care arată ce intrări au influențat cel mai mult o decizie, precum și ajutoare practice, cum ar fi trimiterile la surse și jurnalele. Explicabilitatea contează pentru încredere, remedierea erorilor și reglementare – de exemplu atunci când o bancă trebuie să justifice de ce a respins o cerere.

XAI
Transparență
+1