Glosar

Etica IA

Ce este Etica IA?

Etica IA se ocupă de întrebările morale legate de dezvoltarea și utilizarea IA: echitate și discriminare, transparență și explicabilitate, protecția datelor, responsabilitatea pentru erori, siguranța și efectele asupra muncii și societății. Pentru organizații, devine concretă în ghiduri, evaluări de risc, supraveghere umană și comunicare sinceră despre limitele IA. Exemplu: înainte de introducerea unui instrument de triere a CV-urilor, se verifică dacă dezavantajează anumite grupuri.

Subiecte

etică
Responsabilitate
Fairness

Încercați KI.ordo

Agenți, fluxuri și șabloane într-un singur spațiu de lucru – demo gratuit de 24 de ore.

Porniți demo-ul

← Toți termenii

Termeni înrudiți

Bias

În IA, bias (prejudecata algoritmică) desemnează o distorsionare sistematică a rezultatelor. Aceasta provine adesea din date de antrenare dezechilibrate sau distorsionate istoric, dar și din proiectarea modelului ori din modul în care este formulată o întrebare. Un exemplu cunoscut: un instrument de preselecție a candidaților care învață din deciziile de angajare anterioare poate perpetua dezavantajele existente. În statistică, bias înseamnă și abaterea unei estimări de la valoarea reală. Contramăsurile includ date diverse, audituri periodice și decizii luate de oameni în chestiunile de personal.

Etica IA
Fairness
+1

Transparența IA

Transparența IA înseamnă dezvăluirea faptului că este implicată IA, a datelor și surselor pe care se bazează rezultatele ei și a modului în care se iau deciziile. Aceasta include etichetarea conținutului IA, trimiteri trasabile la surse, jurnale și modificări documentate. Transparența creează încredere, ușurează remedierea erorilor și este în parte impusă prin lege, de exemplu prin obligațiile de transparență din AI Act, potrivit cărora oamenii ar trebui să poată recunoaște că interacționează cu o IA.

Transparență
Încredere
+1

Explicabilitate

Explicabilitatea (IA explicabilă, XAI) descrie cât de bine se poate înțelege de ce un sistem IA a ajuns la un anumit rezultat. Cuprinde metode care arată ce intrări au influențat cel mai mult o decizie, precum și ajutoare practice, cum ar fi trimiterile la surse și jurnalele. Explicabilitatea contează pentru încredere, remedierea erorilor și reglementare – de exemplu atunci când o bancă trebuie să justifice de ce a respins o cerere.

XAI
Transparență
+1

IA și drepturile omului

Termenul descrie modul în care sistemele IA pot afecta drepturi ale omului precum viața privată, egalitatea de tratament, libertatea de exprimare sau procesul echitabil, atât în mod pozitiv, cât și negativ. Riscurile apar, de exemplu, din decizii discriminatorii, supraveghere în masă, identificare biometrică sau lipsa mijloacelor de a contesta deciziile. Cadre internaționale precum Convenția-cadru a Consiliului Europei privind IA și Regulamentul UE privind IA (AI Act) abordează aceste aspecte. Organizațiile răspund prin evaluări de impact, transparență și supraveghere umană.

etică
drepturi fundamentale
+1