Glosar

IA și drepturile omului

Ce este IA și drepturile omului?

Termenul descrie modul în care sistemele IA pot afecta drepturi ale omului precum viața privată, egalitatea de tratament, libertatea de exprimare sau procesul echitabil, atât în mod pozitiv, cât și negativ. Riscurile apar, de exemplu, din decizii discriminatorii, supraveghere în masă, identificare biometrică sau lipsa mijloacelor de a contesta deciziile. Cadre internaționale precum Convenția-cadru a Consiliului Europei privind IA și Regulamentul UE privind IA (AI Act) abordează aceste aspecte. Organizațiile răspund prin evaluări de impact, transparență și supraveghere umană.

Subiecte

etică
drepturi fundamentale
Reglementare

Încercați KI.ordo

Agenți, fluxuri și șabloane într-un singur spațiu de lucru – demo gratuit de 24 de ore.

Porniți demo-ul

← Toți termenii

Termeni înrudiți

Etica IA

Etica IA se ocupă de întrebările morale legate de dezvoltarea și utilizarea IA: echitate și discriminare, transparență și explicabilitate, protecția datelor, responsabilitatea pentru erori, siguranța și efectele asupra muncii și societății. Pentru organizații, devine concretă în ghiduri, evaluări de risc, supraveghere umană și comunicare sinceră despre limitele IA. Exemplu: înainte de introducerea unui instrument de triere a CV-urilor, se verifică dacă dezavantajează anumite grupuri.

etică
Responsabilitate
+1

Discriminarea în IA

Discriminarea în IA apare atunci când un sistem IA dezavantajează în mod nejustificat persoane pe baza unor caracteristici precum sexul, originea etnică, vârsta sau dizabilitatea. Cauzele sunt, de obicei, date de antrenare distorsionate, caracteristici-proxy nepotrivite, precum codurile poștale, sau lipsa testării; cazuri cunoscute provin din recrutare și acordarea de credite. Măsurile de contracarare includ date reprezentative, teste periodice de echitate, transparență și supraveghere umană a deciziilor privind persoanele.

echitate
prejudecată algoritmică (bias)
+1

Reglementări privind protecția datelor

Reglementările privind protecția datelor sunt norme juridice care guvernează prelucrarea datelor cu caracter personal. În UE, Regulamentul general privind protecția datelor (RGPD) este cadrul esențial; printre altele, acesta impune un temei juridic pentru fiecare prelucrare, minimizarea datelor, transparență față de persoanele vizate și acorduri de prelucrare a datelor cu furnizorii de servicii. Atunci când utilizează IA, organizațiile trebuie să clarifice ce date ajung în intrări, surse de cunoștințe și jurnale și unde sunt prelucrate.

RGPD
protecția datelor
+1

Transparența IA

Transparența IA înseamnă dezvăluirea faptului că este implicată IA, a datelor și surselor pe care se bazează rezultatele ei și a modului în care se iau deciziile. Aceasta include etichetarea conținutului IA, trimiteri trasabile la surse, jurnale și modificări documentate. Transparența creează încredere, ușurează remedierea erorilor și este în parte impusă prin lege, de exemplu prin obligațiile de transparență din AI Act, potrivit cărora oamenii ar trebui să poată recunoaște că interacționează cu o IA.

Transparență
Încredere
+1