Glossario

IA e diritti umani

Che cos’è IA e diritti umani?

Il termine descrive come i sistemi di IA possano incidere, in positivo e in negativo, su diritti umani come la privacy, la parità di trattamento, la libertà di espressione o il giusto processo. I rischi derivano, ad esempio, da decisioni discriminatorie, sorveglianza di massa, identificazione biometrica o dall'impossibilità di contestare una decisione. Quadri internazionali come la Convenzione quadro del Consiglio d'Europa sull'IA e l'AI Act dell'UE affrontano questi temi. Le organizzazioni rispondono con valutazioni d'impatto, trasparenza e supervisione umana.

Temi

Etica
Diritti fondamentali
Regolamentazione

Prova KI.ordo

Agenti, flussi e modelli in un’unica area di lavoro – demo gratuita di 24 ore.

Avvia demo

← Tutti i termini

Termini correlati

Etica dell'IA

L'etica dell'IA si occupa delle questioni morali legate allo sviluppo e all'uso dell'IA: equità e discriminazione, trasparenza e spiegabilità, protezione dei dati, responsabilità per gli errori, sicurezza ed effetti su lavoro e società. Per le organizzazioni si traduce in linee guida, valutazioni del rischio, supervisione umana e comunicazione onesta sui limiti dell'IA. Esempio: prima di introdurre un filtro per le candidature si verifica che non svantaggi determinati gruppi.

Etica
Responsabilità
+1

Discriminazione nell'IA

Si ha discriminazione nell'IA quando un sistema di IA svantaggia ingiustamente le persone in base a caratteristiche come genere, origine, età o disabilità. Le cause sono di solito dati di addestramento distorti, variabili sostitutive inadatte come il CAP o la mancanza di verifiche; casi noti riguardano la selezione del personale e la concessione di crediti. Le contromisure sono dati rappresentativi, test di equità regolari, trasparenza e controllo umano sulle decisioni che riguardano persone.

equità
bias
+1

Normative sulla protezione dei dati

Le normative sulla protezione dei dati sono regole di legge sul trattamento dei dati personali. Nell'UE il riferimento è il Regolamento generale sulla protezione dei dati (GDPR), che richiede tra l'altro una base giuridica per ogni trattamento, la minimizzazione dei dati, trasparenza verso gli interessati e accordi sul trattamento con i fornitori. Quando si usa l'IA occorre chiarire quali dati finiscono negli input, nelle fonti di conoscenza e nei registri, e dove vengono trattati.

GDPR
protezione dei dati
+1

Trasparenza dell'IA

La trasparenza dell'IA consiste nel rendere noto quando è coinvolta un'IA, su quali dati e fonti si basano i suoi risultati e come si arriva alle decisioni. Ne fanno parte l'etichettatura dei contenuti generati, le fonti verificabili, i registri e le modifiche documentate. La trasparenza crea fiducia, facilita la ricerca degli errori ed è in parte obbligatoria per legge, ad esempio per gli obblighi di trasparenza dell'AI Act UE, secondo cui le persone devono poter capire che interagiscono con un'IA.

Trasparenza
Fiducia
+1