Glossario

Discriminazione nell'IA

Che cos’è Discriminazione nell'IA?

Si ha discriminazione nell'IA quando un sistema di IA svantaggia ingiustamente le persone in base a caratteristiche come genere, origine, età o disabilità. Le cause sono di solito dati di addestramento distorti, variabili sostitutive inadatte come il CAP o la mancanza di verifiche; casi noti riguardano la selezione del personale e la concessione di crediti. Le contromisure sono dati rappresentativi, test di equità regolari, trasparenza e controllo umano sulle decisioni che riguardano persone.

Come aiuta KI.ordo

Nei progetti di KI.ordo gli agenti forniscono bozze che le persone verificano e approvano.

Temi

equità
bias
etica dell'IA

Prova KI.ordo

Agenti, flussi e modelli in un’unica area di lavoro – demo gratuita di 24 ore.

Avvia demo

← Tutti i termini

Termini correlati

Bias

Nell'IA il bias è una distorsione sistematica dei risultati. Nasce spesso da dati di addestramento sbilanciati o segnati dalla storia, ma anche dalla struttura del modello o dal modo di porre la domanda. Un esempio noto: un filtro per candidature che impara dalle assunzioni passate può perpetuare discriminazioni esistenti. In statistica bias indica anche lo scostamento di una stima dal valore reale. Le contromisure includono dati vari, verifiche regolari e decisioni umane nelle questioni di personale.

Etica dell'IA
Equità
+1

Etica dell'IA

L'etica dell'IA si occupa delle questioni morali legate allo sviluppo e all'uso dell'IA: equità e discriminazione, trasparenza e spiegabilità, protezione dei dati, responsabilità per gli errori, sicurezza ed effetti su lavoro e società. Per le organizzazioni si traduce in linee guida, valutazioni del rischio, supervisione umana e comunicazione onesta sui limiti dell'IA. Esempio: prima di introdurre un filtro per le candidature si verifica che non svantaggi determinati gruppi.

Etica
Responsabilità
+1

Spiegabilità

La spiegabilità (Explainable AI, XAI) indica quanto sia possibile capire perché un sistema di IA arriva a un determinato risultato. Comprende metodi che mostrano quali input hanno influito di più su una decisione, ma anche strumenti pratici come l’indicazione delle fonti e i registri delle operazioni. È importante per la fiducia, la ricerca degli errori e la conformità normativa, ad esempio quando una banca deve motivare il rifiuto di una richiesta.

XAI
Trasparenza
+1

Human-in-the-loop (essere umano nel ciclo)

Human-in-the-loop indica processi in cui le persone intervengono in punti definiti di un flusso di IA: verificano i risultati, li approvano, li correggono o gestiscono i casi difficili. Il principio riduce il rischio di output errati e mantiene la responsabilità in capo alle persone, soprattutto nelle decisioni che riguardano individui, denaro o questioni legali. Esempio: un agente IA prepara le risposte ai clienti e un collaboratore le controlla prima dell'invio.

Approvazione
Controllo
+1