Glossario

Bias

Che cos’è Bias?

Nell'IA il bias è una distorsione sistematica dei risultati. Nasce spesso da dati di addestramento sbilanciati o segnati dalla storia, ma anche dalla struttura del modello o dal modo di porre la domanda. Un esempio noto: un filtro per candidature che impara dalle assunzioni passate può perpetuare discriminazioni esistenti. In statistica bias indica anche lo scostamento di una stima dal valore reale. Le contromisure includono dati vari, verifiche regolari e decisioni umane nelle questioni di personale.

Temi

Etica dell'IA
Equità
Qualità dei dati

Prova KI.ordo

Agenti, flussi e modelli in un’unica area di lavoro – demo gratuita di 24 ore.

Avvia demo

← Tutti i termini

Termini correlati

Discriminazione nell'IA

Si ha discriminazione nell'IA quando un sistema di IA svantaggia ingiustamente le persone in base a caratteristiche come genere, origine, età o disabilità. Le cause sono di solito dati di addestramento distorti, variabili sostitutive inadatte come il CAP o la mancanza di verifiche; casi noti riguardano la selezione del personale e la concessione di crediti. Le contromisure sono dati rappresentativi, test di equità regolari, trasparenza e controllo umano sulle decisioni che riguardano persone.

equità
bias
+1

Dati di addestramento

I dati di addestramento sono gli esempi da cui un modello di IA apprende schemi: grandi raccolte di testi per i modelli linguistici, immagini etichettate per quelli visivi. La loro qualità, varietà e attualità determinano in larga misura quanto un modello sarà affidabile ed equo e quanto aggiornate saranno le sue conoscenze. Per le aziende conta inoltre se un fornitore usa i dati dei clienti per ulteriori addestramenti.

Dati
Addestramento
+1

Etica dell'IA

L'etica dell'IA si occupa delle questioni morali legate allo sviluppo e all'uso dell'IA: equità e discriminazione, trasparenza e spiegabilità, protezione dei dati, responsabilità per gli errori, sicurezza ed effetti su lavoro e società. Per le organizzazioni si traduce in linee guida, valutazioni del rischio, supervisione umana e comunicazione onesta sui limiti dell'IA. Esempio: prima di introdurre un filtro per le candidature si verifica che non svantaggi determinati gruppi.

Etica
Responsabilità
+1

Spiegabilità

La spiegabilità (Explainable AI, XAI) indica quanto sia possibile capire perché un sistema di IA arriva a un determinato risultato. Comprende metodi che mostrano quali input hanno influito di più su una decisione, ma anche strumenti pratici come l’indicazione delle fonti e i registri delle operazioni. È importante per la fiducia, la ricerca degli errori e la conformità normativa, ad esempio quando una banca deve motivare il rifiuto di una richiesta.

XAI
Trasparenza
+1