Glossario

Robustezza del modello

Che cos’è Robustezza del modello?

La robustezza del modello descrive quanto un modello di IA funziona in modo affidabile quando gli input sono rumorosi, incompleti, insoliti o manipolati intenzionalmente. Un modello robusto fornisce comunque risultati stabili, ad esempio un riconoscimento di immagini con scarsa illuminazione o un modello linguistico di fronte a errori di battitura. Si verifica con stress test, dati di addestramento variati e prove contro tentativi di inganno, ed è cruciale nelle applicazioni critiche per la sicurezza.

Temi

affidabilità
qualità del modello
sicurezza

Prova KI.ordo

Agenti, flussi e modelli in un’unica area di lavoro – demo gratuita di 24 ore.

Avvia demo

← Tutti i termini

Termini correlati

Adversarial machine learning

L'adversarial machine learning studia come i modelli di IA possano essere ingannati da input o dati di addestramento manipolati di proposito, e come proteggerli. Esempi noti sono modifiche quasi invisibili a un'immagine che ne ribaltano la classificazione, oppure dati di addestramento avvelenati. Il tema diventa rilevante per le aziende quando l'IA supporta decisioni critiche per la sicurezza. Tra le contromisure figurano addestramento robusto, controllo degli input, monitoraggio e test di sicurezza regolari.

Sicurezza IA
Robustezza
+1

Deriva del modello (model drift)

Il model drift è il progressivo calo della qualità predittiva di un modello in esercizio, perché la realtà cambia rispetto ai dati di addestramento. Si distinguono i cambiamenti nei dati in ingresso (data drift) e quelli nella relazione tra input e risultato (concept drift). Esempio: un modello antifrode non riconosce nuovi schemi di frode. I rimedi sono il monitoraggio continuo delle metriche e il riaddestramento periodico.

MLOps
qualità del modello
+1

Errore di generalizzazione

L’errore di generalizzazione misura quanto un modello di IA sbaglia su dati nuovi, mai visti prima, a differenza dell’errore sui dati di addestramento. Una grande differenza tra i due indica overfitting: il modello ha memorizzato gli esempi invece di apprendere schemi generali. Si stima con dati di test tenuti da parte o con la validazione incrociata. È la grandezza davvero decisiva, perché nell’uso reale il modello incontra quasi solo casi nuovi.

Machine learning
Valutazione del modello
+1

Overfitting

Si parla di overfitting (sovradattamento) quando un modello impara a memoria i dati di addestramento, compresi casualità e rumore, invece di cogliere schemi di validità generale. Sui dati noti sembra molto preciso, ma sui dati nuovi offre risultati scarsi. Un segnale tipico è un ampio divario tra errore di addestramento ed errore di test. Le contromisure sono più dati o dati più vari, modelli più semplici, regolarizzazione, dropout e convalida incrociata.

qualità del modello
addestramento
+1