La validazione incrociata è un metodo per verificare quanto bene un modello generalizza su dati nuovi e non visti. Nella validazione incrociata a k fold i dati vengono divisi in k parti; il modello viene addestrato k volte su k−1 parti e testato ogni volta sulla parte rimanente, poi si fa la media dei risultati. Così si individua l'overfitting e si confrontano in modo equo modelli o impostazioni, soprattutto con pochi dati.
Agenti, flussi e modelli in un’unica area di lavoro – demo gratuita di 24 ore.
Avvia demoSi parla di overfitting (sovradattamento) quando un modello impara a memoria i dati di addestramento, compresi casualità e rumore, invece di cogliere schemi di validità generale. Sui dati noti sembra molto preciso, ma sui dati nuovi offre risultati scarsi. Un segnale tipico è un ampio divario tra errore di addestramento ed errore di test. Le contromisure sono più dati o dati più vari, modelli più semplici, regolarizzazione, dropout e convalida incrociata.
L’errore di generalizzazione misura quanto un modello di IA sbaglia su dati nuovi, mai visti prima, a differenza dell’errore sui dati di addestramento. Una grande differenza tra i due indica overfitting: il modello ha memorizzato gli esempi invece di apprendere schemi generali. Si stima con dati di test tenuti da parte o con la validazione incrociata. È la grandezza davvero decisiva, perché nell’uso reale il modello incontra quasi solo casi nuovi.
Gli iperparametri sono impostazioni fissate prima dell'addestramento di un modello, come il tasso di apprendimento, il numero di strati o l'intensità della regolarizzazione. L'ottimizzazione degli iperparametri cerca in modo sistematico la combinazione che offre i risultati migliori sui dati di validazione, ad esempio con ricerca a griglia, ricerca casuale od ottimizzazione bayesiana. Valori ben scelti migliorano l'accuratezza e riducono sovra- e sottoadattamento, ma richiedono tempo di calcolo.
I dati di addestramento sono gli esempi da cui un modello di IA apprende schemi: grandi raccolte di testi per i modelli linguistici, immagini etichettate per quelli visivi. La loro qualità, varietà e attualità determinano in larga misura quanto un modello sarà affidabile ed equo e quanto aggiornate saranno le sue conoscenze. Per le aziende conta inoltre se un fornitore usa i dati dei clienti per ulteriori addestramenti.
