Il collasso del modello (model collapse) indica la perdita di qualità che può verificarsi quando modelli generativi vengono addestrati ripetutamente su dati prodotti a loro volta dall’IA. Contenuti rari e casi limite si perdono gradualmente e i risultati diventano più uniformi e soggetti a errori. Il tema acquista rilevanza perché cresce la quota di testi e immagini generati dall’IA su internet. Dati di origine umana, selezionati con cura, aiutano a contrastarlo.
Agenti, flussi e modelli in un’unica area di lavoro – demo gratuita di 24 ore.
Avvia demoI dati sintetici sono generati artificialmente anziché raccolti nel mondo reale, ma ne riproducono schemi e caratteristiche. Sono utili quando i dati reali sono scarsi, costosi o delicati dal punto di vista della protezione dei dati, ad esempio per testare software, addestrare modelli o verificare un chatbot con richieste di esempio realistiche. È importante che rappresentino la realtà in modo sufficiente e non permettano di risalire a persone reali.
I dati di addestramento sono gli esempi da cui un modello di IA apprende schemi: grandi raccolte di testi per i modelli linguistici, immagini etichettate per quelli visivi. La loro qualità, varietà e attualità determinano in larga misura quanto un modello sarà affidabile ed equo e quanto aggiornate saranno le sue conoscenze. Per le aziende conta inoltre se un fornitore usa i dati dei clienti per ulteriori addestramenti.
L’IA generativa indica i sistemi di IA che creano contenuti nuovi, come testi, immagini, audio, video o codice, invece di limitarsi a ordinare o valutare dati esistenti. Si basa su modelli che apprendono schemi da grandi quantità di dati e li usano per produrre nuovi output plausibili. In azienda si usa ad esempio per bozze di email, riassunti, descrizioni di prodotto o idee visive. I risultati possono contenere errori e vanno verificati prima dell’uso.
«Garbage in, garbage out» («spazzatura dentro, spazzatura fuori») esprime il principio per cui un sistema può fornire risultati solo buoni quanto i dati che riceve. Per l’IA vale doppiamente: dati di addestramento o di conoscenza errati, obsoleti o parziali portano a risposte sbagliate o distorte. Un chatbot che consulta un listino prezzi superato indicherà prezzi superati. Curare i dati è quindi un compito continuo di ogni progetto di IA.
