Glossario

Ottimizzazione degli iperparametri

Che cos’è Ottimizzazione degli iperparametri?

Gli iperparametri sono impostazioni fissate prima dell'addestramento di un modello, come il tasso di apprendimento, il numero di strati o l'intensità della regolarizzazione. L'ottimizzazione degli iperparametri cerca in modo sistematico la combinazione che offre i risultati migliori sui dati di validazione, ad esempio con ricerca a griglia, ricerca casuale od ottimizzazione bayesiana. Valori ben scelti migliorano l'accuratezza e riducono sovra- e sottoadattamento, ma richiedono tempo di calcolo.

Come aiuta KI.ordo

KI.ordo non addestra modelli; un'impostazione affine è il cursore «Temperatura» degli agenti, che durante l'esecuzione regola quanto variano le risposte.

Scopri di più →

Temi

Addestramento
Qualità del modello
Tuning

Prova KI.ordo

Agenti, flussi e modelli in un’unica area di lavoro – demo gratuita di 24 ore.

Avvia demo

← Tutti i termini

Termini correlati

Overfitting

Si parla di overfitting (sovradattamento) quando un modello impara a memoria i dati di addestramento, compresi casualità e rumore, invece di cogliere schemi di validità generale. Sui dati noti sembra molto preciso, ma sui dati nuovi offre risultati scarsi. Un segnale tipico è un ampio divario tra errore di addestramento ed errore di test. Le contromisure sono più dati o dati più vari, modelli più semplici, regolarizzazione, dropout e convalida incrociata.

qualità del modello
addestramento
+1

Validazione incrociata

La validazione incrociata è un metodo per verificare quanto bene un modello generalizza su dati nuovi e non visti. Nella validazione incrociata a k fold i dati vengono divisi in k parti; il modello viene addestrato k volte su k−1 parti e testato ogni volta sulla parte rimanente, poi si fa la media dei risultati. Così si individua l'overfitting e si confrontano in modo equo modelli o impostazioni, soprattutto con pochi dati.

Valutazione modelli
Validazione
+1

Apprendimento automatico

L’apprendimento automatico (machine learning) è un ambito dell’intelligenza artificiale in cui i computer ricavano schemi dai dati invece di ricevere ogni regola programmata in modo esplicito. A seconda del compito, i modelli imparano da esempi etichettati (supervisionato), da dati non etichettati (non supervisionato) o tramite ricompense (per rinforzo). Le applicazioni vanno dai filtri antispam alle previsioni della domanda fino ai suggerimenti di prodotto. La qualità dipende molto da quantità e qualità dei dati di addestramento.

fondamenti
IA
+1

Regolarizzazione

La regolarizzazione comprende tecniche che impediscono a un modello di adattarsi troppo ai dati di addestramento (overfitting). Ad esempio si penalizzano pesi troppo grandi (regolarizzazione L1 o L2), si disattivano neuroni a caso (dropout) o si interrompe l'addestramento al momento giusto (early stopping). L'obiettivo è un modello più semplice che funzioni meglio su dati nuovi, anche se ottiene risultati leggermente peggiori sui dati di addestramento.

addestramento
overfitting
+1