Glossario

Convergenza

Che cos’è Convergenza?

Nel machine learning, la convergenza indica che un processo di addestramento si avvicina a uno stato stabile: la funzione di perdita quasi non diminuisce più e i parametri del modello cambiano in modo minimo. Se e quanto rapidamente un modello converge dipende tra l'altro da learning rate, qualità dei dati e architettura. Con un learning rate troppo alto l'errore oscilla; troppo basso, l'addestramento dura inutilmente a lungo. La convergenza non garantisce un buon modello, che potrebbe essere in overfitting.

Temi

Addestramento
Ottimizzazione
Machine learning

Prova KI.ordo

Agenti, flussi e modelli in un’unica area di lavoro – demo gratuita di 24 ore.

Avvia demo

← Tutti i termini

Termini correlati

Discesa del gradiente

La discesa del gradiente è il metodo di ottimizzazione con cui si addestra la maggior parte dei modelli di IA. Si misura l’errore del modello, si calcola in quale direzione devono cambiare i parametri per ridurlo e si compie un piccolo passo in quella direzione, ripetendo il processo. È come un escursionista nella nebbia che scende sempre lungo il pendio per raggiungere la valle. L’ampiezza del passo (learning rate) determina velocità e stabilità.

Ottimizzazione
Addestramento
+1

Curva di apprendimento

Nel machine learning una curva di apprendimento è un grafico che mostra le prestazioni o l'errore di un modello in funzione della durata dell'addestramento o della quantità di dati, di solito separatamente per dati di training e di validazione. Dall'andamento si capisce se il modello è in underfitting o overfitting e se più dati potrebbero aiutare. Se l'errore di validazione resta molto sopra quello di training, ad esempio, è un segnale di overfitting. Nel linguaggio comune il termine indica anche quanto rapidamente le persone padroneggiano una nuova tecnologia.

Addestramento
Valutazione modelli
+1

Errore di addestramento

L'errore di addestramento indica quanto le previsioni di un modello si discostano dai valori corretti proprio sui dati usati per addestrarlo. Da solo dice poco: conta il confronto con l'errore di generalizzazione su dati nuovi. Un errore di addestramento elevato fa pensare a underfitting; se invece è molto basso ma l'errore sui dati di test è alto, di solito si tratta di overfitting.

Machine learning
Valutazione
+1

Ottimizzazione degli iperparametri

Gli iperparametri sono impostazioni fissate prima dell'addestramento di un modello, come il tasso di apprendimento, il numero di strati o l'intensità della regolarizzazione. L'ottimizzazione degli iperparametri cerca in modo sistematico la combinazione che offre i risultati migliori sui dati di validazione, ad esempio con ricerca a griglia, ricerca casuale od ottimizzazione bayesiana. Valori ben scelti migliorano l'accuratezza e riducono sovra- e sottoadattamento, ma richiedono tempo di calcolo.

Addestramento
Qualità del modello
+1