Glosar

Convergență

Ce este Convergență?

În machine learning, convergența înseamnă că o procedură de antrenare se apropie de o stare stabilă: pierderea (loss) abia mai scade, iar parametrii modelului se modifică doar minim. Dacă un model converge și cât de repede depinde de factori precum rata de învățare, calitatea datelor și arhitectura modelului. Dacă rata de învățare este prea mare, pierderea sare de colo-colo; dacă este prea mică, antrenarea durează inutil de mult. Convergența nu garantează un model bun, deoarece acesta poate fi totuși supraînvățat.

Subiecte

Training
optimizare
Învățare automată

Încercați KI.ordo

Agenți, fluxuri și șabloane într-un singur spațiu de lucru – demo gratuit de 24 de ore.

Porniți demo-ul

← Toți termenii

Termeni înrudiți

Coborârea pe gradient

Coborârea pe gradient este metoda de optimizare cu care sunt antrenate majoritatea modelelor IA. Se măsoară cât de mare este eroarea modelului, se calculează în ce direcție trebuie modificați parametrii pentru a o reduce și apoi se face un pas mic în acea direcție – iar și iar. Este ca un drumeț în ceață care merge mereu la vale pentru a ajunge în vale. Mărimea pasului (rata de învățare) determină viteza și stabilitatea.

optimizare
antrenarea modelelor
+1

Curba de învățare

În machine learning, o curbă de învățare este un grafic ce arată performanța sau eroarea unui model în funcție de timpul de antrenare sau de cantitatea de date de antrenare, de obicei separat pentru datele de antrenare și cele de validare. Forma ei dezvăluie dacă un model este subînvățat sau supraînvățat și dacă mai multe date ar putea ajuta. Dacă, de exemplu, eroarea de validare rămâne mult peste eroarea de antrenare, aceasta indică supraînvățare. În limbajul curent, termenul descrie și cât de repede stăpânesc oamenii o tehnologie nouă.

Training
Evaluarea modelelor
+1

Eroare de antrenare

Eroarea de antrenare indică cât se abat predicțiile unui model de la valorile corecte exact pe datele pe care a fost antrenat. În sine, spune puțin: contează comparația cu eroarea de generalizare pe date noi. O eroare de antrenare mare indică subajustare; o eroare de antrenare foarte mică, combinată cu o eroare mare pe datele de testare, semnalizează de obicei supraajustare.

Învățare automată
Evaluare
+1

Optimizarea hiperparametrilor

Hiperparametrii sunt setări stabilite înainte de antrenarea unui model, precum rata de învățare, numărul de straturi sau intensitatea regularizării. Optimizarea hiperparametrilor caută sistematic combinația cu cele mai bune rezultate pe datele de validare, de exemplu prin căutare în grilă, căutare aleatorie sau optimizare bayesiană. Valorile bine alese îmbunătățesc acuratețea și reduc supra- sau subînvățarea, dar căutarea costă timp de calcul.

Training
calitatea modelului
+1