Coborârea pe gradient este metoda de optimizare cu care sunt antrenate majoritatea modelelor IA. Se măsoară cât de mare este eroarea modelului, se calculează în ce direcție trebuie modificați parametrii pentru a o reduce și apoi se face un pas mic în acea direcție – iar și iar. Este ca un drumeț în ceață care merge mereu la vale pentru a ajunge în vale. Mărimea pasului (rata de învățare) determină viteza și stabilitatea.
Agenți, fluxuri și șabloane într-un singur spațiu de lucru – demo gratuit de 24 de ore.
Porniți demo-ulBackpropagation (propagarea înapoi a erorii) este metoda standard prin care învață rețelele neuronale. După fiecare predicție, eroarea este măsurată și propagată înapoi prin straturile rețelei, arătând cât a contribuit fiecare pondere la aceasta. O metodă de optimizare, precum coborârea pe gradient, ajustează apoi ponderile pas cu pas. Fără backpropagation, antrenarea modelelor actuale de limbaj și de imagine ar fi practic imposibilă.
În machine learning, convergența înseamnă că o procedură de antrenare se apropie de o stare stabilă: pierderea (loss) abia mai scade, iar parametrii modelului se modifică doar minim. Dacă un model converge și cât de repede depinde de factori precum rata de învățare, calitatea datelor și arhitectura modelului. Dacă rata de învățare este prea mare, pierderea sare de colo-colo; dacă este prea mică, antrenarea durează inutil de mult. Convergența nu garantează un model bun, deoarece acesta poate fi totuși supraînvățat.
Entropia încrucișată (cross-entropy) este o măsură din teoria informației care arată cât de mult se abate o distribuție de probabilitate prezisă de la cea reală. În machine learning, este cea mai frecventă funcție de pierdere pentru sarcinile de clasificare și, de asemenea, pentru modelele lingvistice care prezic următorul token. Penalizează deosebit de sever predicțiile greșite făcute cu încredere: atribuirea a 99% clasei greșite duce la o pierdere mult mai mare decât atribuirea a 60%.
Hiperparametrii sunt setări stabilite înainte de antrenarea unui model, precum rata de învățare, numărul de straturi sau intensitatea regularizării. Optimizarea hiperparametrilor caută sistematic combinația cu cele mai bune rezultate pe datele de validare, de exemplu prin căutare în grilă, căutare aleatorie sau optimizare bayesiană. Valorile bine alese îmbunătățesc acuratețea și reduc supra- sau subînvățarea, dar căutarea costă timp de calcul.
