Subajustarea (underfitting) apare atunci când un model este prea simplu pentru a surprinde relațiile din date. Face atunci multe erori atât pe datele de antrenare, cât și pe date noi, de exemplu când se folosește o dreaptă pentru a reprezenta un tipar clar curbat. Remediile includ un model mai puternic, caracteristici mai informative, antrenare mai îndelungată sau mai puțină regularizare; problema opusă este supraajustarea.
Agenți, fluxuri și șabloane într-un singur spațiu de lucru – demo gratuit de 24 de ore.
Porniți demo-ulSupraajustarea (overfitting) apare atunci când un model memorează datele de antrenare, inclusiv particularitățile întâmplătoare și zgomotul, în loc să surprindă tipare general valabile. Pare apoi foarte precis pe datele cunoscute, dar are performanțe slabe pe date noi. O diferență mare între eroarea de antrenare și cea de testare este un semn tipic. Contramăsurile includ mai multe date sau date mai variate, modele mai simple, regularizare, dropout și validare încrucișată.
Eroarea de generalizare măsoară cât de mult greșește un model IA pe date noi, nevăzute anterior – spre deosebire de eroarea sa pe datele de antrenare. O diferență mare între cele două indică supraînvățare (overfitting): modelul a memorat exemple în loc să învețe tipare generale. Se estimează cu ajutorul unor date de test rezervate sau al validării încrucișate. Este cifra care contează cu adevărat, pentru că în practică un model întâlnește aproape exclusiv cazuri noi.
Eroarea de antrenare indică cât se abat predicțiile unui model de la valorile corecte exact pe datele pe care a fost antrenat. În sine, spune puțin: contează comparația cu eroarea de generalizare pe date noi. O eroare de antrenare mare indică subajustare; o eroare de antrenare foarte mică, combinată cu o eroare mare pe datele de testare, semnalizează de obicei supraajustare.
Regularizarea cuprinde tehnici care împiedică un model să se potrivească prea strâns datelor sale de antrenare în timpul antrenării (supraajustare). Exemple sunt penalizarea ponderilor mari (regularizare L1 sau L2), dezactivarea aleatorie a neuronilor (dropout) sau oprirea antrenării la momentul potrivit (early stopping). Scopul este un model mai simplu, care funcționează mai fiabil pe date noi, nevăzute, chiar dacă obține un scor puțin mai mic pe datele de antrenare.
