Validarea încrucișată este o metodă de verificare a cât de bine generalizează un model pe date noi, nevăzute. În validarea încrucișată k-fold, datele sunt împărțite în k părți; modelul este antrenat de k ori pe k−1 părți și testat de fiecare dată pe partea rămasă, după care rezultatele sunt mediate. Aceasta ajută la depistarea supraînvățării și la compararea echitabilă a modelelor sau setărilor, mai ales când sunt disponibile puține date.
Agenți, fluxuri și șabloane într-un singur spațiu de lucru – demo gratuit de 24 de ore.
Porniți demo-ulSupraajustarea (overfitting) apare atunci când un model memorează datele de antrenare, inclusiv particularitățile întâmplătoare și zgomotul, în loc să surprindă tipare general valabile. Pare apoi foarte precis pe datele cunoscute, dar are performanțe slabe pe date noi. O diferență mare între eroarea de antrenare și cea de testare este un semn tipic. Contramăsurile includ mai multe date sau date mai variate, modele mai simple, regularizare, dropout și validare încrucișată.
Eroarea de generalizare măsoară cât de mult greșește un model IA pe date noi, nevăzute anterior – spre deosebire de eroarea sa pe datele de antrenare. O diferență mare între cele două indică supraînvățare (overfitting): modelul a memorat exemple în loc să învețe tipare generale. Se estimează cu ajutorul unor date de test rezervate sau al validării încrucișate. Este cifra care contează cu adevărat, pentru că în practică un model întâlnește aproape exclusiv cazuri noi.
Hiperparametrii sunt setări stabilite înainte de antrenarea unui model, precum rata de învățare, numărul de straturi sau intensitatea regularizării. Optimizarea hiperparametrilor caută sistematic combinația cu cele mai bune rezultate pe datele de validare, de exemplu prin căutare în grilă, căutare aleatorie sau optimizare bayesiană. Valorile bine alese îmbunătățesc acuratețea și reduc supra- sau subînvățarea, dar căutarea costă timp de calcul.
Datele de antrenare sunt exemplele din care un model de IA învață tipare: colecții mari de texte pentru modelele lingvistice, imagini etichetate pentru modelele de imagini. Calitatea, diversitatea și actualitatea lor determină în mare măsură cât de fiabil și echitabil este un model și cât de actuale sunt cunoștințele sale. Pentru organizații contează și dacă un furnizor folosește datele clienților introduse de aceștia pentru antrenare ulterioară.
