Glosar

Robustețea modelului

Ce este Robustețea modelului?

Robustețea modelului descrie cât de fiabil funcționează un model de IA atunci când intrările sunt zgomotoase, incomplete, neobișnuite sau manipulate intenționat. Un model robust oferă în continuare rezultate stabile, de exemplu la recunoașterea imaginilor în condiții de lumină slabă sau atunci când un model lingvistic întâlnește greșeli de tastare. Robustețea se evaluează prin teste de stres, date de antrenare diverse și teste împotriva încercărilor deliberate de inducere în eroare și este deosebit de importantă în aplicațiile critice pentru siguranță.

Subiecte

fiabilitate
calitatea modelului
securitate

Încercați KI.ordo

Agenți, fluxuri și șabloane într-un singur spațiu de lucru – demo gratuit de 24 de ore.

Porniți demo-ul

← Toți termenii

Termeni înrudiți

Învățare automată adversarială

Învățarea automată adversarială studiază modul în care modelele IA pot fi induse în eroare prin date de intrare sau date de antrenare manipulate intenționat – și cum pot fi protejate. Exemple cunoscute sunt modificările abia vizibile ale imaginilor, care schimbă o clasificare, sau datele de antrenare otrăvite. Subiectul devine relevant pentru organizații de îndată ce IA sprijină decizii relevante pentru securitate. Contramăsurile includ antrenarea robustă, verificarea datelor de intrare, monitorizarea și testele de securitate periodice.

Securitatea IA
Robustețe
+1

Derivă de model (model drift)

Deriva de model este scăderea treptată a calității predicțiilor unui model în timpul funcționării, deoarece realitatea se modifică în raport cu datele de antrenare. Se face distincția între modificările datelor de intrare (data drift) și modificările relației dintre intrări și rezultate (concept drift). Exemplu: un model de detectare a fraudelor nu mai recunoaște scheme frauduloase noi. Remediile includ monitorizarea continuă a metricilor și reantrenarea periodică.

MLOps
calitatea modelului
+1

Eroarea de generalizare

Eroarea de generalizare măsoară cât de mult greșește un model IA pe date noi, nevăzute anterior – spre deosebire de eroarea sa pe datele de antrenare. O diferență mare între cele două indică supraînvățare (overfitting): modelul a memorat exemple în loc să învețe tipare generale. Se estimează cu ajutorul unor date de test rezervate sau al validării încrucișate. Este cifra care contează cu adevărat, pentru că în practică un model întâlnește aproape exclusiv cazuri noi.

Învățare automată
Evaluarea modelelor
+1

Overfitting

Supraajustarea (overfitting) apare atunci când un model memorează datele de antrenare, inclusiv particularitățile întâmplătoare și zgomotul, în loc să surprindă tipare general valabile. Pare apoi foarte precis pe datele cunoscute, dar are performanțe slabe pe date noi. O diferență mare între eroarea de antrenare și cea de testare este un semn tipic. Contramăsurile includ mai multe date sau date mai variate, modele mai simple, regularizare, dropout și validare încrucișată.

calitatea modelului
antrenare
+1