Glosar

Derivă de model (model drift)

Ce este Derivă de model (model drift)?

Deriva de model este scăderea treptată a calității predicțiilor unui model în timpul funcționării, deoarece realitatea se modifică în raport cu datele de antrenare. Se face distincția între modificările datelor de intrare (data drift) și modificările relației dintre intrări și rezultate (concept drift). Exemplu: un model de detectare a fraudelor nu mai recunoaște scheme frauduloase noi. Remediile includ monitorizarea continuă a metricilor și reantrenarea periodică.

Subiecte

MLOps
calitatea modelului
monitorizare

Încercați KI.ordo

Agenți, fluxuri și șabloane într-un singur spațiu de lucru – demo gratuit de 24 de ore.

Porniți demo-ul

← Toți termenii

Termeni înrudiți

Robustețea modelului

Robustețea modelului descrie cât de fiabil funcționează un model de IA atunci când intrările sunt zgomotoase, incomplete, neobișnuite sau manipulate intenționat. Un model robust oferă în continuare rezultate stabile, de exemplu la recunoașterea imaginilor în condiții de lumină slabă sau atunci când un model lingvistic întâlnește greșeli de tastare. Robustețea se evaluează prin teste de stres, date de antrenare diverse și teste împotriva încercărilor deliberate de inducere în eroare și este deosebit de importantă în aplicațiile critice pentru siguranță.

fiabilitate
calitatea modelului
+1

Date de antrenare

Datele de antrenare sunt exemplele din care un model de IA învață tipare: colecții mari de texte pentru modelele lingvistice, imagini etichetate pentru modelele de imagini. Calitatea, diversitatea și actualitatea lor determină în mare măsură cât de fiabil și echitabil este un model și cât de actuale sunt cunoștințele sale. Pentru organizații contează și dacă un furnizor folosește datele clienților introduse de aceștia pentru antrenare ulterioară.

Date
Training
+1

MLflow

MLflow este o platformă open-source pentru gestionarea întregului ciclu de viață al modelelor de învățare automată, lansată inițial de Databricks în 2018. Înregistrează experimentele cu parametrii și metricile lor, gestionează versiunile modelelor într-un registru și simplifică implementarea. Versiunile mai recente acceptă și urmărirea (tracing) și evaluarea aplicațiilor construite pe modele lingvistice. Echipele pot astfel urmări ce model a fost obținut cu ce date și ce setări.

MLOps
open source
+1

Acuratețea și stabilitatea modelelor IA

Acuratețea descrie cât de des produce un model IA rezultate corecte; stabilitatea descrie cât de fiabil se menține această performanță – în cazul unor intrări ușor modificate, al datelor noi sau în timp. Un model poate fi foarte precis în teste, dar instabil dacă simpla reformulare a unei întrebări duce la un alt răspuns. Pentru utilizarea în lumea reală, ambele proprietăți sunt verificate cu cazuri de test fixe, validare încrucișată și monitorizare continuă.

calitatea modelului
Robustețe
+1