Fogalomtár

Modellrobusztusság

Mi a(z) Modellrobusztusság?

A modellrobusztusság azt írja le, mennyire megbízhatóan teljesít egy MI-modell, ha a bemenetek zajosak, hiányosak, szokatlanok vagy szándékosan manipuláltak. Egy robusztus modell ilyenkor is stabil eredményeket ad, például rossz fényviszonyok mellett végzett képfelismerésnél, vagy amikor egy nyelvi modell elírásokat kezel. A robusztusságot terheléses tesztekkel, változatos tanítóadatokkal és szándékos megtévesztési kísérletek elleni tesztekkel értékelik, és különösen fontos a biztonságkritikus alkalmazásokban.

Témák

megbízhatóság
modellminőség
biztonság

Próbálja ki a KI.ordót

Ügynökök, munkafolyamatok és sablonok egyetlen munkaterületen – ingyenes, 24 órás demó.

Demó indítása

← Minden fogalom

Kapcsolódó fogalmak

Ellenséges gépi tanulás (adversarial machine learning)

Az ellenséges gépi tanulás azt vizsgálja, hogyan vezethetők félre az MI-modellek szándékosan manipulált bemenetekkel vagy tanítóadatokkal – és hogyan védhetők meg. Ismert példák a szinte láthatatlan képmódosítások, amelyek megfordítanak egy besorolást, vagy a megmérgezett tanítóadatok. A téma akkor válik fontossá a szervezetek számára, amikor az MI biztonsági szempontból lényeges döntéseket támogat. Ellenintézkedés lehet a robusztus tanítás, a bemenetek ellenőrzése, a monitorozás és a rendszeres biztonsági tesztelés.

MI-biztonság
Robusztusság
+1

Modelleltolódás

A modelleltolódás a modell előrejelzési minőségének fokozatos romlása működés közben, mert a valóság a tanítóadatokhoz képest megváltozik. Megkülönböztetünk a bemeneti adatok változását (adateltolódás, data drift) és a bemenetek és az eredmények közötti összefüggés változását (koncepcióeltolódás, concept drift). Példa: egy csalásfelismerő modell nem veszi észre az új csalási módszereket. Ellenszer a mérőszámok folyamatos monitorozása és a rendszeres újratanítás.

MLOps
modellminőség
+1

Általánosítási hiba

Az általánosítási hiba azt méri, mekkora a tévedése egy MI-modellnek új, korábban nem látott adatokon – a tanítóadatokon mért hibájától megkülönböztetve. A kettő közötti nagy különbség túlillesztésre utal: a modell példákat jegyzett meg ahelyett, hogy általános mintázatokat tanult volna. Visszatartott tesztadatokkal vagy keresztvalidálással becsülik. Ez a valóban számító érték, mert a gyakorlatban a modell szinte csak új esetekkel találkozik.

Gépi tanulás
Modellértékelés
+1

Overfitting

A túlillesztés (overfitting) akkor lép fel, amikor a modell megjegyzi a tanítóadatokat – a véletlen sajátosságokkal és a zajjal együtt –, ahelyett hogy általánosan érvényes mintákat ragadna meg. Ilyenkor az ismert adatokon nagyon pontosnak tűnik, az új adatokon viszont gyengén teljesít. A tanítási és a tesztelési hiba közötti nagy különbség tipikus jel. Ellenszerek: több vagy változatosabb adat, egyszerűbb modellek, regularizáció, dropout és keresztvalidáció.

modellminőség
tanítás
+1