Modelio atsparumas apibūdina, kaip patikimai DI modelis veikia, kai įvestis yra triukšminga, neišsami, neįprasta ar tyčia manipuliuojama. Atsparus modelis vis tiek pateikia stabilius rezultatus, pavyzdžiui, atpažįsta vaizdus prastu apšvietimu arba kalbos modelis susidoroja su rašybos klaidomis. Atsparumas vertinamas stresiniais testais, įvairiais mokymo duomenimis ir bandymais apgauti modelį, o ypač svarbus jis saugumui kritinėse srityse.
Agentai, srautai ir šablonai vienoje darbo srityje – nemokama 24 valandų demonstracinė versija.
Pradėti demonstracijąPriešiškasis mašininis mokymasis tiria, kaip DI modelius galima suklaidinti tyčia manipuliuotomis įvestimis ar mokymo duomenimis ir kaip juos apsaugoti. Gerai žinomi pavyzdžiai – vos pastebimi vaizdo pakeitimai, apverčiantys klasifikaciją, arba užnuodyti mokymo duomenys. Ši tema organizacijoms tampa svarbi, kai tik DI padeda priimti su saugumu susijusius sprendimus. Atsakomosios priemonės – atsparus mokymas, įvesties patikros, stebėsena ir reguliarūs saugumo testai.
Modelio dreifas – tai pamažu menkstanti modelio prognozių kokybė naudojimo metu, nes tikrovė keičiasi, palyginti su mokymo duomenimis. Skiriami įvesties duomenų pokyčiai (duomenų dreifas) ir ryšio tarp įvesties ir rezultatų pokyčiai (koncepcijos dreifas). Pavyzdys: sukčiavimo aptikimo modelis nepastebi naujų sukčiavimo schemų. Padeda nuolatinė metrikų stebėsena ir reguliarus permokymas.
Apibendrinimo paklaida parodo, kiek DI modelis klysta su naujais, anksčiau nematytais duomenimis – priešingai nei jo paklaida mokymo duomenims. Didelis skirtumas tarp jų rodo persimokymą: modelis įsiminė pavyzdžius, užuot išmokęs bendrus dėsningumus. Ji vertinama naudojant atskirtus testinius duomenis arba kryžminį patvirtinimą. Tai tikrai svarbus rodiklis, nes praktikoje modelis beveik visada susiduria su naujais atvejais.
Persimokymas atsiranda, kai modelis įsimena mokymo duomenis, įskaitant atsitiktinius ypatumus ir triukšmą, užuot išmokęs visuotinai galiojančių dėsningumų. Tada jis atrodo labai tikslus su pažįstamais duomenimis, bet prastai veikia su naujais. Tipiškas požymis – didelis atotrūkis tarp mokymo ir testavimo paklaidos. Priemonės: daugiau ar įvairesnių duomenų, paprastesni modeliai, reguliarizavimas, dropout ir kryžminis patikrinimas.
