Речник

Устойчивост на модела

Какво е Устойчивост на модела?

Устойчивостта на модела описва доколко надеждно работи моделът с ИИ, когато входните данни са шумни, непълни, необичайни или умишлено манипулирани. Устойчивият модел все пак дава стабилни резултати, например при разпознаване на изображения при лошо осветление или когато езиков модел се справя с правописни грешки. Устойчивостта се оценява чрез стрес тестове, разнообразни данни за обучение и тестове срещу умишлени опити за заблуда и е особено важна при критични за безопасността приложения.

Теми

надеждност
качество на модела
сигурност

Изпробвайте KI.ordo

Агенти, потоци и шаблони в едно работно пространство – безплатна 24-часова демонстрация.

Стартирайте демото

← Всички термини

Свързани термини

Състезателно машинно обучение

Състезателното машинно обучение (adversarial machine learning) изследва как ИИ моделите могат да бъдат подведени чрез умишлено манипулирани входни или обучителни данни – и как да бъдат защитени. Известни примери са едва забележими промени в изображения, които обръщат класификацията, или отровени обучителни данни. Темата е важна за организациите веднага щом ИИ подпомага решения, свързани със сигурността. Мерките за защита включват устойчиво обучение, проверка на входните данни, наблюдение и редовни тестове за сигурност.

Сигурност на ИИ
Устойчивост
+1

Дрейф на модела

Дрейфът на модела е постепенното влошаване на качеството на прогнозите на даден модел по време на експлоатация, защото действителността се променя спрямо данните, използвани за обучението. Прави се разлика между промени във входните данни (дрейф на данните) и промени във връзката между входните данни и резултатите (дрейф на концепцията). Пример: модел за откриване на измами пропуска нови схеми за измама. Мерките включват непрекъснато наблюдение на метриките и редовно повторно обучение.

MLOps
качество на модела
+1

Грешка на обобщаване

Грешката на обобщаване измерва доколко ИИ моделът греши върху нови, непознати досега данни – за разлика от грешката му върху обучителните данни. Голяма разлика между двете сочи преобучение: моделът е запомнил примери, вместо да научи общи закономерности. Оценява се с отделени тестови данни или кръстосана валидация. Това е показателят, който наистина има значение, защото на практика моделът се сблъсква почти само с нови случаи.

Машинно обучение
Оценка на модели
+1

Overfitting

Свръхнагласяне (overfitting) възниква, когато моделът запомня данните за обучение, включително случайните им особености и шум, вместо да улавя общовалидни закономерности. Тогава той изглежда много точен върху познати данни, но се представя слабо върху нови. Типичен признак е голямата разлика между грешката при обучение и при тест. Мерките включват повече или по-разнообразни данни, по-прости модели, регуляризация, dropout и кръстосана валидация.

качество на модела
обучение
+1