PL
Zaloguj sięZacznij teraz
Słownik pojęć

Odporność modeli

Czym jest Odporność modeli?

Odporność modelu opisuje, jak niezawodnie model AI działa, gdy dane wejściowe są zaszumione, niekompletne, nietypowe lub celowo zmanipulowane. Odporny model nadal zapewnia stabilne wyniki, na przykład w rozpoznawaniu obrazów przy słabym oświetleniu albo gdy model językowy radzi sobie z literówkami. Odporność ocenia się za pomocą testów obciążeniowych, zróżnicowanych danych treningowych i testów odporności na celowe próby oszukania modelu; jest szczególnie ważna w zastosowaniach krytycznych dla bezpieczeństwa.

Tematy

  • niezawodność
  • jakość modelu
  • bezpieczeństwo

Wypróbuj KI.ordo

Agenci, przepływy i szablony w jednym obszarze roboczym – bezpłatne demo na 24 godziny.

Uruchom demo
← Wszystkie pojęcia

Powiązane pojęcia

Adversarial machine learning

Adversarial machine learning (uczenie maszynowe w warunkach ataku) bada, w jaki sposób modele AI można wprowadzić w błąd celowo zmanipulowanymi danymi wejściowymi lub treningowymi – i jak je przed tym chronić. Znane przykłady to ledwo widoczne zmiany obrazu, które odwracają wynik klasyfikacji, lub zatrute dane treningowe. Temat ten staje się istotny dla organizacji, gdy tylko AI wspiera decyzje istotne z punktu widzenia bezpieczeństwa. Środki zaradcze obejmują odporny trening, kontrolę danych wejściowych, monitorowanie i regularne testy bezpieczeństwa.

  • Bezpieczeństwo AI
  • Odporność
  • +1

Dryf modelu

Dryf modelu to stopniowe pogarszanie się jakości predykcji modelu w trakcie eksploatacji, ponieważ rzeczywistość zmienia się w stosunku do danych treningowych. Rozróżnia się zmiany w danych wejściowych (dryf danych) oraz zmiany zależności między danymi wejściowymi a wynikami (dryf koncepcji). Przykład: model wykrywający oszustwa nie rozpoznaje nowych schematów nadużyć. Środkami zaradczymi są stałe monitorowanie metryk i regularne ponowne trenowanie.

  • MLOps
  • jakość modelu
  • +1

Błąd generalizacji

Błąd generalizacji mierzy, jak bardzo model AI się myli na nowych, nieznanych wcześniej danych – w odróżnieniu od jego błędu na danych treningowych. Duża różnica między nimi wskazuje na przeuczenie: model zapamiętał przykłady zamiast nauczyć się ogólnych wzorców. Szacuje się go na zatrzymanych danych testowych lub za pomocą walidacji krzyżowej. To właśnie ta wartość naprawdę się liczy, ponieważ w praktyce model niemal wyłącznie spotyka nowe przypadki.

  • Uczenie maszynowe
  • Ocena modelu
  • +1

Overfitting

Przeuczenie (overfitting) występuje wtedy, gdy model zapamiętuje dane treningowe, łącznie z przypadkowymi osobliwościami i szumem, zamiast uchwycić ogólnie obowiązujące wzorce. Wydaje się wtedy bardzo dokładny na znanych danych, ale radzi sobie słabo z nowymi. Typowym sygnałem jest duża różnica między błędem treningowym a błędem testowym. Środki zaradcze to więcej lub bardziej zróżnicowane dane, prostsze modele, regularyzacja, dropout i walidacja krzyżowa.

  • jakość modelu
  • trenowanie
  • +1