Czym jest Adversarial machine learning?
Adversarial machine learning (uczenie maszynowe w warunkach ataku) bada, w jaki sposób modele AI można wprowadzić w błąd celowo zmanipulowanymi danymi wejściowymi lub treningowymi – i jak je przed tym chronić. Znane przykłady to ledwo widoczne zmiany obrazu, które odwracają wynik klasyfikacji, lub zatrute dane treningowe. Temat ten staje się istotny dla organizacji, gdy tylko AI wspiera decyzje istotne z punktu widzenia bezpieczeństwa. Środki zaradcze obejmują odporny trening, kontrolę danych wejściowych, monitorowanie i regularne testy bezpieczeństwa.