Odporność na ataki Systemy AI są często podatne na ataki antagonistyczne czy celowo spreparowane dane wejściowe. W 2013 pokazano, że dodanie do obrazu określonych, niezauważalnych zaburzeń może spowodować jego błędną klasyfikację z dużym prawdopodobieństwem. Problem ten nadal stanowi problem w sieciach neuronowych, choć istnieją metody dające możliwość wykrywania takich perturbacji. prawo|mały| Przykład nałożenia spreparowanego filtra służącego do oszukania klasyfikatora i zaklasyfikowania obrazu psa beagle jako strusia Również sygnał audio można niezauważalnie zmodyfikować, tak aby systemy przetwarzające mowę na tekst mogły go przepisać na dowolną wiadomość wybraną przez atakującego. Systemy wykrywania włamań do sieci i złośliwego oprogramowania muszą być również odporne na ataki ze strony atakujących, ponieważ mogą oni projektować swoje ataki w taki sposób, aby oszukać detektory.
Monitorowanie