Wykrywanie złośliwego użycia Systemy sztucznej inteligencji mogą być wykorzystywane do pomagania złośliwym podmiotom w konstruowaniu broni, manipulowaniu opinią publiczną lub automatyzowaniu cyberataków. Obawy te stanowią problem dla firm takich jak OpenAI, które udostępniają w Internecie narzędzia AI. Aby zapobiec niewłaściwemu wykorzystaniu, OpenAI opracowała systemy wykrywania, które oznaczają użytkowników flagami lub ograniczają ich aktywność na podstawie ich aktywności.
Transparentność Sieci neuronowe często sa porównywane do czarnych skrzynek, co oznacza, że trudno jest zrozumieć, dlaczego podejmują takie, a nie inne decyzje, biorąc pod uwagę ogromną liczbę wykonywanych przez nie obliczeń. Utrudnia to przewidywanie i analizę błędów. W 2018 roku autonomiczny samochód zabił pieszego, ponieważ nie rozpoznał go i ze względu na charakter czarnej skrzynki oprogramowania AI przyczyna awarii pozostaje niejasna. W opiece zdrowotnej pojawiają się dyskusje na temat tego, czy należy stosować statystycznie wydajne, ale nieprzejrzyste modele.