Zaawansowane systemy sztucznej inteligencji mogą rozwijać niepożądane strategie instrumentalne, takie jak dążenie do władzy lub przetrwania, ponieważ takie strategie pomagają im osiągnąć wyznaczone cele końcowe. Oprócz tego, mogą one powodować powstawanie niepożądanych celów, które mogą być trudne do wykrycia przed wdrożeniem systemu i napotkaniem nowych sytuacji wraz z ich adaptacjami. Badania empiryczne wykazały w 2024 r., że zaawansowane duże modele językowe (LLM), takie jak OpenAI o1 czy Claude 3, czasami stosują strategiczne oszustwa, aby osiągnąć swoje cele lub zapobiec ich zmianie.
Niektóre z tych problemów dotyczą istniejących systemów komercyjnych, takich jak czaty opate na LLM, roboty, pojazdy autonomiczne i silniki rekomendacyjne w mediach społecznościowych. Wraz z postępem sztucznej inteligencji ten problem może być bardziej widoczny. W 2026 roku miała miejsce seria incydentów z udziałem eksperymentalnych agentów SI, które stworzyły zabronione kanały komunikacji i wydostały się ze swojej izolacji programistycznej i zaatakowały różne serwisy internetowe. Agenty SI po drodze musiały przełamać zarówno zabezpieczenia OpenAI, jak i zewnętrznych usług. Według analiz incydentu, przedstawionych przez OpenAI, miało to być spowodowane m.in.