Badacze zwracają uwagę, że DAN i podobne techniki mogą zostać wykorzystane do tworzenia narracji propagandowych, kampanii manipulacyjnych oraz do przygotowywania szkodliwego kodu komputerowego, chociaż skuteczność takich prób jest ograniczana przez kolejne aktualizacje systemów zabezpieczeń.
Zastosowanie w innych modelach językowych
Choć DAN powstał jako technika kojarzona przede wszystkim z ChatGPT, w badaniach naukowych i raportach branżowych opisuje się go jako przykład jailbreaku możliwego do zastosowania w wielu rodzinach modeli językowych, zarówno komercyjnych, jak i otwartoźródłowych. Analizy „in-the-wild” pokazują, że liczne warianty promptów w stylu DAN zachowują częściową skuteczność po przeniesieniu między różnymi modelami udostępnianymi przez kilku dostawców.
W literaturze opisano także uogólnione jailbreaki czarnej skrzynki oparte na tzw. modulacji osobowości (persona modulation), w których model proszony jest o przyjęcie roli określonej postaci skłonnej do udzielania odpowiedzi na szkodliwe pytania.