moralności” mający wpływać na to, jak bardzo ocenzurowane lub nieocenzurowane powinny być odpowiedzi modelu.
Analizy prowadzone przez zespoły zajmujące się bezpieczeństwem poczty elektronicznej i zagrożeniami w sieci wskazują, że prompt DAN – obok innych technik jailbreak – jest wykorzystywany również w społecznościach cyberprzestępczych do generowania treści wykorzystywanych w atakach socjotechnicznych. Dotyczy to w szczególności wiadomości phishingowych i oszustw finansowych. W raportach tych wskazuje się, że użycie DAN może ułatwiać uzyskanie treści, które wprost instruują, jak przeprowadzić atak lub napisać przekonującą wiadomość podszywającą się pod instytucję finansową, co zwiększa skalę i automatyzację takich działań.
Kolejnym obszarem potencjalnych nadużyć jest generowanie treści dezinformacyjnych, mowy nienawiści lub materiałów naruszających prawo, które standardowo są blokowane przez polityki treści dostawców modeli.