Utwór otrzymał w większości pozytywne recenzje od krytyków. Teledysk do "I Wanna Go" miał premierę w dniu 22 czerwca 2011 r. Przedstawia on Spears, która zaczyna marzyć na konferencji prasowej o tym, aby sprzeciwiła się fotografom. "I Wanna Go" do tej pory osiągnął znalazł się na pozycji pierwszej w Korei Południowej, pozycji ósmej w Kanadzie, siódmej w Stanach Zjednoczonych, a także znalazł się w pierwszej czterdziestce w Nowej Zelandii, Francji, Danii i Australii. Gdy "I Wanna Go" osiągnął numer siedem w USA, album Femme Fatale się pierwszym albumem Spears, z którego wydano trzy pierwszej single, które znalazły się w pierwszej dziesiątce hitów. "Criminal" - został ogłoszony jako czwarty singel z albumu po 2011 MTV Video Music Awards 28 sierpnia 2011 roku. W sierpniu 2011 roku na Facebooku, Spears zamieściła ankietę, w której poprosiła fanów o wybranie czwartego singla z płyty Femme Fatale. Do wyboru były piosenki "Criminal", "(Drop Dead) Beautiful" i "Inside Out". "Criminal" wygrał ankietę z przewagą 39.160 głosów. Wyniki zostały opublikowane 30 września 2011 roku. Teledysk do piosenki został nakręcony w Stoke Newington;