Artystka nie może pozbyć się zauroczenia osobą, o której wie, że nie jest dla niej dobra, i nie potrafi powstrzymać się od szybkiego zakochania, gdy jej „serce staje się coraz lżejsze”. Redaktor serwisu Rap-Up opisuje utwór jako „zakaźny, oparty na instrumentach dętych jam”, w którym „beztroska” Ariana „ogłasza swoją niezależność”, co uzupełnia „umacniająca zwrotka Iggy Azalei oraz szepczący Big Sean w refrenie”. Kilku krytyków zauważyło podobieństwo między jazzowym motywem saksofonu w „Problem” a singlem Jasona Derulo „Talk Dirty” z 2013 roku.

Teledysk Oficjalny teledysk został nakręcony 29 kwietnia 2014 roku, zaledwie jeden dzień po premierze singla. Za reżyserię odpowiadał kolektyw The Young Astronauts, który wcześniej współpracował z Grande przy klipach do utworów „Right There” i „Almost Is Never Enough”. W wideo gościnnie pojawia się Kaz James. Inspiracją dla teledysku był film Słodka Charity (1969). Klip utrzymano w stylu retro nawiązującym do ruchu artystycznego lat 60., wykorzystując czarno-białą i staroświecką estetykę. Wideo otwiera ujęcie mieniącej się postaci – Grande pojawia się w cekinowej sukience mini i białych kozakach typu go-go, występując z tancerzami na tle spirali. Iggy Azalea prezentuje się na kolorowym tle, a jak zauważył Jason Lipshutz z Billboardu, jej fryzura przypomina tę z filmu Barbarella.