Kompozycja Pod względem muzycznym „Problem” to dynamiczny utwór dance-pop i R&B, który łączy w sobie elementy jazzu, współczesnego R&B lat 90., hip-hopu oraz funku. Warstwa instrumentalna opiera się na perkusji, saksofonach i trąbkach. Piosenka trwa trzy minuty i 14 sekund. Została napisana przez Grande, Azaleę, Savana Kotechę, Ilyę Salmanzadeha i Maxa Martina, a wyprodukowana przez dwóch ostatnich przy współpracy z Shellbackiem. Według zapisu opublikowanego przez Musicnotes, utwór został skomponowany w tonacji gis-moll, w metrum 4/4, przy umiarkowanym tempie wynoszącym 103 uderzenia na minutę. Melodia obejmuje zakres od G♯3 do G♯5 w rejestrze piersiowym (belt) oraz D♯6 w falsecie, natomiast progresja akordów opiera się na schemacie Emaj7–F♯–B– Emaj7–F♯–G♯m.

Utwór otwierają jazzowe saksofony, po których następuje nowocześniejsze, „oparte na instrumentach dętych” i „wypełnione perkusją uderzenie bitu”. Melodia piosenki nieustannie buduje napięcie zmierzające do czegoś, co „powinno być wybuchowe”, zanim Azalea tonuje je swoją zwrotką. Na końcu swojej partii Azalea nawiązuje również do piosenki Jaya-Z „99 Problems”, rapując: „There's a million yous baby boo, so don't be dumb/ I got 99 problems but you won't be one”. Dodatkowo, wysokie dźwięki Grande służą jako metafora tematyki utworu.