7 lutego 2007 Gomez zadebiutował w pierwszej reprezentacji pod wodzą Joachima Löwa, w wygranym 3:1 towarzyskim meczu z reprezentacją Szwajcarii. W 30. minucie debiutu strzałem głową zdobył gola na 2:0 dla Niemców. Gomez uczestniczył w EURO 2008 na boiskach Austrii i Szwajcarii, jednak nie udało mu się tam nic zwojować. Nie strzelił żadnej bramki, a wystąpił w czterech meczach. Z reprezentacją doszedł do finału, gdzie nie udało się jednak wygrać z Hiszpanami. Gomez pojawił się na boisku w drugiej połowie. Na Euro 2012 strzelił trzy gole, był jednym z 6 królów strzelców turnieju. Z powodu kontuzji nie zagrał na Mistrzostwach Świata 2014 w Brazylii. Ostatni mecz w reprezentacji Gomez rozegrał 3 września 2014 roku w Düsseldorfie. Niemcy przegrali z Argentyną 2-4. Mario Gomez nie był powoływany na żaden z meczów eliminacji do Mistrzostw Europy 2016, jednak na same finały został powołany do kadry, która odpadła w półfinale.
W 2010 roku zdobył brązowy medal na Mistrzostwach Świata 2010.