Od początku sezonu 2010/2011 był podstawowym zawodnikiem Nürnberg.
Na początku maja 2011 podpisał czteroletni kontrakt z Borussią Dortmund, który zaczął obowiązywać od sezonu 2011/12. W sezonie 2012/13 doszedł ze swoim klubem do finału Ligi Mistrzów pokonując w dwumeczu Real Madryt. W finale Ligi Mistrzów zdobył bramkę pokonując Manuela Neura uderzeniem z rzutu karnego. Sezon 2013/2014 Gündoğan spędził na rehabilitacji kontuzji pleców.
W sezonie 2014/2015 zajął wraz z Borussią Dortmund 7. miejsce w lidze, w której wystąpił 23 razy i strzelił 3 bramki. Dostał się do finału Pucharu Niemiec, przegranym przez Borussię 1:3 w meczu z VfL Wolfsburg. W Lidze Mistrzów Borussia odpadła w 1/8 finału przegrywając 2:1 i 0:3 z Juventusem. W obu meczach Gündoğan wystąpił w pełnym wymiarze czasowym. 1 lipca 2015 przedłużył umowę z klubem do 30 czerwca 2017.
W sezonie 2015/2016 zdobył wicemistrzostwo Niemiec rozgrywając 25 spotkań w Bundeslidze i strzelając 1 bramkę. Ponownie dotarł do finału Pucharu Niemiec, lecz i tym razem Borussia okazała się słabsza, przegrywając w finale w karnych z Bayernem Monachium.
Przed sezonem 2016/2017 podpisał kontrakt z Manchesterem City, który jest ważny do 30 czerwca 2020.