W 1926 roku wyruszył na czele wojskowej ekspedycji północnej, skierowanej przeciwko tzw. militarystom – lokalnym watażkom, którzy na czele swoich prywatnych armii uzurpowali sobie władzę w terenie. Narodowa Armia Rewolucyjna podzieliła się w tym czasie na trzy grupy operacyjne. Na zachodzie Wang Jingwei posuwał się w kierunku Wuhanu, na wschodzie Bai Chongxi dążył do zdobycia Szanghaju, a sam Czang usiłował opanować Nankin. W styczniu 1927 roku podpisał ze Stalinem pakt o nieagresji. Na jego podstawie do Chin skierowani zostali rosyjscy agenci Michaił Borodin oraz Gerhart Eisler (vel Hans Burger), których zadaniem była likwidacja tych członków Komunistycznej Partii Chin, którzy sprzeciwiali się porozumieniu z Czangiem. Sprzymierzony z komunistami i przy pomocy sowieckich agentów Wang Jingwei i lewicowy odłam Kuomintangu (łącznie z Hu Hanminem i Song Qingling) po zdobyciu Wuhanu ogłosili przeniesienie rządu narodowego do tego miasta. Po zdobyciu Nankinu (i przy równoczesnym kontrolowaniu Szanghaju przez Baia) zaczął on swoją kampanię przeciw lewemu odłamowi swojej partii oraz przeciw komunistom. Założył też równolegle swój własny rząd w Nankinie przy poparciu konserwatystów.