Swoją brutalnością Dong Zhuo doprowadził jednak do utworzenia skierowanego przeciwko sobie sojuszu większości pozostałych dowódców armii Hanów, na którego czele stanął Yuan Shao. Ci "lojalni buntownicy" twierdzili, że działają w imieniu ubezwłasnowolnionego cesarza, dążąc jedynie do wyrwania go z rąk Dong Zhuo i przywrócenia należnej mu władzy.
W tej sytuacji Sun Jian zebrał wojska i dołączył do Yuan Shu, kuzyna Yuan Shao, dowodzącego jedną z trzech głównych armii sojuszu, która miała swoją bazę w Luyang w dzisiejszej prowincji Henan. Po drodze Sun Jian zabił Wang Rui, inspektora prowincji Jing, oraz Zhang Zi, wielkiego administratora Nanyangu. Pierwszy z nich niegdyś obraził Sun Jiana, prawdopodobnie czyniąc aluzję do jego niskiego pochodzenia. Kiedy zatem wielki administrator Wuling Cao Yin, również skonfliktowany z Wang Rui, spreparował cesarski rozkaz nakazujący jego egzekucję i wysłał go do Sun Jiana, ten nie badał jego autentyczności, lecz korzystając z okazji podstępnie zaatakował inspektora, ten zaś popełnił samobójstwo. Po przejęciu wojsk zebranych przez Wang Rui Sun Jian wyruszył w dalsza drogę i zachowanie Zhang Zi, przez którego terytorium maszerował, wzbudziło w nim podejrzenia co do jego lojalności wobec sojuszu przeciwników Dong Zhuo. Także jego zatem zabił, przejmując jego żołnierzy.