Cao Cao ustanowił swoją bazę w Xu (dzis. Xuchang) i jesienią 196 udało mu się doprowadzić do przeniesienia tam dworu cesarza Xiana (189-220). Aż do tej pory Cao Cao był tylko jednym z wielu awanturników walczących na Centralnej Równinie „ale z cesarzem jako symbolem i «restauracją» jako sloganem przyciągnął wielu utalentowanych młodych ludzi na swoją służbę”. Kontrolując cesarza i jego marionetkowy rząd Cao Cao jednocześnie odgrywał rolę cesarskiego lojalisty. Cesarz nadał mu tytuł markiza (侯, hou), zaś po negocjacjach ze swoim nominalnym przełożonym Yuan Shao Cao Cao przyjął również tytuł Ekscelencji ds. Robót (司空, sikong).
W 197, gdy Cao Cao walczył z Liu Biao i Yuan Shu, Yuan Shao zaatakował Xu i tym samym doszło do ostatecznego zerwania pomiędzy nim a jego dawnym podwładnym. W następnym roku zaatakowany przez Lü Bu Liu Bei uciekł do Cao Cao, którego siły następnie obległy Lü Bu w Xiapi (dzis. Pizhou w prefekturze Xuzhou). Po zdobyciu miasta i zabiciu Lü Bu, jak również śmierci Yuan Shu latem 199, Cao Cao panował niepodzielnie nad prowincją Xu i nie miał żadnego poważnego rywala do kontroli nad regionem rzeki Huai. W następnym roku został jednak zaatakowany przez Yuan Shao i zdradzony przez Liu Beia. Dysponując znacznie mniejszymi siłami, podjął desperacką obronę swoich pozycji pod Guandu (dzis.