W wieku piętnastu lub szesnastu lat Sun Jian został niższym urzędnikiem w administracji powiatu, co mogło odpowiadać pozycji jego rodziny. Niedługo potem razem z ojcem udał się w podróż do Qiantang (dzis. Hangzhou), gdzie dowiedzieli się oni, że w pobliżu miasta założył obóz pirat Hu Yu, grabiący podróżnych. Według Kroniki Trzech Królestw wbrew zdaniu ojca Sun Jian zaatakował obóz piratów w pojedynkę, na ich oczach wykonując rękami gesty nakazujące rzekomym żołnierzom z jego prawej i lewej strony atak. Przekonani, że zostali zaatakowani przez cały oddział, piraci uciekli, z wyjątkiem jednego, którego Sun Jian doścignął i pozbawił głowy. Po tym wydarzeniu Sun Jian został mianowany tymczasowym (jia) komendantem (wei) powiatu. Określenie jia mogło oznaczać zarówno, że Sun Jian pełnił obowiązki faktycznego komendanta, jak i że był tylko jego zastępcą. Do obowiązków komendanta należało dbanie o bezpieczeństwo w powiecie i przeprowadzenie corocznego poboru na jego terytorium. W roku 172 w regionie wybuchła rebelia niejakiego Xu Changa i Sun Jian został mianowany majorem (sima) oraz nakazano mu rekrutowanie ludzi na terenie komanderii. Odznaczył się on w trakcie tłumienia trwającego do 174 roku buntu do tego stopnia, że Inspektor (ci shi) prowincji Yang, Zang Min, który był dowódcą ogółu sił w regionie, zarekomendował go w stolicy.