W 1721 i 1722 r. brał udział we wznoszeniu pałacu Katarzyny w Rewlu oraz urządzaniu otaczającego go ogrodu. Następnie podróżował do Sztokholmu, by zapoznać się ze specyfiką budowy miasta na bałtyckim wybrzeżu. Poznał tam również architekturę gotycką. Po powrocie w 1723 r. objął obowiązki głównego architekta Petersburga w związku z wyjazdem Michettiego do Włoch, chociaż dopiero rok później oficjalnie otrzymał tytuł zawodowy i pensję architekta. Kierował urządzaniem sadów i ogrodów w Petersburgu, które rozciągały się na miejscu obecnego Ogrodu Letniego, Ogrodu Michajłowskiego i Pola Marsowego, a także ogrodu carskiego w Peterhofie i zespołu kaskad i fontann w tamtejszym parku. W 1726 r. według projektu Ziemcowa wzniesiono budynek dla straży w sąsiedztwie Mostu Aniczkowa.
W latach 30. XVIII w. wpływy Ziemcowa zmalały - Bartolomeo Rastrelli zdołał doprowadzić do tego, by prace przy najbardziej prestiżowych budowach Pałaców Zimowego i Letniego powierzono jego synowi Francesco. Ziemcow pracował natomiast przy rozbudowie Peterhofu i przy wzniesieniu cerkwi Świętych Symeona i Anny w Petersburgu. Kierował także zabudową Newskiego Prospektu, ulic Milionowej i Wielkiej Morskiej. Kończył również budowę innych obiektów, których wznoszenie rozpoczęli inni architekci: Kunstkamery, soboru św.