Pracował następnie w biurze projektowym Tupolewa w CAGI, uczestnicząc w różnych projektach. W latach 1926–1927 był po raz pierwszy wiodącym projektantem samolotu ANT-5 (I-4) (będącego pierwszym radzieckim myśliwcem o konstrukcji całkowicie metalowej). Kierował następnie zespołem nr 3 w oddziale konstrukcyjnym sekcji konstrukcji doświadczalnych (KOSOS) CAGI (projekty: I-14, ANT-25, DB-2). W 1936 wyjechał do USA w składzie komisji do spraw zakupu samolotów, gdzie zapoznał się z nowymi technologiami. Od 1936 Suchoj został zastępcą Pietlakowa jako naczelnika Zakładu Konstrukcji Doświadczalnych (ZOK) Głównego Zarządu Przemysłu Lotniczego (GUAP). Jego biuro uzyskało pewną samodzielność i zaczęło projektować samoloty, noszące od grudnia 1940 roku, po zmianie nazewnictwa samolotów, oznaczenie Su, od inicjałów konstruktora. Jedynym projektem, który wszedł w tym okresie do produkcji, był lekki bombowiec Su-2, który wziął udział w II wojnie światowej, nie był jednak produkowany w dużej liczbie. W sierpniu 1939 roku Suchoj został wyznaczony głównym konstruktorem zakładu nr 135 w Charkowie produkującego Su-2, lecz w marcu 1940, na jego prośbę, powierzono mu nowo zorganizowany doświadczalny zakład nr 289 w Podlipkach, w którym zorganizowano jego biuro konstrukcyjne.