1 września 1918 roku w „Dzienniku Urzędowym Ministerstwa Wyznań Religijnych i Oświecenia Publicznego” opublikowano akt organizacyjny szkoły, powołujący Królewsko-Polskie Gimnazjum imienia Stefana Batorego, podpisany przez Antoniego Ponikowskiego oraz Tadeusza Łopuszańskiego, szefa sekcji szkolnictwa średniego. 28 września 1918 roku szkoła została otwarta w gmachu dawnego IV Gimnazjum Żeńskiego przy ul. Kapucyńskiej; 11 listopada 1918 roku otrzymała nazwę Państwowe Gimnazjum im. Stefana Batorego.
Dążył do utworzenia szkoły wzorcowej, dobierając zespół nauczycieli na możliwie najwyższym poziomie. Zabiegał o budowę nowoczesnego gmachu, który wzniesiono w latach 1922−1924 z funduszy publicznych, według projektu Tadeusza Tołwińskiego. Nowy budynek przy ul. Myśliwieckiej 6 wyposażono w liczne pracownie i basen pływacki, powstał także szkolny ogród botaniczny. 15 września 1924 roku nastąpiło otwarcie nowego gmachu, co było największym osiągnięciem Rudzkiego. Utworzenie w krótkim czasie nowoczesnej szkoły było możliwe dzięki jego dużej energii i ambicji, pozycji w środowisku nauczycielskim oraz powiązaniu z ówczesną elitą władzy.