Charakterystycznym elementem krajobrazu miasta w najwcześniejszym okresie rozwoju była dzielnica willowa, rozciągnięta wzdłuż wschodniego odcinka głównej osi urbanistycznej – szosy mysłowickiej (obecnie ulica Warszawska). Część willi w kolejnych latach przebudowano na kamienice czynszowe bądź zburzono. W początkach XX wieku ulica Warszawska była główną drogą wjazdową do Katowic od strony wschodniej. 20 czerwca 1922 roku wkroczył nią do miasta gen. Stanisław Szeptycki ze swoimi wojskami – w tym celu na wysokości budynku o numerze 2 ustawiono specjalną bramę z polskim orłem i napisem „Niech żyje Polska – Niech żyje Górny Śląsk”.
W 1926 roku drodze nadano imię marsz. Józefa Piłsudskiego. Rok później oficynę drukarską o nazwie „Drukarnia Handlowa” z siedzibą przy ulicy J. Piłsudskiego 33 założyli bracia Hil i Berek Sztrochlicowie z Będzina. Jesienią 1927 roku ulica została w kilku miejscach wybrukowana kostką drewnianą. W latach 30. XX wieku przy ulicy pod numerem 49 zlokalizowany był III Komisariat Policji, a pod numerem 21 – hotel „Czora” z trzema pokojami. Podczas II wojny światowej przy ówczesnej Friedrichstraße znajdowała się siedziba grupy gospodarczej wytopu metali Schlesische AG für Bergbau und Zinkhüttenbetrieb.