W 1903 roku zdecydowano o przeniesieniu pomnika nieco dalej na zachód, w stronę ratuszawg . Jednocześnie podjęto jego przebudowę według projektu profesora Johannesa Boese, pochodzącego spod Raciborza uznanego już wówczas rzeźbiarza i medaliera. Na dotychczasowej podstawie umieszczono smukły, czworoboczny, zwężający się nieco ku górze obelisk zwieńczony kulą, symbolizującą ziemski glob. Na cokole stanęła figura pruskiego żołnierza niosącego sztandar, znalazły się tam również dwie tablice z nazwiskami poległych oraz płaskorzeźby przedstawiające niemieckich cesarzy Wilhelma I i Fryderyka III. Zmieniono także otoczenie pomnika: w miejsce żeliwnego płotu wprowadzono bardziej dostojne ogrodzenie, składające się z granitowych, niskich (ok. 50 cm) słupów, na których rozpięto grube łańcuchy. Pomnik w takiej postaci odsłonięto 8 listopada 1903 roku.
Dopiero w 1927 roku usunięto z pomnika niemieckie napisy i emblematy, a monument ozdobiono medalionem z popiersiem Józefa Piłsudskiego. Na cokole umieszczono napis następującej treści: "Ukochanemu wodzowi, pierwszemu Marszałkowi Polski Józefowi Piłsudskiemu w hołdzie Ziemia Pszczyńska. Pszczyna dnia 13 lutego 1927 roku".