Nazwa wzgórza – Galgenberg – która w języku niemieckim oznacza ‘wzgórze szubieniczne’, odnosi się wprost do funkcji tego miejsca, natomiast powszechnie używana przez mieszkańców jest uproszczona forma – Galenberg.
Istnieje podanie mówiące, iż polski król Jan III Sobieski, zmierzając w 1683 roku na odsiecz Wiednia, dowiedziawszy się o uknutym przez przekupionych przez Turków żołnierzy spisku na swoje życie, miał nakazać wykonanie wyroku śmierci na spiskowcach właśnie na tym położonym za miastem wzgórzu. W rzeczywistości jednak król kazał powiesić na Galenbergu czterech swoich żołnierzy, którzy dopuścili się rabunków w mieście i okolicach. Na pagórku, na którym stała tarnogórska szubienica, dziś znajduje się drewniany krzyż, widoczny z rozwidlenia ulic Bytomskiej i Słoneczników.
W XIX wieku na terenie obecnego Parku funkcjonował dolomitołom, który przyczynił się do znacznego przekształcenia terenu; pozostałościami po nim są liczne pagórki, jary i niegdyś głębokie wąwozy (częściowo zasypane podczas późniejszej budowy nowego kościoła).