Nazwa miejscowa pochodzi od nazwy miejscowego zamku w Ostrorogu i według językoznawców może być związana z jego charakterystycznym wyglądem – miał ostro zakończone baszty lub był otoczony palisadą wykonaną z ostro zakończonych pali, otoczony ostrokołem. Literalnie oznacza „ostry róg”, który w języku polskim ma wiele znaczeń: róg zwierzęcia, instrument róg z niego wykonany, a także miejsce o ostrym zakończeniu, położone w rogu. W przeszłości wśród ludu stosowana była także gwarowa nazwa „uostoruk, -a, uostroroski”.
Po rozbiorach Polski w okresie zaborów, w XIX i pierwszej połowie XX wieku, pruska administracja zaboru pruskiego używała także zgermanizowanej nazwy – „Scharfenort”, która była niemieckim tłumaczeniem polskiej nazwy „Ostroróg”. W 1886 odnotowano polską nazwę „Ostroróg” oraz niemiecką „Scharfenort” .
Historia Okolice miejscowości były zasiedlone jednak już wcześniej niż odnotowały to zachowane zapisy historyczne. W pobliżu miasta archeolodzy odkryli wczesnośredniowieczne grodzisko nizinne, wklęsłe, położone na obecnym półwyspie, a dawnej wyspie Jeziora Wielkiego. Gród ten znajduje się w odległości około 200 m na południe od centrum miasta Ostroróg i częściowo został zniszczony przez wybudowany w XIV w.