Oficjalne otwarcie muzeum nastąpiło 27 października 1919 roku w czasie uroczystości przyłączenia Wielkopolski do odrodzonego państwa polskiego, w obecności Naczelnika Państwa Józefa Piłsudskiego.
Pierwotnie muzeum miało swoją siedzibę w budynku dawnego muzeum im. Hindenburga przy Alejach Marcinkowskiego, następnie w Domu Żołnierza Polskiego w koszarach 58 Pułku Piechoty Wielkopolskiej przy ul. Grunwaldzkiej. Dopiero w 1923 roku przeniesiono je do jednego z budynków Centralnej Składnicy Artyleryjskiej przy ul. Powstańców Wielkopolskich (ówcześnie ul. Artyleryjskiej), róg ul. Franciszka Ratajczaka. Dla zwiedzających otwarto je 22 kwietnia 1923 roku. Podczas otwarcia obecny był dowódca Okręgu Korpusu nr VII w Poznaniu, ówcześnie generał dywizji Kazimierz Raszewski.
Część zbiorów muzealnych, liczących kilkadziesiąt tysięcy eksponatów, została podczas ewakuacji we wrześniu 1939 roku zniszczona i rozgrabiona nieopodal Rawy Ruskiej. Reszta zbiorów, pozostawiona na miejscu, uległa zniszczeniu i kradzieży, których dokonały oddziały wojska niemieckiegohttps://artinfo.pl/pl/wizytowki/galerie/40145/.
Muzeum było jednym z dwóch istniejących muzeów o tematyce wojskowej w latach 1919–1939 w Polsce (w 1920 roku otwarto Muzeum Wojska w Warszawie).