Jego gmach wyremontowano przed Letnimi Igrzyskami Olimpijskimi w Atenach i w 2004 roku otwarto tu Muzeum Historii Starożytnych Igrzysk Olimpijskich.
Nowe Muzeum Gmach Nowego Muzeum został wzniesiony w latach 1966–1975 według projektu greckiego architekta Patroklosa Karantiosa (1903–1976). Eksponaty stopniowo przenoszono ze Starego do Nowego Muzeum, które otwarto uroczyście w 1982 roku w obecności ówczesnej minister kultury Meliny Mercouri (1920–1994).
W 1994 roku udostępniono zwiedzającym posąg Nike z Olimpii dłuta Pajoniosa z Mende.
Przed Letnimi Igrzyskami Olimpijskimi w Atenach w 2004 roku wyremontowano wnętrza muzeum a wystawę przeorganizowano. Nowa wystawa została otwarta 24 marca 2004 roku. Obok, na nowo zaaranżowanych kolekcji, zaprezentowano publiczności „warsztat Fidiasza”.
Zbiory Wystawa stała muzeum ukazuje historię sanktuarium w Olimpii w okresie od wczesnej epoki brązu do VI–VII w. n.e.
W muzeum prezentowane są m.in. fragmenty bogatej dekoracji rzeźbiarskiej ze świątyni Zeusa Olimpijskiego, m.in. metopy przedstawiające dwanaście prac Heraklesa, posąg Nike z Olimpii oraz rzeźba Hermes z małym Dionizosem – uważana za dzieło Praksytelesa.