Stłoczono je w niewielkich i pozbawionych odpowiednich warunków pomieszczeniach, dlatego wiele z nich uległo zniszczeniu, a niektóre stały się przedmiotem handlu. Gmach muzeum w Katowicach początkowo został przekształcony w składnicę mebli zrabowanych obywatelom polskim, a w latach 1941–1944 rozebrany do fundamentów.
W czasie II wojny światowej utracono m.in. kompozycje Maksymiliana Gierymskiego Alarm w obozie powstańczym czy prace Władysława Ślewińskiego, Henryka Siemiradzkiego, Stanisława Ignacego Witkiewicza, Leona Wyczółkowskiego i innych. Ocalałe zbiory przeniesiono natomiast do Bytomia.
W czerwcu 1945 roku przyjechał do Katowic z zamiarem podjęcia próby reaktywacji Muzeum Śląskiego jego były dyrektor Dobrowolski, ale nie został on nawet wysłuchany przez komunistyczne władze. W miejsce rozebranego gmachu Muzeum Śląskiego wzniesiono budynek Związków Zawodowych. 6 lutego 1948 roku na konferencji dyrektorów śląskich muzeów podkreślono konieczność budowy gmachu dla Muzeum Śląskiego, lecz w latach 50. XX wieku Ministerstwo Kultury nie przekazało na ten cel środków. Polskie władze uznały ostatecznie, że o kulturze regionu opowiadać będzie Muzeum Górnośląskie w Bytomiu, które zostało powołane w miejsce Oberschlesische Landesmuseum.