Podczas okupacji hitlerowskiej, we wrześniu 1941 roku Niemcy utworzyli getto dla żydowskich mieszkańców. Przebywało w nim około 7500 osób. 21 września 1942 roku Niemcy zlikwidowali getto, a Żydów zamordowali w Kalinówce i Woskriesieńsku. Sprawcami zbrodni było Sonderkommando 11a.
Współczesny Mikołajów rozwinął się dzięki przemysłowi stoczniowemu. Początkowo był budowany jako stocznia. W XIX wieku Mikołajów był centrum przemysłu stoczniowego na Morzu Czarnym, a także centrum zarządzania Flotą Czarnomorską Imperium Rosyjskiego.
Od 1920 r. w Ukraińskiej SRR, od 1937 stolica obwodu. W latach 1941–1944 pod okupacją niemiecką. W kwietniu 1941 do Mikołajowa przeniesiono z Rzeszowa niemiecki obóz jeniecki Stalag 364. W grudniu 1943 obóz rozwiązano.
W 1970 roku miasto zostało odznaczone Orderem Czerwonego Sztandaru Pracy.
Od 1991 r. należy do niepodległej Ukrainy.
Do 1991 r. Mikołajów był najważniejszym ośrodkiem budowy nawodnych okrętów wojennych w Związku Radzieckim. Tu właśnie zbudowano wszystkie radzieckie lotniskowce. Znajdują się tam stocznie Czarnomorska (dawniej im. A. Marty) i Mikołajowska (dawniej im. 61 komunardów).
Od marca 2022 Miasto-bohater Ukrainy.