W latach 1926–1928 okręt poddano pierwszej dużej modernizacji (rekonstrukcji) w stoczni w Yokosuka. Zwiększono wówczas grubość poziomego opancerzenia – pokładu pancernego, nad siłownią do 80 mm i nad komorami amunicyjnymi do 120 mm, a także dachów wież i barbet, dodając ok. 3600 ton pancerza. W celu zwiększenia odporności przeciw wybuchom podwodnym, dodano na burtach dodatkowe przedziały przeciwtorpedowe – „bąble”, zwiększające szerokość o ponad metr. Usunięto 4 podwodne wyrzutnie torpedowe. Stare kotły w liczbie 36 opalanych węglem zamieniono na 6 nowszych oraz na 10 opalanych olejem, o większej wydajności, co pociągnęło za sobą zlikwidowanie jednej kotłowni i dziobowego komina, zmniejszając liczbę kominów do dwóch. Wyporność standardowa okrętu wzrosła z 26 330 do 29 330 t, przy czym prędkość spadła w niewielkim stopniu, do 26 w. Utworzono miejsce dla trzech wodnosamolotów. W lipcu 1928 „Harunę” przeklasyfikowano z krążownika liniowego na pancernik.