W styczniu 1918 został w Jałcie aresztowany przez bolszewików. Po uwolnieniu przystąpił do „białych”. Był jednym z ich najznakomitszych dowódców podczas wojny domowej – w czerwcu 1919 zdobył Carycyn. Wśród bolszewików zyskał pseudonim „czarny baron” (ze względu na noszoną przez niego czarną czerkieskę). Od 4 kwietnia 1920 Głównodowodzący Sił Zbrojnych Południa Rosji, twórca Rządu Południa Rosji. Był reformatorem „białego” ruchu, jego rząd przeprowadził na obszarach pod swoją kontrolą reformę rolną, oddającą chłopom ziemię (na Krymie i w tzw. Taurydzie Północnej). Odstąpił od idei „jednej i niepodzielnej Rosji”, której trzymali się Aleksander Kołczak i Anton Denikin. W lipcu 1920 r. z pomocą chłopów wyszedł z Krymu i zajął zagłębie donieckie. Desantami próbował opanować Kubań. We wrześniu ponownie operował już tylko na Krymie.