Rok wcześniej został członkiem komisji reformującej służbę cywilną, w której zasiadał zarówno podczas rządów administracji Harrisona, jak i Clevelanda. Roosevelt działał w Partii Republikańskiej i kiedy ich kandydat, William McKinley został prezydentem, mianował Roosevelta zastępcą sekretarza marynarki wojennej. Po zatonięciu pancernika „Maine”, Roosevelt stanowczo agitował za wypowiedzeniem Hiszpanii wojny. W 1898 wystąpił z rządu i zorganizował grupę, zwaną Bezwzględnymi Jeźdźcami, którzy udali się walczyć na froncie. 11 lipca 1898 Roosevelt uzyskał stopień podpułkownika i wkrótce potem powrócił do Nowego Jorku.
Po powrocie do miasta kandydował w wyborach na gubernatora Nowego Jorku i zwyciężył. Funkcję tę pełnił od 1899 do 1901 roku. Jego popularność była na tyle wysoka, że działacze republikańscy chcieli przyznać mu nominację na wiceprezydenta. Bossowie partyjni obawiali się jego popularności i niezależności, dlatego też chcieli aby objął on ceremonialną funkcję, bez realnego wpływu na władzę. Na konwencji w Filadelfii uzyskał nominację, podczas gdy kandydatem na prezydenta był ubiegający się o reelekcję William McKinley. Duet republikański wygrał wybory prezydenckie i Roosevelt został wiceprezydentem 4 marca 1901 roku. Pół roku później, Leon Czolgosz dokonał zamachu na życie McKinleya.