Po drodze dzięki usilnym namowom rodziny zmienił zamiar i Michał wstąpił na Uniwersytet Charkowski.
Uczył się początkowo słabo, gdyż sam marzył o karierze oficera. Dopiero gdy zamieszkał u profesora matematyki Pawłowskiego, zaczął pod jego wpływem interesować się bardziej nauką i wkrótce stał się jednym z najlepszych studentów, celując szczególnie w matematyce. Jednak gdy w 1820 roku zdał wszystkie egzaminy końcowe z wynikiem bardzo dobrym, władze uczelni nie wydały mu dyplomu, motywując to wolnomyślicielstwem Ostrogradskiego. Wyjechał wówczas do Paryża i tam uczęszczał na wykłady Ampere'a, Cauchy'ego, Laplace'a, Poissona i innych. Wkrótce sam spróbował swoich sił w matematyce i za obliczenia szczególnie trudnych całek otrzymał od Cauchy'ego specjalną pochwałę.
W 1825 roku referował we francuskiej Akademii Nauk swoje wyniki dotyczące rozchodzenia się fal na powierzchni cieczy. W tym samym roku rozpoczął pierwszą pracę pedagogiczną w College Henryka IV. W 1828 roku powrócił do Rosji. Wykładał matematykę w Głównym Instytucie Pedagogicznym, w Korpusie Morskim oraz w Michajłowskiej Szkole Artyleryjskiej. Wykłady jego odznaczały się niezwykle dokładnym przygotowaniem. Podawał w nich najnowsze osiągnięcia francuskich matematyków, nieznane jeszcze w Rosji.