Po ukończeniu gimnazjum realnego w Warszawie Baudouin de Courtenay studiował w latach 1862–1866 w warszawskiej Szkole Głównej, uzyskując stopień magistra nauk historyczno-filologicznych. W latach 1866–1868 jako stypendysta rosyjskiego ministerstwa oświaty pogłębiał studia za granicą w Pradze, Jenie i Berlinie. W 1870 w Lipsku obronił pracę O języku staropolskim sprzed wieku XIV i uzyskał doktorat z filologii.
Jan Baudouin de Courtenay był aktywnym współpracownikiem „Notatek filologicznych”, wydawanych w Woroneżu pod redakcją Aleksieja Chowanskiego. W tym periodyku w latach 1866–1885 opublikowano około dwudziestu jego artykułów. W rosyjskim Archiwum Państwowym literatury i sztuki zachowały się listy, które wymieniali ze sobą Baudouin de Courtenay i Aleksiej Chowanski.
W 1875 został profesorem Uniwersytetu Kazańskiego, a między 1883 a 1893 Uniwersytetu Dorpackiego. W latach 1893–1900 był profesorem Uniwersytetu Jagiellońskiego. Kontraktu nie przedłużono mu w wyniku nacisku władz austriackich i węgierskich, które uznały, że w swoich pracach propaguje panslawizm, stanowiący potencjalne zagrożenie dla monarchii cesarsko-królewskiej. Był członkiem zawiązanego w 1916 w Petersburgu Koła Przyjaciół Niepodległości Polski. Następnie do 1918 wykładał na Uniwersytecie Piotrogrodzkim.