Młodość i wykształcenie (1840–1869) Lemoine urodził się w Quimper w Bretanii 22 listopada 1840 jako syn emerytowanego kapitana, który brał udział w kampaniach napoleońskich po roku 1807. W dzieciństwie uczęszczał do wojskowego prytaneum w La Flèche dzięki stypendium przyznanemu mu, ponieważ jego ojciec pomagał zakładać tę szkołę. Już w tym wczesnym okresie, w 1858, opublikował w piśmie swój pierwszy artykuł, , poświęcony krzywej stożkowej.
mały|Strona tytułowa septetu Es-dur op. 65 Camille’a Saint-Saënsa, napisanego na prośbę Lemoine’a dla stowarzyszenia La Trompette W wieku dwudziestu lat, w roku śmierci ojca, Lemoine został przyjęty do École polytechnique w Paryżu. Jako jej student współtworzył wpływowe stowarzyszenie muzyki kameralnej o nazwie , dla którego Camille Saint-Saëns skomponował kilka utworów, w tym septet na trąbkę, kwintet smyczkowy i fortepian. Nazwa stowarzyszenia wzięła się z żartobliwego okrzyku jednego z kolegów: („znowu są przy swojej trąbce”). Lemoine prowadził wieczory muzyczne La Trompette aż do śmierci, a wspomniany septet Saint-Saënsa (Es-dur op. 65, 1880) powstał na jego namowę. Po ukończeniu studiów w 1866 rozważał karierę prawniczą. Zrezygnował z niej, ponieważ jego republikańskie przekonania i liberalne poglądy religijne kłóciły się z ideałami panującego wówczas Drugiego Cesarstwa.