W 1933 roku powołano go na wicekomisarza ds. sowchozów. Od 1937 roku przez trzy lata uczył historii w moskiewskim Wyższym Instytucie Oświaty.

Po włączeniu Łotwy w skład ZSRR w 1940 roku powrócił do kraju, gdzie objął stanowisko sekretarza KC KPŁ ds. propagandy i agitacji. W 1941 roku uciekł do Moskwy, gdzie wraz z innymi komunistami łotewskimi pracował nad programem dla radzieckiej Łotwy po zwycięstwie nad Niemcami.

W 1959 roku kierował czystką w strukturach Komunistycznej Partii Łotwy, usuwając z niej elementy nacjonalistyczne. 25 listopada 1959 roku zastąpił Jānisa Kalnbērziņša w roli I sekretarza KPŁ.

W 1961 roku Pelše awansował na członka KC KPZR. W latach 1961–1967 kierował tzw. komisją Pelšego, która badała sprawę śmierci Siergieja Kirowa.

15 kwietnia 1966 roku przestał być I sekretarzem KPŁ, jednak na XXIII Kongresie KPZR wybrano go członkiem Politbiura – sprawował tę funkcję do śmierci w 1983 roku jako jeden z nielicznych przedstawicieli narodowości niesłowiańskich. Odpowiadał też m.in. za dyscyplinę partyjną jako szef Komitetu Kontroli KPZR.

Pochowany został z honorami na cmentarzu przy Murze Kremlowskim.

Upamiętnienie W 1983 jego imię otrzymał Ryski Uniwersytet Techniczny.