W 1973 r. opublikował list otwarty do Leonida Breżniewa, w którym postulował demokratyzację życia społecznego i ograniczenie państwowej kontroli nad gospodarką. W październiku 1973 był jednym z założycieli sowieckiej sekcji Amnesty International. W 1974 ponownie zwolniony z pracy, utrzymywał się z korepetycji. W maju 1976 powołał do życia Moskiewską Grupę Helsińską (tzw. Społeczną Grupę Sprzyjania Wykonaniu Porozumień Helsińskich). Został aresztowany 10 lutego 1977 i w maju 1978 skazany na 7 lat kolonii karnej o surowym rygorze i 5 lat zesłania. Przebywał w obozie w Kraju Permskim, a od 1984 na zesłaniu w Jakucji. W październiku 1986 został wymieniony na pracownika sowieckiego wywiadu i pozbawiony sowieckiego obywatelstwa, deportowany, zamieszkał w USA. Pod koniec 1986 został wybrany Honorowym Przewodniczącym Międzynarodowej Federacji Helsińskiej. Od 1987 r. pracował w Cornell University, w 2008 mianowany profesorem.