Stwierdzał w niej, że normy ustanowione przez papieża Grzegorza X dotyczące przeprowadzenia konklawe obowiązują także w wypadku abdykacji papieża. W dniu 13 grudnia 1294 r. złożył urząd w Castel Nuovo w Neapolu odczytując w obecności kardynałów formułę własnej rezygnacji, złożył insygnia papieskie oraz poprosił ich o wybór nowego papieża. Do abdykacji Celestyna przyczynił się swoimi namowami kardynał Benedetto Gaetani, który został jego następcą.
Ustępujący papież pragnął powrócić do życia jako pustelnik. Następca, Bonifacy VIII, obawiał się jednak, że Celestyn V, jako były papież, może stać się elementem manipulacji ze strony kościelnych środowisk radykalnych, a może nawet doprowadzić do schizmy. Z tego powodu trzymał go pod strażą. Po kilku miesiącach Piotrowi udało się zbiec w góry, jednak został zatrzymany, dostał nakaz udania się do zamku Fumone koło Ferentino i zakaz powrotu do pustelni. Ostatnie miesiące życia przebywał tam uwięziony w ciasnej celi.
Francesco Petrarca uznał krok Celestyna V za wyraz wielkiej wolności, dokonany w duchu anielskim, który nie znosił nakazów podyktowanych koniecznością praktycznego i politycznego sprawowania urzędu.