Konspiracja rozwinęła się w oparciu o dwie siatki – zewnętrzną i wewnętrzną. Już w 1939 r. rozpoczęła działalność komórka więzienna SZP (Służba Zwycięstwu Polski), a następnie ZWZ-AK (Związek Walki Zbrojnej – Armia Krajowa). Pod koniec 1942 r. powstała komórka więzienna Delegatury Rządu. Kontakty zewnętrzne utrzymywane były przez polskich funkcjonariuszy więziennych, lekarzy z miasta oraz delegatkę i pracownice Patronatu. Z siatką wewnętrzną współpracowali więźniowie funkcyjni – lekarze, pracownicy administracji więziennej i kolumny sanitarnej oraz więźniowie, którzy pracowali w warsztatach.
Wynikiem współdziałania komórki więziennej na Pawiaku z wolnością były słynne akcje zapoczątkowane odbiciem 26 marca 1943 r. przez specjalny Oddział Grup Szturmowych Szarych Szeregów w akcji pod Arsenałem Jana Bytnara „Rudego” dowódcy Hufca „Południe” oraz 20 innych więźniów przewożonych z siedziby Gestapo w al. Szucha 25 na Pawiak. W następstwie współpracy komórki więziennej z Armią Krajową Kierownictwo Walki Podziemnej wydawało wyroki śmierci na gestapowców i katów z Pawiaka i Szucha.