Podczas lat spędzonych jako mówca przed niezależnymi zgromadzeniami, Reitzel obmyślał plan wydawania własnej gazety. Miał gotową nazwę na długo przed tym, jak pismo ostatecznie się ukazało: Der arme Teufel (niem. Biedny Diabeł). Jest to „właściwa nazwa dla publikacji, która patrzy na świat okiem istoty ludzkiej takiej, jaką jest”. Reitzel mógł zrealizować swój plan dopiero w 1884, z pomocą przyjaciela, któremu udało mu się przekształcić gazetę w „najbardziej rozpowszechnione niemieckojęzyczne pismo literackie, jakie kiedykolwiek ukazało się w Ameryce”. Ukazywało się jako tygodnik nieprzerwanie aż do śmierci Reitzela i było kontynuowane przez przyjaciół w kolejnych latach: dobiło do szesnastu tomów o łącznej liczbie 822 numerów. Max Nettlau opisał Reitzela jako głównego autora swojej gazety: „skarbem szczerych i wolnościowych i buntowniczych uczuć oraz myśli, nowatorskiej krytyki społecznej i rozszarpującej władzę we wszystkich jej formach, otwartej, jak i ukrytej”. Sam Reitzel postrzegał siebie - w Programie swojej gazety - z polubownym i ironicznym dystansem do współczesnych sobie anarchistów: „Pozostawiam moim przyjaciołom Tuckerowi i Mostowi walkę o to, kto reprezentuje prawdziwy anarchizm.