21 grudnia 1848 wstąpił do zakonu kapucynów w Lubartowie. Śluby proste złożył 21 grudnia 1849 i wyjechał do Lublina, by studiować filozofię. 18 grudnia 1850 złożył śluby uroczyste. W 1851 został przeniesiony na studia teologii do Warszawy, które ukończył w 1852, i został wykładowcą retoryki w Warszawie. Święcenia kapłańskie przyjął 27 grudnia 1852 z rąk arcybiskupa warszawskiego Antoniego Fijałkowskiego. W latach 1853–1855 wykładał teologię w Warszawie. W 1855 założył w Warszawie z Zofią Truszkowską Zgromadzenie Sióstr Felicjanek, którego zadaniem była działalność charytatywna.
Po upadku powstania styczniowego rząd rosyjski skasował wszystkie klasztory katolickie. Po kasacie klasztoru kapucynów w Warszawie 1864 zamieszkał w Zakroczymiu, a w 1892–1916 w Nowym Mieście. W celu ominięcia zakazu rosyjskiego Koźmiński zaczął zakładać w Kongresówce skryte zgromadzenia zakonne (skrytki), oparte na regule trzeciego zakonu św. Franciszka. W latach 1872–1898 założył 14 żeńskich zgromadzeń zakonnych skrytych. Ich zadaniem miało być uświęcenie osobiste, działalność charytatywna i akcja apostolska w rodzinach, fabrykach, szpitalach itd.
Z jednego z takich zgromadzeń (Zgromadzenie Sióstr Ubogich św. Matki Klary), rozwinął się mariawityzm założony przez zakonnicę, Marię Franciszkę Kozłowską, której o.