Z tego związku miał córki: Bronisławę Jadwigę i Józefę Barbarę, obie zmarłe w niemowlęctwie.
W kwietniu 1841 podczas prób do swego Miserere kompozytor przeziębił się i rozchorował. Zmarł w wyniku zaostrzenia się gruźlicy. Pochowany został na Cmentarzu Powązkowskim w Warszawie. Mszę celebrował biskup Antoni Kotowski, a uczestniczyła w niej ogromna rzesza przyjaciół, znajomych i wychowanków Józefa. Orkiestra wykonała Requiem Józefa Kozłowskiego pod dyrekcją Tomasza Napoleona Nideckiego oraz skomponowany na cześć zmarłego hymn żałobny Ignacego Feliksa Dobrzyńskiego, wykonany pod jego przewodnictwem. Podobno Karol Kurpiński na pogrzebie Krogulskiego powiedział: „O tak chowamy naszego Palestrinę”.
Jego przyrodni brat Władysław Krogulski, również był kompozytorem.
Ważniejsze kompozycje Orkiestrowe oraz na orkiestrę z fortepianem: Uwertura d-moll (ok. 1831) I koncert fortepianowy E-dur (1830) II koncert fortepianowy h-moll (1831) Wariacje F-dur (Warszawa 1835)
Kameralne: Oktet d-moll op. 6, na fortepian, flet, klarnet, 2 skrzypiec, altówkę, wiolonczelę i kontrabas, dedykowany Henrykowi Łubieńskiemu (Warszawa 1834) I sonata Es-dur na fortepian i kwartet smyczkowy, 1828/1829 Kwartet D-dur op. 2 na fortepian, skrzypce, altówkę i wiolonczelę