Świątynia konwentualna istniała już na pewno w 1400 r., gdyż wspomina się ją w dokumencie erekcyjnym. Znajdowała się w północno-wschodnim narożniku całego kompleksu klasztornego. Miejsce, w którym znajdowało się prezbiterium kościoła, przypomina dzisiaj tablica pamiątkowa wmurowana w nawierzchnię deptaku przy ul. Mostowej. W pobliżu kościoła stała wieża-dzwonnica, łącząca się z zabudowaniami klasztornymi.
Kościół konwentualny karmelitów został konsekrowany 8 lipca 1599 r. przez sufragana włocławskiego Franciszka Łąckiego. Była to budowla jednonawowa z ozdobnymi szczytami. W hierarchii ważności zajmowała drugie miejsce po kościele farnym. W 1816 r. w wizji lokalnej kościoła stwierdzono, że znajdowało się w nim dziesięć ołtarzy: siedem w nawie i trzy w prezbiterium.
W II połowie XVIII wieku dla kościoła wykonano reprezentacyjne, rokokowe stalle, z 18 siedziskami, które obecnie znajdują się w bydgoskim kościele farnymDerkowska-Kostkowska Bogna: Stalle z kościołów oo. Karmelitów w Bydgoszczy i Oborach. [w:] Kronika Bydgoska XXVIII (2006).