Trapiły go choroby: w 1847 roku chorował na „gorączkę żółciowo-reumatyczną”, w następnym roku ciężko chorował na gościec, a w 1849 roku na „gorączkę żółciowo-gastryczną, którą lekarz powiatowy określił jako poważną. W Wolbromiu ponownie zapadł na „gorączkę żółciową”.

Odznaczenia gratulacje za wysługę lat i medal za 20 lat doskonałej i nienagannej służby Medal Pamiątkowy Wojny Krymskiej w Latach 1853–56.

Życie prywatne Kajetan Józef był synem Józefa Kosteckiego i Wiktorii z domu Kwaśniewskiej. Jego rodzeństwo stanowili: Piotr Hipolit (1794–1853), Marianna Angela (?–1800), Józefa (1796–?), Teofila Tekla (~1800–?), Alojzy Gonzaga (~1803–1868) i Pelagia (?–1806).

W dniu 28 lipca 1835 roku Chorzęcinie poślubił Eleonorę Dzierzgowską herbu Jastrzębiec, córkę Wawrzyńca i Wiktorii z Rycharskich.

Kajetan Józef z żoną Eleonorą mieli co najmniej troje dzieci. Były to: Franciszek Wawrzyniec (1836–1910), Aleksandra Wincenta (1839– po 1918) oraz Józef (~1844–1853).

Zmarł w Kaliszu w dniu 23 września, a jego pogrzeb odbył się w dniu 25 września 1873 roku.

Przypisy Archiwum Państwowe w Kielcach, Urząd Lekarski Guberni Radomskiej, Akta osobowe Kajetana Kosteckiego, lekarza m. Pilicy i innych, sygn.