Dostrzegł w nim szansę na przyczynienie się do likwidacji materialnego, a także duchowego i moralnego ubóstwa. Wkrótce został jego duchowym opiekunem, a z czasem faktycznym kierownikiem. W 1849 r. został wikarym w katedrze w Kolonii. Tam jeszcze mocniej propagował tworzenie związków młodzieży. 6 maja 1849 roku założył Koloński Związek Katolickich Czeladników, który stał się zalążkiem dzisiejszego Dzieła Kolpinga.
Ks. Kolping uważał, że tego typu związki są wielką szansą dla młodych ludzi, zwłaszcza tych, którzy w poszukiwaniu pracy opuścili swoje rodziny i byli zdani tylko na siebie w rozwiązywaniu codziennych problemów. Aby chronić ich przed bezdomnością tworzył dla nich bursy oraz by chronić ich przed osamotnieniem oraz zagrożeniami moralnymi tworzył dla nich związki, w których panowała rodzinna atmosfera. Chciał, by związki istniały wszędzie tam, gdzie znajdują się młode osoby potrzebujące wsparcia i tworzeniu ich poświęcił swoje życie. W krótkim czasie założył wiele nowych związków, nie tylko w Niemczech, ale także w Austrii, Belgii, Szwajcarii, na Węgrzech i w innych krajach. Zakładał też bursy, kasy chorych, kasy oszczędnościowe, szkoły wieczorowe i świetlice. Wygłaszał setki kazań, wydawał publikacje i pisał artykuły propagujące społeczną naukę Kościoła, pisał również wiersze.