Kariera trenerska Jego pierwszym doświadczeniem trenerskim była praca z czwartoligowymi rezerwami Siarki Tarnobrzeg. W 1995 roku objął funkcję trenera Alitu Ożarów, który rok później wprowadził do trzeciej ligi, by wkrótce uzyskać z nim czwarte miejsce na półmetku sezonu 1997–98. Następnie trener Siarki Tarnobrzeg (awans do II ligi w 1999 roku), Korony Kielce, Tłoków Gorzyce oraz GKS-u Bełchatów. Największe sukcesy w tamtym okresie osiągnął jako szkoleniowiec Górnika Łęczna. Awansował z tym klubem do ekstraklasy w 2003. Występy łęcznian w pierwszej lidze pod wodzą Zielińskiego zaowocowały wyróżnieniem dla trenera Roku 2003 tygodnika „Piłka Nożna”.
Po odejściu z Łęcznej został szkoleniowcem Piasta Gliwice. Następnie Jacek Zieliński prowadził w ekstraklasie Odrę Wodzisław Śląski. Jego drużyna w rundzie wiosennej sezonu 2006/2007 zdobyła 28 punktów i wygrała siedem meczów z rzędu.