W wyborach do Parlamentu Europejskiego w 2014 startował z listy Prawa i Sprawiedliwości w okręgu nr 3 (województwa podlaskie i warmińsko-mazurskie) i nie uzyskał mandatu europosła, zdobywając 15 040 głosów.
W 2015 został ponownie wybrany do Sejmu, otrzymując 28 865 głosów. 18 listopada tegoż roku powołany na sekretarza stanu w MSWiA.
W 2018 policjanci z Suwałk za pośrednictwem mediów anonimowo zarzucili politykowi, że zrobił z suwalskiej policji „prywatny folwark”. Wymieniali m.in. całodobową ochronę jego domu, konieczność udawania funkcjonariuszy BOR na oficjalnych spotkaniach oraz upolitycznienie polityki kadrowej. Skargi te trafiły do posłanki Platformy Obywatelskiej Bożeny Kamińskiej, która skierowała w tej sprawie interpelację do ministra Joachima Brudzińskiego. Według przedstawicieli KGP wyniki przeprowadzonej kontroli nie potwierdziły informacji, by Jarosław Zieliński osobiście wydawał polecenia funkcjonariuszom. Nie ujawniono też zachowań mogących prowadzić do postępowań dyscyplinarnych wobec suwalskich policjantów, stwierdzono natomiast pewne uchybienia ze strony niektórych przełożonych.