ds. radia i telewizji oraz edukacji i kultury. 19 listopada 1990 dołączył do czwartego rządu Icchaka Szamira jako wiceminister w Kancelarii Premiera. 8 czerwca 1991 został przeniesiony do Ministerstwa Pracy i Opieki Społecznej kierowanego przez samego premiera, pozostał na stanowisku do końca kadencji rządu – 13 lipca 1991. W przeprowadzonych w czerwcu wyborach uzyskał reelekcję z koalicyjnej listy Zjednoczonego Judaizmu Tory tworzonej przez Sztandar Tory i jego macierzyste ugrupowanie. W trzynastym Knesecie zasiadał w komisjach pracy i opieki społecznej oraz edukacji i kultury. 28 czerwca 1994, na mocy wcześniejszych ustaleń Halpert i Menachem Porusz zrezygnowali z zasiadania w parlamencie ustępując odpowiednio Mosze Gafniemu i Awrahamowi Werdigerowi.
W 1996 uzyskał reelekcję, a w Knesecie XIV kadencji zasiadał w komisjach absorpcji imigrantów; edukacji i kultury oraz nauki i technologii. 23 lutego 1999 doszło do rozłamu w Zjednoczonym Judaizme Tory – Halpert, Me’ir Porusz i Awraham Leizerson utworzyli frakcję Agudat Israel. W przeprowadzonych w maju wyborach oba ugrupowania stworzyły jedną listę, a Halpert ponownie zdobył mandat poselski.