W 1973 został legislacyjnym asystentem inspektora skarbu stanowego Billa Snodgrassa. W 1974 sam został wybrany przez legislaturę na skarbnika stanowego, kiedy jego poprzednik, Tom Wiseman, zrezygnował, aby kandydować w prawyborach demokratycznych na gubernatora (przegrał). Mathews był odpowiedzialnym za skarb stanu do 1987. Wtedy został mianowany zastępcą nowego gubernatora, Neda McWhertera (funkcja odmienna od wicegubernatora).

Sprawował funkcję zastępcy gubernatora do 1993, kiedy jeden z senatorskich foteli z Tennessee, zajmowany przez Ala Gore’a, został zwolniony, gdyż ten został wybrany wiceprezydentem w wyborach w 1992.

McWherter mianował nowym senatorem, do czasu wyborów przedterminowych, Mathewsa. Zgodnie odczytywano ten wybór, jako nagrodę dla wieloletniego funkcjonariusza stanowego aparatu władzy. Ponadto od początku było wiadomo, iż ten będzie tylko tymczasowym senatorem i nie będzie ubiegał się o własny wybór. Nie był związany z żadną konkretną frakcją w partii, co ułatwiło nominację.

Mathews był młodszym senatorem z Tennessee od 2 stycznia 1993 do 1 grudnia 1994. W tym czasie nie wyróżniał się niczym specjalnym.