Jednym ze źródeł piosenki jest "Lolly Toodum" z Appalachów. Jednak Dylan – jak zwykle – znaną formę i znane postacie wykorzystał na swój wyjątkowy sposób; w efekcie jest to jego osobista wypowiedź. Główną postacią piosenki jest filozof Tom Paine; jest on symbolem wolnej myśli, co wyraził stwierdzeniem, że jego własny umysł jest jego kościołem. Paine był także autorem Common Sense i Dylan sugeruje, że filozof byłby zniesmaczony widząc, jak jego idee zostały przekręcone do dogmatów.
Piosenka ta jest więc także komentarzem Dylana do zderzenia wartości pod koniec lat 60. XX w.
Tom Paine w piosence tej nie pojawił się przypadkowo. Filozof ten był szczególnie bliski piosenkarzowi ze względu na jego obronę wolnej myśli. Co więcej, w 1963 r. Bob Dylan dostał nagrodę im. Toma Paine'a od Emergency Civil Liberties Committee. Odbierając nagrodę był pijany i wygłosił dość niekoherentną mowę, w której Lee Harvey Oswald został przedstawiony prawie pozytywnie, co spowodowało antydylanowską reakcje sali. Dylan wielokrotnie usiłował potem wyjaśnić całą sytuację i, być może, ta piosenka jest ostatnią próbą.