Podobno piosenka została także nagrana przez wielebnego Gary’ego Davisa. Podobne motywy i tematy występowały także w piosenkach innych bluesmanów w latach 30. XX wieku, m.in. Memphis Minnie, Snooksa Eaglina i Big Billa Broonzy’ego.
W nocie do swojego pierwszego albumu Dylan napisał, iż przypuszcza, że Schmidt wykorzystał pewne elementy do swojej wersji z nagrań Horace’a Sprotta z Alabamy, który został nagrany w 1954 roku.
Zasadniczo „Baby, Let Me Follow You Down” (Baby, Let Me Lay It on You) jest tradycyjnym bluesem Wschodniego Wybrzeża i może być spokrewniony z takimi utworami jak „Paper of Pins” czy „The Keys to Heaven”, znanymi zarówno na Wschodzie, jak i w Missisipi. Ich wariacją jest być może „Can I Do It for You?” Memphis Minnie. Blind Boy Fuller Complete Recorded Works, Volume 2 (1936-1938) 1992 Rev. Gary Davis Blues & Ragtime 1993
Sesje i koncerty Dylana, na których wykonywał ten utwór Sesje nagraniowe Prawdopodobnie pierwszą jego wersją „Baby, Let Me Follow You Down” nagraną w ogóle, była ta umieszczona na pierwszym albumie: 20 listopada 1961 – sesje do albumu w Columbia Studio A w Nowym Jorku. 23 listopada – Dylan nagrywa piosenkę w domu Evy i Maca McKenziech w Nowym Jorku.