W okresie tym Murray pracował jako pasterz, a następnie podjął naukę w Minto School, gdzie zaczął pracować nad czterema nowymi językami: francuskim, niemieckim, włoskim i klasycznym greckim. Murray opuścił szkołę w wieku lat 14 i pół, by podjąć prace zarobkową i wesprzeć rodzinny budżet – nauczył się introligatorstwa.
W 1854 roku Murray opuścił dom rodzinny i rozpoczął pracę jako młodszy asystent dyrektora szkoły w Hawick. W 1857 roku został dyrektorem prywatnej szkoły Hawick Academy. Czas wolny poświęcał nauce języków obcych – sam utrzymywał, że posiadł znajomość pisemnej formy ok. 25 języków, m.in. rosyjskiego i tonga. Zajmował się również badaniami struktury geologicznej dystryktu Teviotdale oraz jego flory i fauny. Od 1856 roku pełnił funkcję sekretarza nowo powstałego towarzystwa archeologicznego w Hawick.
Następnie zainteresował się filologią – w 1857 roku uczęszczał na kurs elokucji prowadzony przez Alexandra Melville’a Bella (1819–1905), który opracował obrazkowy system pisma dla transkrypcji fonetycznej, tzw. Visible Speech, ukazujący pozycje gardła, języka i ust przy powstawaniu dźwięków.