Według przełożonych wykazywał się ogromnym zaangażowaniem, dzięki czemu był popularny wśród żołnierzy.
Jeszcze podczas pobytu w Bari Matt Busby otrzymał ofertę pracy jako trener w Manchesterze United, będąc jednym z piłkarzy biorących udział w gierkach treningowych przygotowanych przez Murphy’ego stwierdził że jest to człowiek, którego potrzebuje u swojego boku w nowej pracy. Zaproponował mu po powrocie z wojska posadę asystenta trenera, który byłby odpowiedzialny za szukanie i szkolenie nowych zawodników, którzy w przyszłości mieliby aspirować do gry w pierwszym zespole.
Początki w Manchesterze United Jimmy Murphy latem 1946 roku został asystentem Matta Busby’ego w Manchesterze United. Po przybyciu do klubu zobaczył ogromne zniszczenia jakich doznał klub podczas wojennego bombardowania, zniszczony został stadion oraz budynki klubowe. Sytuacja ta jednak nie zniechęciła Walijczyka, który uważał odbudowę klubu i drużyny za wyzwanie. Stał się on zaufanym człowiekiem trenera, który wysyłał go do oglądania gry zawodników, którzy potencjalnie mieliby zostać nowymi graczami.