Nagrali oni pierwsze wydawnictwo Sun Kil Moon, Ghosts of the Great Highway, wydane w 2003. Znalazły się na nim aż 3 piosenki o bokserach zmarłych w wieku 23 lat oraz utwór poświęcony muzykowi Judas Priest, Glennowi Tiptonowi. Zebrało ono pozytywne recenzje i średnią ocenę 84/100 na stronie Metacritic, a zespół wkrótce ruszył w trasę koncertową. W 2005 roku Kozelek zagrał w filmie Troje do pary (Shopgirl) Steve'a Martina, gdzie wykorzystano też piosenki Sun Kil Moon. Pod koniec roku pojawił się album Tiny Cities z jedenastoma coverami indierockowej kapeli Modest Mouse – krążek był pierwszym wydanym we własnej wytwórni wokalisty, Caldo Verde. W 2007 roku na rynek trafiła reedycja Ghosts of the Great Highway wraz z sześcioma bonusowymi utworami akustycznymi.
Kolejne wydawnictwo zespołu to April z 2008, nagrane w składzie Kozelek/Koutsos/Stanfield z gościnnymi wokalami od Willa Oldhama i Bena Gibbarda, przyjaciela Kozelka. W 2009 i 2010 roku zespół wydał dwa wydawnictwa krótkogrające. Następna, czwarta płyta Admiral Fell Promises ukazała się w 2010 roku. Jedyną osobą śpiewającą, produkującą i grającą na gitarze z nylonowymi strunami (jedynym instrumentem) był w tym przypadku lider. W dwa lata później wydano piątą już płytę Among the Leaves z towarzyszeniem zupełnie nowych muzyków.