W plan zbudowanego na północ od wcześniejszego kościoła włączono fragmenty Cluny II.
Kościół w Cluny był wielką, 5-nawową bazyliką z dwoma transeptami i prezbiterium z ambitem i kaplicami promienistymi. Nad ramionami transeptu zachodniego, a także nad jego skrzyżowaniem z nawą główną wznosiły się wieże. Od zachodu znajdował się 5-przęsłowy narteks poprzedzony wieżami. Niektóre elementy architektury kościoła zapowiadały już styl gotycki (nawa główna sklepiona ostrołukową kolebką, ostrołukowe były również arkady międzynawowe; około 1130 roku po zawaleniu się sklepień dodano łuki przyporowe przy nawie głównej). O wielkości budowli daje pojęcie zachowane jedno ramię transeptu z wieżą. Całkowita długość kościoła sięgała ok. 190 m a szerokość korpusu 40 m. Wnętrze było bogato dekorowane – zachowało się kilka kapiteli z dekoracją figuralną (m.in. personifikacje tonów muzycznych chorału gregoriańskiego), będących arcydziełami rzeźby romańskiej. Głównym architektem Cluny III był zakonnik Gunzo a jego pomocnikiem Hèzelon (Gunzo był muzykiem a Hèzelon nazywany był