Pozwolenie zostało udzielone i od tego czasu Żydzi mogli ponownie osiedlać się w Jerozolimie.
W okresie panowania Rzymian znajdujące się wewnątrz muru Wzgórze Świątynne używane było jako miejscowe wysypisko śmieci, a ruiny Drugiej Świątyni przykryła góra odpadków.
Średniowiecze (500–1500) Istnieje wielu autorów żydowskich z X i XI wieku (np. Aaron ben Meïr, Samuel ben Paltiel, Solomon ben Judah) opisujących modlitwy Żydów pod Ścianą Płaczu. Issac Cheilo, żydowski podróżnik, w roku 1333 opisał przejęcie Palestyny od Rzymian (których w swoim opisie nazywa chrześcijanami) przez arabskiego władcę Umara z 637 roku. Według jego opisu arabski król przed bitwą złożył przysięgę, że w razie wygranej bitwy oczyści ruiny Świątyni z nagromadzonych tam nieczystości. Po bitwie próbował on znaleźć to miejsce, ukryte ono jednak było pod stosami odpadków. Wtedy podszedł do niego stary Żyd i rzekł: Powiem Ci gdzie leży świątynia, ale najpierw musisz przyrzec, że pozostawisz nam Zachodnią Ścianę. Gdy król obiecał tak uczynić, stary człowiek pokazał mu, gdzie należy szukać pozostałości świątyni i Świętego Wzgórza. Król dotrzymał słowa i nakazał oczyszczenie wzgórza, sam symbolicznie rozpoczynając prace. Aby zaś chronić najświętsze miejsce tego wzgórza Kamień węgielny zbudował przepiękny meczet a Ścianę Zachodnią pozostawił Żydom jak przyrzekł.