W 40 roku p.n.e. w Masadzie schronił się Herod uciekając przed Partami. Od tego czasu upodobał sobie to miejsce i według relacji Józefa Flawiusza, jako król Judei od 37 r. p.n.e. udoskonalił jeszcze jego obronność, obawiając się najazdu ze strony egipskiej armii królowej Kleopatry. Całą wierzchowinę góry obwiedziono murem wysokości 8 m, którego grubość sięgała 6 m. Na jego obwodzie zbudowano 37 wież obronnych. W najwyższej i najbardziej niedostępnej, północnej części partii szczytowej wzniesiono pałac, broniony dodatkowo murem wewnętrznym z 4 wieżami. W skale wykuto cysterny na wodę i piwnice, w których zgromadzono zapasy żywności (zboża, oliwy, wina, suszonych owoców). Wszystko to umożliwiało stawianie czoła oblężeniu przez długi czas i czyniło twierdzę prawie niemożliwą do zdobycia.
Od 6 roku n.e. twierdza służyła jako rzymska strażnica graniczna. W roku 66 n.e. w czasie wojny żydowskiej Masadę zajęli sykariusze - najbardziej radykalny odłam zelotów. W roku 73 n.e. była ona jednym z trzech ostatnich punktów oporu przeciw Rzymianom. W twierdzy zamknęło się około tysiąca ludzi, w tym wiele kobiet i dzieci. Na czele broniących się sykariuszy stał Eleazar ben Jair. Oblężenia twierdzy podjął się Flawiusz Silwa.