Nowy budynek miał być funkcjonalny, nowoczesny oraz rozpoznawalny i charakterystyczny w formie, aby mógł stać się jednym z symboli współczesnej Warszawy. Został pomyślany jako miejsce ukazujące dorobek kultury żydowskiej, ale jednocześnie nie mógł zdominować pomnika Bohaterów Getta, który miał pozostać punktem odniesienia dla całego otaczającego go terenu. Aby jak najmniej ingerować w przestrzeń, do której przyzwyczaili się mieszkańcy, budynek mógł zająć jedną trzecią powierzchni placu i nie mógł być wyższy od otaczających go bloków mieszkalnych. Architekci musieli również uwzględnić w swoich projektach wymogi dotyczące wystawy stałej.
Konkurs rozstrzygnięto 30 czerwca 2005 roku. Pierwszą nagrodę otrzymał zespół Lahdelma & Mahlamäki, a trzy równorzędne wyróżnienia – Zvi Hecker, Kengo Kuma oraz Daniel Libeskind. Było to pierwsze zwycięstwo fińskiej pracowni w konkursie zagranicznym.
Budowa Polskim partnerem Lahdelma & Mahlamäki została pracownia Kuryłowicz & Associates.