Ogrody były często budowane przy budynkach świątynnych, aby pomóc mnichom w medytacji i rozwoju religijnym, a nie w celach rekreacyjnych.
Głównym założeniem tego typu ogrodu jest wyrażenie natury wszechświata na małym obszarze, otoczonym ogrodzeniem z kamienia lub roślinności. Starannie zagrabiany w rzędy żwir tworzy wrażenie fal (samon, hōkime), a skały rozmaitych kształtów, częściowo zakopane w ziemi lub zasłonięte innymi skałami, upodabniają się do wysp lub tworzą efekty wizualne.
Obserwujący sztukę zen, widzi przede wszystkim surowość i prostotę. Odnosi się to także do obrazów malowanych tuszem (suiboku-ga) przez chińskich mnichów chan. Styl ten przejęli japońscy mistrzowie zen, jak: Sesshū Tōyō (1420–1506), Tenshō Shūbun (zm. ok. 1460), Josetsu (imigrant z Chin, okres działalności ok. 1386–1428), Sōtan Oguri (1413–1481). Obrazy te przywołują najwięcej znaczeń z jak najmniejszej ilości materiałów i stawiają najmniejsze wymagania zmysłom w wykonywaniu czynności. Według japońskich historyków sztuki, ogród zen jest próbą nadania monochromatycznego obrazu tuszem trójwymiarowej formy.