W latach 80. XIX w. powierzchnia cmentarza wynosiła 2.2 ha, do 2017 wzrosła do 30 hektarów. W 1893 odbyła się konsekracja cerkwi św. Mikołaja, która służyła odtąd jako cerkiew pogrzebowa. Po likwidacji cmentarza na Tašmajdanie, szczątki osób tam pochowanych przenoszono sukcesywnie na Nowy cmentarz (proces ten trwał do roku 1927). Pierwszy pomnik, który wzniesiono na cmentarzu powstał w 1907 i był poświęcony żołnierzom, którzy w XIX w. zginęli w walkach z Turkami i Bułgarami i zostali przeniesieni ze starego cmentarza. W 1927 powstała Aleja velikana (Алеја великана), na której chowano osoby o szczególnych zasługach dla Serbii. Do 2017 pochowano w tym miejscu 113 osób. Osobne cmentarze w bezpośrednim sąsiedztwie głównej metropolii służyły pochówkom belgradzkich Żydów: aszkenazyjskich i sefardyjskich.
W czasie bombardowania Belgradu w czasie I wojny światowej, cmentarz doznał wielu zniszczeń. W 1954 w sąsiedztwie cmentarza powstał Cmentarz Wyzwolicieli Belgradu, projektu Bogdana Bogdanovicia i Svetislavy Ličiny, na którym pochowano partyzantów poległych w czasie II wojny światowej. W 1965 powstała Aleja Zasłużonych, projektu Svetislavy Ličiny, na której chowano osoby o szczególnych zasługach dla Belgradu.