Długotrwałe eksponowanie kamiennych zabytków na otwartej przestrzeni narażało je na działanie czynników atmosferycznych i zanieczyszczeń. W związku z tym większość rzymskich obiektów związanych bezpośrednio z Tergeste przeniesiono do pomieszczeń w odrestaurowanym Bastionie Lalio. Nowe Lapidarium Tergestyńskie otwarto 4 kwietnia 2001 roku.
Ekspozycję urządzono w czterech pomieszczeniach Bastionu Lalio, określanych również jako Sotterraneo Lalio. Dwie pierwsze sale poświęcono zabytkom z reprezentacyjnego centrum Tergeste, trzecia obejmuje materiały z teatru, miejsc kultu i nekropolii, natomiast w czwartej umieszczono zabytki pochodzące z rzymskiej willi w Barcoli.
Zbiory Miasto i monumentalne centrum Pierwsza sala przedstawia rozwój Tergeste jako miasta rzymskiego. Znajdują się w niej inskrypcje upamiętniające budowę murów i wież miejskich w latach 33–32 p.n.e., elementy pomników honorowych oraz kamienne fragmenty związane z budowlami publicznymi i sakralnymi.
Do najważniejszych eksponatów należy podstawa pomnika konnego Lucjusza Fabiusza Sewera, mieszkańca Tergeste, który osiągnął godność senatora rzymskiego.