Wiadukt połączył dwie dotąd niezależne części ulicy: górną, na skarpie, przy ulicy Krakowskie Przedmieście, i dolną nad rzeką (Powiśle). Powstanie wiaduktu w ciągu ulicy Karowej wynikało z potrzeby przebudowy całej ulicy. Do 1895 była to wąska uliczka o szerokości 3 m, ostro opadająca ku Wiśle. Od strony Krakowskiego Przedmieścia uliczka zamknięta była bramą wzniesioną w 1856 według projektu Henryka Marconiego. Pierwotnie ulica ta nie była miejscem reprezentacyjnym, istniał przy niej zakład oczyszczania miasta, a ulica służyła do zwożenia śmieci. W planach projektowano bulwary, szerokie arterie, parki i luksusowe kamienice. Okolica wiaduktu miała stać się prestiżowa. Zmiany zachodziły powoli, a inwestycji nie zrealizowano. Zmiany pojawiały się wraz z budową i pracami wykończeniowymi wiaduktu.