Miasto w tym czasie (zwane wówczas Cattaro), uzyskało typową, zachowaną do dziś, architekturę wenecką. Wybudowano wówczas łańcuch murów obronnych, który prowadził ze wzgórza nad miastem aż do morza, zapewniając miastu ochronę. Kotor, choć był oblegany przez Imperium Osmańskie w 1538 i 1657 roku, dzięki swoim murom obronnym nie został zdobyty. Przetrwał także zarazę w 1572. Został jednak mocno zniszczony przez liczne trzęsienia ziemi (1537, 1563, 1667 i 1729).
Po upadku Republiki Weneckiej i pokoju w Campo Formio w 1797 r. Kotor (wraz z całym regionem) stał się częścią Monarchii Habsburgów. W ciągu następnych kilkunastu lat epoki napoleońskiej miasto zajmowały różne wojska, wpierw francuskie, później rosyjskie, potem ponownie francuskie. Te ostatnie skapitulowały 5 stycznia 1814 r. po ataku dwóch statków (HMS Saracen i HMS Bacchante) brytyjskiej marynarki. Po Kongresie wiedeńskim w 1815 r. Kotor (wraz z całym regionem) stał się częścią Królestwa Dalmacji, będącego krajem koronnym Cesarstwa Austrii. W trakcie I wojny światowej Kotor był jedną z trzech głównych baz austro-węgierskiej marynarki wojennej i portem macierzystym austriackiej Piątej Floty, składającej się z ówczesnych pancerników (tzw. przeddrednotów) i lekkich krążowników. W lutym 1918 r. w Zatoce Kotorskiej wybuchł bunt 5 tys.