Podobnie jak Rapture, Columbia jest antyutopią, ale znaki w grze sugerują raczej obecność teokratycznego rządu sprawującego władzę. Poza tym można znaleźć w nim koncepcje czystości rasowej, takie jak nazizm, jingoizm i ksenofobię. Jeden z przedmiotów znajdujący się w paczce dla prasy zawierał kwestionariusz należący rzekomo do jednego z imigrantów, który przybył na Columbię. Według niego, osoby pochodzące z Europy i Irlandii musiały podać bardzo szczegółowe informacje takie jak wyznanie i dane dotyczące eugeniki. Kolejnym ciekawym elementem jest plakat propagandowy głoszący: „wszyscy musimy zadbać o czystość naszego narodu!” („we must all be vigilant to ensure the purity of our people!”). Columbia została porównana do skrzyżowania steampunku z Miastem w Chmurach na planecie Bespin z Gwiezdnych wojen oraz do statków powietrznych z serii Final Fantasy, jednak Ken Levine porównał uzbrojone miasto do Gwiazdy Śmierci.
Fabuła gry Akcja gry ma miejsce w 1912 roku. Gracz wciela się w Bookera DeWitt'a, skompromitowanego byłego detektywa Agencji Pinkertona, wyrzuconego z powodu zachowania, którego Agencja nie mogła zaakceptować.