pośrednio zajmują się nim również teoria liczb oraz kryptografia.)
Do XIX wieku zgodnie z myślą Arystotelesa matematycy zajmowali się wyłącznie zbiorami skończonymi. Nieskończoność traktowano jako proces, który można w razie potrzeby bez przeszkód kontynuować. Np. w geometrii euklidesowej prostą traktowano jako odcinek, który można nieograniczenie przedłużać.
Przełom przyniosły prace Georga Cantora, który potraktował zbiory nieskończone jako byty o własnej hierarchii (zob. nieskończoności potencjalną i aktualną). Trudności istniejące w początkowej fazie rozwoju teorii spowodowały opór w postaci finityzmu, konstruktywizmu czy intuicjonizmu; w szczególności odrzucano pojęcie nieskończoności aktualnej (zob. aksjomat Cantora, nazywany też aksjomatem nieskończonościAksjomat ten wzbudza kontrowersje, gdyż jest niezależny od pozostałych aksjomatów Zermela-Fraenkla teorii mnogości – również aksjomatu wyboru – o ile są one niesprzeczne (zob. twierdzenie Gödla).).
We współczesnej matematyce rozpatruje się z powodzeniem zbiory nieskończone, choć pojawiają się tu różne, nieoczekiwane, nieintuicyjne własności (np.