Uczeni arabscy mieli w tę dziedzinę ograniczony wkład – w matematyce skupili się na trygonometrii i algebrze, choć ta druga dziedzina później wpłynęła na rozwój teorii liczb.
W XIII-wiecznych Włoszech kupiec Leonardo Fibonacci podał jedną z metod generowania trójek pitagorejskich, a oprócz tego opisał ciąg Fibonacciego, również istotny z punktu widzenia teorii liczb. Problem nieskończoności liczb pierwszych w tym ciągu w lutym 2022 pozostaje otwarty.
XVII wiek mały|Wykres przykładowego równania Pella; zaznaczono również jego podstawowe rozwiązania
XVII wiek to umowny początek nowożytnej teorii liczb i jej statusu samodzielnej nauki. Rozwijał ją wtedy Pierre de Fermat i miał w tej dziedzinie co najmniej pięć znaczących osiągnięć: małe twierdzenie Fermata, na którym opiera się m.in. test pierwszości Fermata; hipoteza zwana Wielkim Twierdzeniem Fermata, udowodniona potem w XX wieku; badania liczb Fermata; wysunął hipotezę, że wszystkie z nich są liczbami pierwszymi. Leonhard Euler obalił ją kontrprzykładem, a do tej pory (luty 2022) nie znaleziono żadnego dalszego przykładu liczby pierwszej Fermata.