thumb|250px|Photographie de la tablette YBC 7289 annotée. Les nombres écrits dans le système babylonien donnent la racine carrée de 2 avec quatre chiffres sexagésimaux significatifs, soit près de six chiffres décimaux :1 + 24/60 + 51/602 + 10/603 = 1,41421296... (crédit : Bill Casselman). Les mathématiques mésopotamiennes sont les mathématiques pratiquées par les peuples de l'ancienne Mésopotamie (dans l’Irak actuel), depuis l'époque des Sumériens jusqu'à la chute de Babylone en . Alors que l'on ne dispose que de très rares sources sur les mathématiques en Égypte antique, notre connaissance des mathématiques babyloniennes s'appuie sur environ 400 tablettes d'argile mises au jour depuis les années 1850. Écrites en cunéiforme, ces tablettes furent travaillées sur de l'argile encore humide, puis cuites dans un four ou séchées au soleil. La plupart des tablettes qui nous sont parvenues datent de 1800 à , et traitent de fractions, d’équations algébriques (équations du second degré et du troisième degré), de calculs d'hypoténuse et de triplets pythagoriciens voire, peut-être, de certaines lignes trigonométriques (cf. notamment la tablette Plimpton 322). La tablette YBC 7289 fournit une approximation de précise à six décimales près. Ces tablettes dérivent de la technique ayant donné les premières écritures de nombres : les bulles-enveloppe ou bulles comptables qui contenaient initialement les calculi.
Numération
À côté de systèmes de numérations hybrides utilisés en métrologie, les Mésopotamiens possédaient un système de numération savante destiné aux calculs. Ce système de numération était de type sexagésimal (« base 60 »). C'est d'ailleurs des Babyloniens que nous avons hérité l'usage de diviser les heures en soixante minutes, et chaque minute en 60 secondes, et aussi de diviser la circonférence d'un cercle en 360 degrés représentant 6 angles de triangle équilatéral de 60° (360=6×60) . Le développement des mathématiques chez les Babyloniens tient à deux choses ; tout d'abord, au fait que le nombre 60 est un nombre hautement composé, dont les nombreux diviseurs : 2, 3, 4, 5, 6, 10, 12, 15, 20, et 30, facilitent les calculs de fractionsCf. Caveing, Le matin des mathématiciens, p. 14. ; ensuite, à ceci que, contrairement aux Égyptiens et aux Romains, les Babyloniens (comme plus tard les Indiens) disposaient d'un authentique système à numération de positionCf. Taton, pp. 51-54., où les chiffres les plus à gauche représentent les plus grandes valeurs (exactement comme dans notre système décimal : 734 = 7×100 + 3×10 + 4×1).
Pour écrire en base soixante, il faut disposer de 59 signes ou « chiffres » (le zéro étant représenté par une place vide). Pour écrire ces « chiffres », deux symboles étaient utilisés : (un clou) pour désigner l'unité et (un chevron) pour la dizaine, combinés de manière additive (par juxtaposition de 1 (clou) et de 10 (chevron)). On écrivait plusieurs pour les « chiffres » jusqu'à neuf et plusieurs pour les dizaines, jusqu'à cinq dizaines.
Le nombre 557 qui correspond à 9 soixantaines et 17 unités, est alors écrit . Par la suite, les spécialistes de mathématiques babyloniennes le noteront 9:17 (on retrouve ici la notation usuelle pour les heures, ainsi 9h et 17 minutes correspondent à 557 minutes).
Les Babyloniens écrivaient de la même manière les nombres égaux à un facteur 60 près. Ainsi, la notation précédente est également utilisée pour écrire 557×60, ou .
Les mathématiques sumériennes (3000-2300 av. J.-C.) Les premières traces d'écrits mathématiques remontent aux anciens Sumériens, qui développèrent la première civilisation de Mésopotamie. Ils mirent au point une métrologie élaborée dès À partir de , ils dressent des tables de multiplication sur des tablettes d'argileCf. Maurice Caveing, Le Matin des mathématiciens, p. 10. et mettent par écrit des énoncés de problèmes géométriques et de division. C'est aussi de cette période que datent les premiers témoignages de numération babylonienne..
Les mathématiques dans l'ancienne Babylonie (2000-1600 av. J.-C.) C’est à la période paléo-babylonienne que se rattachent la plupart des tablettes à contenu mathématique, ce qui explique d'ailleurs pourquoi on a coutume d'appeler les mathématiques de Mésopotamie « mathématiques babyloniennes ». Certaines tablettes comportent des listes ou des tableaux de nombres, d'autres des énoncés de problèmes et leur solution.
Arithmétique Conversions Une des tâches des scribes consistait à convertir les nombres écrits à l'aide des divers systèmes métrologiques en notation sexagésimale savante afin de pouvoir effectuer les calculs. On trouve, à cet effet, de nombreuses tables de conversions métrologiques.
Additions et soustractions Le fait d'effectuer des additions ou des soustractions ne présente pas de difficulté particulière.
Multiplication La multiplication nécessite l'apprentissage de tables qui constitue une part non négligeable de l'étude des scribes. Les Babyloniens utilisaient massivement les tables numériques pour le calcul et la résolution de problèmes d'arithmétique. Par exemple, deux tablettes trouvées à Senkerah sur l’Euphrate en 1854, datées de , sont des listes des carrés d’entiers jusqu'à 59 et de cubes jusqu’à 32. On trouve même une demi-douzaine de tables listant les 10 premières puissances de certains entiers. La formule connue de nos jours comme différence de deux carrés permet aux Babyloniens des multiplications plus aisées, comme : 64 × 56 = 60² − 4² = 3584
Les tablettes en argile des écoles de scribes sont assez peu explicites sur les méthodes de calcul utilisées : la plupart du temps le résultat d'une multiplication est fourni sans aucune trace de calcul. Comme les tables de multiplication trouvées ne concernent pas les 59 chiffres du système sexagésimal, des calculs intermédiaires devaient souvent être nécessaires. Leur absence sur les tablettes laisse supposer l'existence d'un instrument de calcul auxiliaire, Multiplication.
Division thumb|Table d'inverses, Uruk, période séleucide (v. 300 av. J.-C.), musée du Louvre.
Les Babyloniens ne posaient pas de division. Pour ce genre de calcul, ils se ramenaient au produit :
et recouraient à une table d’inverses. L’inverse des nombres n'ayant comme facteurs premiers que 2, 3 ou 5 (appelés « nombres 5-lisses » ou « nombres réguliers ») s'écrit avec un nombre fini de chiffres en écriture sexagésimale : or on a retrouvé un grand nombre de tables donnant les inverses de tels nombres entiers.
Il faut se souvenir que pouvait désigner aussi bien ce que nous noterions 1 que 60 ou 60². Deux nombres étaient inverses l'un de l'autre lorsque leur produit était une puissance de soixante. Ainsi, l'« inverse » de (2) était (30) car 2×30 = 60. La table d'inverses classique était (en base 60 avec deux points ':' pour séparateur des chiffres) : 2 30 16 3:45 45 1:20 3 20 18 3:20 48 1:15 4 15 20 3 50 1:12 5 12 24 2:30 54 1: 6:40 6 10 25 2:24 1 1 8 7:30 27 2:13:20 1: 4 56:15 9 6:40 30 2 1:12 50 10 6 32 1:52:30 1:15 48 12 5 36 1:40 1:20 45 15 4 40 1:30 1:21 44:26:40
où 6:40, qui désigne 6×60+40 est mis en relation avec 9 car 9×(6×60+40) = 3600 = 60². Donc 9 est l'inverse de 6×60+40 au sens babylonien du terme.
Pour les inverses de nombres réguliers plus complexes, les Babyloniens se ramenaient aux inverses des tables. Ainsi trouve-t-on une méthode détaillée pour trouver l'inverse de 2:05 : sachant que l'inverse de 5 est 12, on sait que 2:05 × 12 = 25 ; par conséquent l'inverse de 2:05 est la fraction = 12 × 2:24 = 28:48. Certaines tablettes comme la CBS1215Cf CSBC1215 sur le site CultureMATH utilisent des techniques de factorisation pour trouver l'inverse de nombres réguliers complexes.
Au contraire, des inverses comme 1/7, 1/11, 1/13, etc. n'ont pas de représentation finie en écriture sexagésimale. Il arrive qu'une division par ces nombres irréguliers apparaissent dans des problèmes sur tablettes. Pour une division par 13 par exemple, le scribe remarque que 13 ne possède pas d'inverse et se pose la question « En tel nombre combien de fois 13 ? » Comme ces problèmes sont préfabriqués, dans un but didactique, une réponse sous forme exacte est fournie sans explicationJens Høyrup, L'algèbre au temps de Babylone, Vuibert Adapt-Snes, 2010,. On répertorie seulement deux tablettes (M10David Fowler, Eleanor Robson, «Square Root Approximations in Old Babylonian Mathematics: YBC 7289 in Context», Historia mathematica, 25, 1998, et YBC 10529 Jens Høyrup, Lengths, Widths, Surfaces: A Portrait of Old Babylonian Algebra and Its Kin, Springer Science & Business Media, 2013, p. 29 note 50) présentant des valeurs approchées d'inverses de nombres irréguliers.
Calculs d'intérêts Les calculs d'intérêts composés sont utilisés pour calculer le temps nécessaire au doublement d'un capital, mais cela nécessite de résoudre des équations exponentielles. On n'en trouve qu'une solution approchée, par interpolation linéaire.
Algèbre Outre les calculs d'arithmétique, les mathématiciens Babyloniens imaginèrent aussi des algorithmes pour résoudre certaines équations algébriques. Là encore, ils recouraient à des tables numériques.
Pour résoudre une équation du second degré, les Babyloniens se ramenaient fondamentalement à la forme canonique
où les coefficients b et c ne sont pas nécessairement des entiers, mais où c est toujours positif. Ils savaient que la solution positive (la seule qui avait un sens pour eux) à une équation de cette forme s'obtient par la formule
et se servaient de tables de carrés pour trouver les racines carrées intervenant dans cette formule. Parmi les énoncés concrets pouvant se ramener à ce type de calcul, il y avait celui demandant de trouver les dimensions d’un rectangle connaissant sa surface et l’excédent de sa longueur sur sa largeur.
Certaines équations du troisième degré pouvaient être résolues à l'aide de tables de n3+n2. Par exemple, soit l’équation
Multipliant l’équation par a2 et la divisant par b3, on obtient
Substituant y = ax/b, cela donne
équation que l'on peut résoudre en consultant une table de n3+n2 pour trouver la valeur la plus proche du second membre. Les Babyloniens exécutaient ces calculs sans véritablement poser les opérations algébriques, ce qui témoigne d'une remarquable capacité de concentration. Cependant, ils n'avaient pas d'algorithme général pour résoudre une équation du troisième degré quelconque.
Géométrie thumb|left|Compilation de problèmes géométriques, avec illustrations. Larsa, période paléo-babylonienne. British Museum.
Il est possible que les Babyloniens aient disposé de règles générales pour calculer l'aire et le volume de certaines figures géométriques. Ils calculaient la circonférence du cercle en prenant trois fois le diamètre, et l'aire du cercle en prenant un douzième du carré de la circonférence, ce qui revenait à prendre 3 pour la valeur de , ce que l'on retrouve dans la Bible. Le volume d'un cylindre était calculé en formant le produit de sa base par sa hauteur ; par contre, le calcul du volume du cône tronqué ou de la pyramide à base carrée était incorrect : les Babyloniens formaient le produit de la hauteur par la demi-somme (c'est-à-dire la moyenne) des bases. Ils connaissaient le théorème de Pythagore en tant que formule donne une liste de tablettes en cunéiforme qui utilisent cette « règle de la diagonale » dans , ., sans que l'on ait trace d'une démonstration en tant que telle. On a découvert à Suse, en 1933, une tablette dans laquelle E. M. Bruins et M. Rutten, ont pensé déceler un rapport qui prouverait l'utilisation du nombre sexagésimal 3:07:30 (ou ) comme meilleure approximation de . Otto Neugebauer valide cette interprétation dans son livre, The exact Science of antiquity. tandis qu'Eleanor Robson émet des doutes sur cette interprétation.