thumb|upright|L’Algebra de Raphaël Bombelli où apparaissent les premières propriétés des nombres complexes (1572). L'histoire des nombres complexes commence vers le milieu du avec une première apparition en 1545, dans l'œuvre de Cardan, d'une expression contenant la racine carrée d'un nombre négatif, nombre qu'il appelle sophistiqué. C'est Raphaël Bombelli qui met en place les règles de calcul sur ces quantités que l'on appelle alors impossibles avant de leur donner le nom d'imaginaires.

Durant trois siècles, ces nombres sont regardés avec méfiance, n'en étant pas vraiment mais permettant des raccourcis intéressants tant en algèbre que dans la toute nouvelle branche du calcul infinitésimal. Les mathématiciens du tentent avec audace de généraliser les fonctions de la variable réelle à la variable imaginaire, tantôt avec succès, comme pour l'exponentielle complexe, tantôt avec plus d'aléas, comme pour la fonction racine -ième ou la fonction logarithme complexe.

Durant la première moitié du se succèdent les tentatives de légitimation des nombres complexes comme représentation du plan, ensemble de polynômes ou structure algébrique définie sur des couples de réels. Cependant leur utilité dans tous les domaines de l'algèbre et l'analyse et l'utilisation qu'en font les physiciens, tant en optique que dans le domaine de l'électricité, en avaient déjà fait des outils essentiels des sciences mathématiques et physiques.

Les nombres complexes comme objet algébrique

left|thumb|upright|Girolamo Cardano est le premier mathématicien à imaginer l’existence de racines carrées de nombres négatifs (1545). Les nombres complexes sont nés de confrontations avec des opérations impossibles comme les racines carrées de nombres négatifs. Un des premiers mathématiciens à en imaginer l'existenceOn trouve bien, dans un texte de Héron d'Alexandrie () et dans un texte de Nicolas Chuquet (1484) une racine carrée de nombre négatif, mais Flament les attribue à des erreurs et non à une volonté délibérée de manipulation. est Cardan en 1545 dans son Artis magnae sive regulis algebraicusLivre I, chap. 37, règle 2, p. 67 de ce document à l'occasion de la résolution de l'équation

dont il donne les solutions sous la forme suivante : 5. p. ℞. m. 15 et 5. m. ℞. m. 15 que l'on peut lire comme

et fait observer que le produit de ces deux nombres donne bien 40 tout en reconnaissant que l'équation est, en toute théorie, impossible à résoudre. Il demande au lecteur de faire preuve d'imagination et appelle ces nombres des quantités sophistiquées. Selon Remmert, on ne sait pas si Cardan, en inventant cette écriture, songe particulièrement à résoudre l'équation de degré trois. Mais cet outil va vite s'y révéler très utile. En effet, les formules de Cardan dans la résolution de l'équation

consistent à faire la somme des racines cubiques des deux solutions de l'équation du second degré

Cela nécessite que le discriminant de cette seconde équation soit positif. Or, justement dans le cas où l'équation initiale du troisième degré possède trois solutions réelles, ce discriminant est négatif. Ce qui conduit à la situation paradoxale suivante : quand il y a pléthore de racines, la méthode de Cardan ne peut pas s'appliquer, à moins d'accepter de quitter temporairement le domaine du possible et de travailler sur des nombres imaginaires utilisant des racines carrées de nombres négatifs.

La première formalisation avec règles de calcul sur ces quantités est l'œuvre de Raphaël Bombelli en 1572 dans son Algebra. C'est, selon Dominique Flament, le créateur indiscutable de la théorie des nombres imaginaires. À côté des signes + et – qu'il appelle et , il invente deux autres signes, sortes d'opérateurs qui symbolisent l'ajout ou le retrait d'une racine d'un nombre négatif : et . Ainsi l'expression que l'on note aujourd'hui est notée par Bombelli 2 121. Il évite ainsi la notation troublante que serait . Il définit alors une règle des signes sur le produit de deux quelconques de ces quatre signes. Ainsi, par exemple, (– par – donne +), ( par – donne ) et ( par donne –). Il qualifie les quantités qu'il manipule de plus sophistiquées que réellespiu tosto sofistica che reale mais les utilise pour résoudre l'équation du troisième degré

ce qui l'oblige à trouver les racines cubiques des quantités

C'est ainsi qu'il présente sans expliquer sa méthode comme racine cubique de . Selon Study, Bombelli aurait trouvé ce résultat par tâtonnements sans mettre au point de méthode générale.

thumb|upright|René Descartes les baptise « nombres imaginaires » (1637). Malgré le travail de ces deux précurseurs, à la fin du , ces quantités sophistiquées restent boudées par certains mathématiciens. Ainsi François Viète et Thomas Harriot refusent toute existence aux quantités tant négatives qu'imaginaires et c'est en utilisant la trisection de l'angle que Viète résout l'équation de degré 3. Simon Stevin, quant à lui, les juge inutiles.

Cependant la découverte de ces quantités semble lever l'obstacle des résolutions impossibles des équations de degré deux et de degré quatre. La question naturelle qui se pose est alors : peut-on, à condition d'accepter d'écrire des racines carrées de nombres négatifs, obtenir toujours racines à un polynôme de degré ? C'est la recherche d'une preuve du théorème fondamental de l'algèbre qui va durer deux siècles. Énoncé par Peter Rothe en 1608, par René Descartes et Albert Girard en 1627 et 1629, il est l'objet d'une démonstration qui semble aboutie chez Jean Le Rond d'Alembert en 1746 ; il ne sera démontré par Carl Friedrich Gauss de manière rigoureuse qu'en 1799.

Dans son Invention nouvelle, Girard utilise sans état d'âme ces quantités qu'il appelle solutions enveloppéesEnveloppé est à prendre ici dans le sens de caché, obscur (dictionnaire Robert) pour résoudre l'équation et, à la question « À quoi servent-elles ? », il répond qu'elles permettent de montrer la véracité de la règle (un polynôme de degré 4 possède exactement 4 racines). Quant à Descartes, s'il n'apporte pas de contribution significative à cette nouvelle théorie qu'il n'accepte qu'avec réticenceMateus Araujo Silva, L'imagination dans la Géométrie de Descartes, in Mathématiciens français du , p 85, notes 56, 57, 59, il joue un rôle marquant par sa notoriété : en les citant dans ses écrits, il leur confère un statut officiel à tel point que le qualificatif d’imaginaire dont il les baptise dès 1637 devient leur nom officiel jusqu'en 1831. Cependant, cet adjectif rend bien compte du statut de ces nombres au milieu du : ils sont, certes, utiles mais on s'en méfie car on ne leur accorde aucune réalité.

Calculs sur les nombres complexes Un siècle après leur naissance, les quantités imaginaires commencent à être utilisées par de nombreux mathématiciens. On cherche alors à spécifier leurs règles de calcul et à en isoler la partie réelle. À cette époque encore, un nombre imaginaire se note sans que soit privilégié et la notation rigoureuse de Bombelli n'a pas résisté à la mise en place de la notation symbolique de Viète et Descartes. Sous cette forme, les additions et les multiplications sont simples, les produits et quotients aussi quoique la présence d'une racine carrée négative puisse entraîner certaines erreurs : ainsi voit-on encore, sous la plume d'Euler en 1768<ref>Léonhard Euler, Elements d'algèbre, Volume 1 p 107, règle 148</ref> la règle suivante : = alors que la notation de Bombelli piu di meno R.q. 1 via piu di meno R.q.4 aurait donné meno R.q.4Cette erreur a fait couler beaucoup d'encre car il est clair qu'Euler maîtrisait à cette époque très bien les nombres complexes : pour Flament il s'agit d'une confusion due au désir d'Euler de transposer aux racines carrées des nombres négatifs des règles appliquées aux racines carrées des nombres positifs, pour Cajori , il s'agit d'une erreur d'imprimeur qu'Euler, à la vue faible, n'aurait pas détectée, pour Hamon , il n'y a pas d'erreur car il faut voir le signe racine carrée comme une fonction multiforme (deux valeurs possibles) comme le précise Euler dans la section 150 du même ouvrage ..

La difficulté se présente dans l'extraction de la racine -ième d'un nombre complexe. Cette opération est nécessaire, par exemple pour exhiber les solutions réelles d'une équation de degré 3. Or il se trouve qu'effectivement, il n'est pas possible, en général, d'exprimer les racines d'un polynôme de degré trois en utilisant des radicaux réelsCasus irreductibilis - et que le passage par une trisection d'angle se révèle souvent utile. Gottfried Wilhelm Leibniz se méfie beaucoup de ces - Ainsi on trouve l'élégante et admirable issue dans ce miracle de l'analyse, monstre du monde des idées, presque amphibie entre l'être et le non-être, que nous appelons racine imaginaire - (Leibniz, Specimen novum analyseos pro scienta infiniti crica summa et quadraturas, Acta eruditorium, 1702, p 357) et cherche à les faire disparaître dans des expressions comme + en utilisant sa formule du binôme dès 1675. Son idée est reprise et développée en 1738 par François Nicole, qui donne ainsi la formule suivante : . À cette époque, on ne se préoccupe pas de la convergence des séries proposées et on généralise les formules vues sur des quantités réelles selon le principe de permanencePrincipe consistant à généraliser aux complexes les propriétés connues sur l'ensemble des réels .

La démarche suivie par Abraham de Moivre en 1706 est autre : il établit un lien entre l'extraction d'une racine -ième et la division d'un arc en parties égales, publie en 1730 la formule La formule de Moivre, , est en réalité publiée par Leonhard Euler en 1748 . et affirme, dès 1738, que possède valeurs distinctes, s'appuyant sur les valeurs de obtenues sous la forme où est une circonférence complète. Il met également en pratique cette technique pour résoudre l'équation de degré 5 : = .

Le cas de l'exponentielle d'un complexe se révèle moins problématique. Euler, en 1740, par calcul de limite, établit que :

puis en 1748, énonce sa formule :

Dans la foulée, il exprime ce que vaudrait l'exponentielle d'un nombre complexe, le sinus, le cosinus et la tangente d'un complexe ainsi que leurs fonctions réciproquesL. Euler, Recherches sur les racines imaginaires des équations, Mémoires de l'académie des sciences de Berlin, (1749), 1751, p 222-228, lire en ligne, articles 106, 107, 114a, 116, 119.

thumb|upright|Leonhard Euler fait l’inventaire de tous les calculs réalisables avec les nombres complexes. Il est à l’origine de la notation (1777). Le cas du logarithme d'un nombre complexe va occuper les mathématiciens Jean I Bernoulli, Leibniz, Euler et d'Alembert pendant près d'un demi-siècle. En 1702, Bernoulli et Leibniz décomposent les fonctions rationnelles en éléments simples et les intègrent grâce à la fonction logarithme. Ainsi, pour ,

La tentation est grande de généraliser le processus à des dénominateurs dont les racines sont complexes :

Encore faut-il savoir ce que peut valoir . En 1714, Roger Cotes établit l'égalité :

mais ces expressions, utilisées sans précaution selon le principe de permanence, produisent rapidement des incohérences, en particulier sur la définition de , que Bernoulli s'obstine à vouloir nul malgré les remarques de Leibniz lui faisant remarquer que, valant , devrait valoir . Cette controverse est résolue par Euler, en 1749, dans un texte célèbre, De la controverse entre Mrs Leibniz et Bernoulli sur les logarithmes des nombres négatifs et imaginairesL. Euler, De la controverse entre Mrs. Leibnitz & Bernoulli sur les Logarithmes des nombres négatifs et imaginaires : il existe une infinité de valeurs possibles pour le logarithme d'un nombre complexe, toutes différant de où est une circonférence complète. Seuls les réels positifs possèdent un de leurs logarithmes réel et celui-ci correspond au logarithme classique. La formule générale est plus précisément :

où correspond à tout angle dont le cosinus vaut et le sinus .