De la manière dont les nombres complexes sont généralement introduits, tout laisse à supposer qu'ils ont été découverts à l'occasion de l'étude des équations du deuxième degré. Rien n'est moins vrai! En effet quel inconvénient y a-t-il à travailler sur les réels (sans faire de complexes!) lorsque l'on se borne au second degré? Les équations ont 0, 1 ou 2 racines; une droite ne coupe-t-elle pas une conique en 0, 1 ou 2 points? Rien dans tout cela ne suggère une extension du corps des réels.
En fait c'est à l'occasion de l'étude des équations du 3e et 4e degré au XVIe siècle (Cardan, Tartaglia, Bombelli,...) que naquirent les nombres complexes. Bien plus tard Hamilton inventa la quaternions qui généralisent, d'une autre manière, les nombres complexes. Voyons la méthode qu'on utilisait à l'époque pour résoudre une équation du 3e degré ax³ + bx² + cx + d = 0.
Remarquons tout d'abord que a n'est pas nul (sinon l'équation est du 2e degré!) et que la somme des racines vaut -b/a; il suffit donc d'augmenter chaque racine de b/3a pour que la somme soit nulle; on peut ainsi finalement se ramener à l'équation x³ + px + q = 0. Posons (sans grande justification) x = u + v; il vient:
u³ + 3u²v + 3uv² + v³ + p(u + v) + q = 0
c'est-à-dire:
u³ + v³ + (3uv + p)(u + v) +q = 0
Utilisons à présent la souplesse que nous avons introduite, en remplaçant l'inconnue x par les 2 inconnues u,v, pour simplifier cette équation; annulons le terme en u + v et il reste:
3uv+p=0
u³ + v³ + q = 0
ce qui peut s'écrire
u³v³ = -p³/27
u³ + v³ = -q
On obtient ainsi u³ et v³ comme solutions d'une équation auxiliaire du 2e degré:
t² + qt - p³/27 = 0
Connaissant u³ (par exemple), chacune des racines cubiques correspondra à une racine cubique de v³, car uv = -p/3. On obtiendra ainsi les 3 racines de l'équation. Oui! mais... nous avons parlé des 3 racines cubiques et cela implique l'utilisation des complexes, sinon on n'obtient qu'une seule racine et encore, pour cela, faut-il que u³ soit réel!
Pour mieux voir ce qui se passe nous allons choisir 3 exemples d'équations du 3e degré en partant de leurs racines. Tout d'abord une équation n'ayant qu'une racine réelle:
(x + 2)(x² - 2x + 2) = 0 ou x³ - 2x + 4 = 0.
Ensuite une équation ayant une racine réelle et une deuxième racine réelle double
(x + 2)(x - 1)² = 0 ou x³ - x + 2 = 0.
Enfin une équation ayant 3 racines réelles
(x + 2)(x - 3)(x + 1 ) = 0 ou x³ - 7x + 6 = 0.
Appliquons la méthode décrite plus haut à la première équation x³ - 2x + 4 = 0. On obtient u³ et v³ comme solutions de l'équation: t² + 4t + 8/27 = 0, d'où les 2 racines -2 ± 10 3 /9,dont les racines cubiques valent-1 ± 3 /3 , donnent pour somme -2, la racine réelle l'équation. Pas encore de raison de s'inquiéter.
Passons à l'équation x³ - 3x + 2 = 0. L'équation auxiliaire est t² + 2t + 1 = 0 qui possède -1 comme racine double u = v = -1 et x = -2. Mais où est passée la racine double x = l ? Bizarre!
Considérons finalement l'équation x³ - 7x + 6 = 0. (Elle possède 3 racines réelles x = -1, 3 et -2 ). L'équation auxiliaire en t est: t² - 6t + 343/27 = 0, et cette équation n'a pas de racine réelle! Pourtant l'équation du 3e degré possède 3 racines. Que se passe-t-il? Si l'on résout l'équation en t on trouve les solutions t = 3 ± 10 -3 /9 dont il faut extraire les racines cubiques. Calculons-les, mécaniquement, sans trop nous soucier du sens à attribuer à -3. On obtient pour u: 3/2 + -3 /6,-1/2 - 5 -3/ 6 et -1 + 2 -3 /3; en calculant les valeurs correspondantes pour v et en sommant on trouve bien les 3 racines 3, -1, -2.
Il se fait que c'est cette contradiction entre d'une part, l'existence des 3 racines, et d'autre part la non-existence des racines de l'équation auxiliaire, qui a conduit à la découverte des nombres complexes. Bien entendu il a fallu prendre des précautions, par exemple ne pas trop manipuler le symbole -1; chacun connaît le paradoxe:
Cependant cette contradiction a mené à une grande découverte.
Remarquons que ce chemin n'est pas un cas isolé dans l'histoire des sciences; que l'on songe au principe d'inertie de Galilée, à la relativité restreinte d'Einstein (invariance de la vitesse de la lumière), à la mécanique quantique (seuils d'énergie), à la théorie des ensembles (hypothèses du continu) etc.
Il semble, hélas, qu'à l'heure actuelle les mathématiciens évitent trop souvent de voir les contradictions; ils ont tendance à les rejeter. Pourtant elles sont génératrices de progrès et, heureusement, existeront toujours.