Une superintelligence est un agent hypothétique qui posséderait une intelligence de loin supérieure à celle des humains les plus brillants et les plus doués. Un système résolvant des problèmes (comme un traducteur automatique ou un assistant à la conception) est parfois aussi décrit comme « superintelligent » s'il dépasse de loin les performances humaines correspondantes, même si cela ne concerne qu'un domaine plus limité.
S'il existe des scénarios de création de superintelligence biologique, ou de superintelligence collective, la plupart des analyses se concentrent sur la possibilité qu'une intelligence artificielle devienne capable de s'améliorer elle-même, donnant naissance à la singularité technologique ; celle-ci est le sujet d'espoirs (le transhumanisme), mais aussi de craintes de catastrophe.
Le , plus de 800 scientifiques et personnalités politiques demandent l'arrêt du développement de l'intelligence artificielle dite « superintelligence » en raison des risques existentiels qu'elle ferait peser sur l'humanité ; tant qu'il n'y aura pas de consensus scientifique et de cadre législatif strict et démocratiquement décidé. Sam Altman (OpenAI), estime que la superintelligence pourrait émerger d'ici cinq ans, et Mark Zuckerberg investit des dizaines de milliards de dollars dans la recherche d'une « superintelligence ».
Définitions De manière générale, on parle de superintelligence dès qu'un agent dépasse de loin les performances humaines dans une activité intellectuelle. Le philosophe Nick Bostrom définit une « superintelligence » comme . Pour cet auteur, des programmes de jeux de réflexion, tels que Fritz ou AlphaGo, bien que largement supérieurs aux humains, ne méritent ainsi pas d'être considérés comme superintelligents, car ils ne sont compétents que pour une seule tâche. Comme Marcus Hutter avant lui, Bostrom définit la superintelligence comme une supériorité générale dans les comportements ayant un objectif, laissant ouverte la question de capacités telles que l'intentionnalitéVoir l'argument de la chambre chinoise. ou la perception des qualiaVoir la question du problème difficile de la conscience..
La notion de « modèle de frontière » (frontier model) désigne dans ce domaine un système d'IA capable d'une grande variété de tâches complexes dans différents domaines et considéré comme étant à la limite supérieure des capacités technologiques du moment. Un modèle de frontière peut être open source ou propriétaire, mais est souvent généraliste, massif et aux capacités multimodales. Ces modèles sont donc caractérisés par une puissance de calcul, une complexité et un potentiel d'impact particulièrement élevés. Au milieu des années 2020, ce sont des modèles avec de nombreux milliards de paramètres, entraînés sur des volumes massifs de données, capables d'opérations avancées comme le raisonnement complexe, la planification ou l'action autonome (IA agentique). Certains usages ou capacités émergentes soulèvent des enjeux majeurs de sécurité, d'explicabilité, de gouvernance et de contrôle. Ils risquent notamment de faciliter la manipulation de masse, les cyberattaques et la conception d'armes chimiques, biologiques, radiologiques ou nucléaires, ce qui pourrait nécessiter une surveillance règlementaire spécifique et des garde‑fous renforcés. Ce sont aussi les plus coûteux, énergivores et consommateurs de ressources. À partir de 2025, l'écart de performance entre les modèles de frontière fermés et « à poids ouverts » (de l'anglais open weight, signifiant que les paramètres entrainés sont publiquement accessibles, le modèle pouvant ainsi être téléchargé et modifié) semble régulièrement se réduire. Le concept de modèle de frontière a été promu en par le lancement du , créé par des grandes entreprises américaines engagées dans la course à l'IA générale : Google, Microsoft, OpenAI et Anthropic....
Possibilité de créer une superintelligence Les chercheurs sont en désaccord sur les chemins pouvant mener à une superintelligence. Le scénario le plus souvent proposé envisage des progrès en intelligence artificielle (IA), cependant d'autres pensent que les humains évolueront ou modifieront leur biologie pour augmenter radicalement leurs capacités intellectuelles. Certaines analyses de futurologues combinent des éléments de ces deux possibilités, suggérant que les humains pourraient se connecter directement à des ordinateurs, ou même y transférer leur esprit, de façon à permettre une amplification de leurs possibilités.
Superintelligence artificielle vignette|L'intelligence artificielle a réalisé des progrès rapides, en particulier avec les modèles de fondation, commençant à surpasser les capacités humaines sur divers tests..
Des chercheurs, comme David Chalmers, pensent que la superintelligence apparaîtra rapidement après la création d'une intelligence artificielle générale (IAG). Plusieurs scientifiques considèrent l'étude de ces possibilités comme prioritaire, en raison de leurs conséquences sociétales et sociales.
Certains logiciels sont capables de se reprogrammer pour s'auto-améliorer. Ils peuvent contribuer au scénario connu sous le nom d'explosion d'intelligence, proche du concept de singularité technologique..
Nick Bostrom écrit que l'IA possède de nombreux avantages sur le cerveau humain: Vitesse de calcul : les neurones biologiques opèrent à une fréquence allant jusqu'à 200 Hz, là où les ordinateurs peuvent dépasser . Vitesse de communication interne : les axones transmettent le signal à une vitesse de moins de , là où les ordinateurs transmettent le signal à la vitesse de l'électricité, voire optiquement à la vitesse de la lumière. Évolutivité : l'intelligence humaine est limitée par la taille et la structure du cerveau, et par l'efficacité de la communication sociale, là où les capacités de calcul de l'IA pourraient être augmentées par l'ajout de matériel. Mémoire : notamment la mémoire de travail, qui dans le cerveau humain est limitée à quelques unités d'information à la fois. Fiabilité : les transistors sont plus fiables que les neurones biologiques, permettant une meilleure précision et nécessitant moins de redondance. Duplicabilité : contrairement au cerveau humain, les modèles d'IA peuvent être facilement copiés. Éditabilité : les paramètres et l'architecture d'un système d'IA peuvent être aisément modifiés, comparé aux connexions d'un cerveau humain. Partage de mémoire et apprentissage : Une IA peut apprendre des expériences d'une autre IA de façon bien plus efficace qu'avec l'apprentissage humain.
En , après les performances jugées décevantes de son modèle Llama 4, Meta lance le Meta Superintelligence Labs (MSL), dirigé par Alexandr Wang (ancien dirigeant de Scale AI). Ce labo est créé avec un investissement de base de 14 milliards de dollars, pour 49 % du capital de sa société. Mark Zuckerberg a aussi recruté plusieurs chercheurs de haut niveau, dont Lucas Beyer, Alexander Kolesnikov et Xiaohua Zha. Le laboratoire disposera de 50 des meilleurs experts en IA, certains ayant des salaires annuels atteignant les 9 chiffres. Meta a prévu d'investir jusqu'à 65 milliards de dollars en IA rien que pour 2025. Cette initiative émerge dans un contexte de rivalité croissante entre géants du numérique..
Une autre approche pour la conception d'une superintelligence consiste à émuler un équivalent de cerveau humain, mais doté de circuits électroniques, permettant une meilleure rapidité et diverses optimisations. L'intelligence ainsi simulée (jumeau numérique) pourrait en théorie être des millions de fois plus rapide et doué d'un énorme avantage dans la plupart des tâches intellectuelles, en particulier celles demandant des décisions rapides, ou nécessitant de longues chaînes de déductions couvrant de nombreux cas possibles. Un autre avantage des circuits électroniques est leur modularité, permettant d'accroître presque sans limite leur taille et leur complexité. Nick Bostrom, en 2014, considérait aussi que cela pourrait donner naissance à une « superintelligence collective », si l'on peut faire interagir un nombre assez grand d'agents déjà intelligents.
Superintelligence biologique Carl Sagan a suggéré que la généralisation des césariennes et de la fécondation in vitro pourrait permettre aux humains de développer de plus grands cerveaux, que la sélection naturelle pourrait ensuite conduire à une intelligence améliorée.. D'un autre côté, craint au contraire que la diminution des pressions de sélection amène à un déclin de l'intelligence humaine. Il n'y a pas de consensus à ce sujet, et dans tous les cas ces changements seraient lents, comparés à la vitesse des changements culturels.
Des méthodes eugéniques, et plus encore le génie génétique, pourraient améliorer l'intelligence humaine plus rapidement. Bostrom pense que si nous parvenons à comprendre les mécanismes génétiques de l'intelligence, nous pourrons sélectionner des embryons ayant un haut potentiel intellectuel ; itérant ce processus sur de nombreuses générations, les gains pourraient être très importants. Bostrom suggère de plus que le processus pourrait être énormément accéléré en travaillant directement sur les cellules souches embryonnaires ; une organisation sociale convenable d'humains ayant une intelligence exceptionnelle pourrait développer une superintelligence collective.
Les avantages mentionnés plus haut d'une superintelligence artificielle sont cependant moins importants pour une superintelligence biologique, les contraintes physiologiques limitant la vitesse et la taille des cerveaux ; c'est pourquoi les études ont plutôt porté sur des scénarios d'intelligence artificielle. Un compromis intéressant pourrait être la création de cyborgs, associations symbiotiques de l'homme et de la machine. Cependant, Bostrom exprime des doutes sur la faisabilité d'une interface superintelligente, estimant qu'il s'agit d'un problème aussi difficile que de créer une superintelligence artificielle pure.
Histoire et prospective En 1965, le mathématicien Irving John Good (qui fut le statisticien en chef d'Alan Turing durant la seconde guerre mondiale) formule l’idée qu’une machine « ultra‑intelligente » capable de surpasser toutes les capacités humaines pourrait apparaitre, qu'elle pourrait auto-concevoir des versions toujours plus avancées d’elle‑même, ce qui entraînerait une explosion d'intelligence où l’humanité serait rapidement dépassée. Selon lui, une telle machine serait la dernière invention humaine nécessaire — à condition qu’elle reste assez docile pour nous indiquer comment la garder sous contrôle.
Une superintelligence serait notamment capable d'apprendre par elle-même, de gérer efficacement l’incertitude. Elle pourrait extraire des concepts utiles à partir de données sensorielles (acquises de l'environnement) ou internes ou d'un modèle du monde, pour les combiner ensuite dans des raisonnements flexibles.
Turing, postule en 1950 qu'il est possible de créer une « machine enfant », qui pourrait ensuite être progressivement éduquée dans un processus qui serait une forme d’évolution accélérée où l’expérimentateur guiderait les modifications plutôt que de compter sur des mutations aléatoires. Cette idée, concevoir un programme qui acquiert la majeure partie de son contenu par apprentissage plutôt que d'être entièrement préprogrammé dès le départ, s'applique aussi bien aux approches neuromorphiques qu'aux approches synthétiques de l'intelligence.