thumb|Exemple de killer robot « Miloš » ; monté sur chenilles, et ici tracté par un véhicule militaire lors d'un exercice et défilé militaire de Sloboda en Serbie (2019, sur l'aéroport militaire « Colonel-pilote Milenko Pavlović »). thumb| Concept (image de synthèse) pour un navire armé autonome Hunter-Killer (élément de narratif pour un concours international de robotique).

La course aux armes et systèmes d'armements pilotés par intelligence artificielle est le prolongement récent de la course aux armements. Elle vise cette fois à développer et déployer des armes plus ou moins autonomes, dont des systèmes d'armes létales autonomes (LAWS) qui « peuvent réagir plus rapidement, plus efficacement et de manière moins prévisible.

Depuis le milieu des années 2010, de nombreux analystes constatent ou dénoncent l'émergence d'une nouvelle course à l'IA militarisée et aux armements autonomes, entre superpuissances mondiales...

Cette tendance est soutenue par une nouvelle guerre froide entretenue par des tensions géopolitiques et militaires croissantes et par l'industrie de l'armement ; parfois décrite comme s'inscrivant entre les États-Unis, la Russie et la Chine..

Sémantique Divers systèmes d'armes létales autonomes peuvent déjà ou potentiellement utiliser l'intelligence artificielle pour identifier et tuer des cibles matérielles et/ou humaines sans intervention humaine ou avec une intervention réduite et à distance..

Les LAWS sont parfois aussi appelés « robots tueurs ».

Certains auteurs estiment que toute compétition pour une IA supérieure relève d'une « course aux armements » dans le contexte de guerres économiques, psychologiques, civiles.. Les enjeux et risques de l'IA militaire chevauchent ceux d'autres secteurs (des États aux entités politique ou mafieuses) recherchant du pouvoir en termes socio-économiques et/ou militaires.

Le cyberespace est devenu le « cinquième champ de bataille ». Là, des IA, parfois en compléments de cyberattaques ciblant des gouvernements, administrations, banques, industries, hôpitaux et autres infrastructures, sont utilisées par certains pays, comme arme offensive et/ou défensive, pour psychologiquement « persuader, changer, influencer » des partenaires, concurrents et adversaires, ou pour truquer des élections Ces opérations (Opérations psychologiques (Psyops), de guerre psychologique créent des « armes désinformationnelles » s'inscrivant parfois dans une « guerre hybride » Treverton, G. F., Thvedt, A., Chen, A. R., Lee, K., et McCue, M. (2018). Addressing hybrid threats.. Ces opérations, bien qu'en partie immatérielles, sont aussi susceptibles de conduire à une escalade de la violence numérique et de la polarisation politique des sociétés..

Histoire thumb|Les robots armés, même non-autonomes inquiètent les citoyens, comme le montre cette campagne contre les « robots tueurs », à Londres, en avril 2013. thumb|En 2022, sur les marches de l'hôtel de ville de San Francisco, des citoyens protestent contre un vote du conseil autorisant la police à utiliser de telles armes. thumb|Jody Williams invitée sur TedX ; militante américaine, prix Nobel de la paix 1997 (avec 20 autres Nobels de la paix), plaide pour préventivement interdire les systèmes d'armes létales intelligents et autonomes. La militarisation de l'IA a longtemps relevé de la science-fiction, mais ce n'est plus le cas : selon Siemens, les dépenses militaires mondiales en robotique s'élevaient à 5,1 milliards de dollars américains en 2010, et à 7,5 milliards en 2015...

En 2013, Christof Heyns, rapporteur spécial des Nations unies sur les exécutions extrajudiciaires, sommaires ou arbitraires, déplore un début de course aux armements intelligents, autonomes et robotisée et appelle à un moratoire sur le développement de ces armes.

En 2014, des représentants de dizaines de pays se réunissent à Genève pour étudier la possibilité de limiter ou interdire de telles armes, via la Convention sur certaines armes classiques. Dans le New-York Times, John Markoff cite Steve Omohundro, expert en IA au laboratoire de recherche « Self-Aware Systems » (Systèmes auto-conscients) de Palo Alto qui alerte sur . Markoff note que ..

Dans les années 2010, la Chine devient un acteur majeur de la recherche sur l'intelligence artificielle. En 2016, pour la première fois, elle publie plus d'articles sur l'IA que toute de l'Union européenne. Et si l'on se limite au nombre d'articles sur l'IA figurant dans les 5 % des articles les plus cités, elle dépasse les États-Unis en 2016 (tout en restant derrière l'Union européenne). 23 % des chercheurs présentés à la conférence 2017 de l'American Association for the Advancement of Artificial Intelligence (AAAI) étaient chinois.. Selon Eric Schmidt (ancien président d'Alphabet), la Chine sera leader en matière d'IA avant 2025..

+ Origine AAAI Pays en 2012 en 2017 USA 41% 34% Chine 10% 23% Royaume-Uni 5% 5%

Un groupe de scientifique a créé un Comité international pour le contrôle des armes robotiques qui préconise d'importantes restrictions à lusage de robots militaires. Une question qu'ils jugent cruciale est .

Risques Un premier risque est que dans la course à l'IA (qu'elle soit ou non remportée par un groupe), des Etats, des entreprises de l'armement, ou des équipes de développeurs soient tentés de prendre des raccourcis concernant la sécurité des systèmes, ou le bien commun, ou soient victimes de biais algorithmiques accru... Cette dangereuse prise de risque est encouragée par l'idée qu'être le premier à développer une technologie avancée d'IA est un avantage décisif ; une idée qui peut encourager d'autres équipes à avancer sans précautions suffisantes, et à déployer un système d'armes autonomes avant qu'il soit sécurisé et prêt. Certains soutiennent que l'utilisation de la terminologie « course » dans ce contexte peut exacerber cet effet de fuite en avant..

Un autre risque et danger est de relancer une nouvelle et coûteuse course aux armements au moment où les crises climatiques, énergétiques, sociales et de la biodiversité s'accumulent, et pourraient rendre rapidement nécessaires des investissements importants.

Un risque émergent et d'un genre nouveau est celui de créer une ou plusieurs IA à vocation militaire dont une personne, une entité (gouvernementale ou autre) perdrait le contrôle. Ce risque est aggravé dans le cas d'une course à l'intelligence artificielle générale (IAG), qui peut, de l'avis d'un nombre croissant d'experts, présenter un risque existentiel pour l'humanité.

Un autre risque est qu'un groupe ou une entité illégitime, malveillante, mafieuse, totalitaire gagne ou détourne cette course à l'IA militarisée, en rompant les équilibres géostratégiques. Un système d'armes intelligentes, voire autonomes, pourrait conférer un avantage technoscientifique sans commune mesure avec les systèmes de pouvoir, d'armement ou d'asservissement du passé, et extrêmement dangereux si détenu par un seul groupe ou de quelques groupes de ce type. Un rapport du gouvernement américain affirme que, par exemple, « les capacités basées sur l'IA pourraient être utilisées pour menacer des infrastructures critiques, amplifier les campagnes de désinformation et faire la guerre »., et que « la stabilité mondiale et la dissuasion nucléaire pourraient être compromises ».

La désinformation est aujourd'hui mondialisée. Elle ne peut être combattue aux seules échelles nationales ; mais le droit international peine à suivre l'évolution très rapide des capacités d'Intelligences artificielles militarisées.

Positions envers l'intelligence artificielle militarisée

Russie Le général russe Viktor Bondarev, commandant en chef de l'armée de l'air russe, a déclaré que dès , la Russie travaillait sur des missiles guidés par l'IA qui pourraient décider de changer de cible en cours de vol.. La Commission militaro-industrielle de Russie a approuvé des plans visant à tirer 30 % de la puissance de combat de la Russie de plates-formes robotiques télécommandées et compatibles avec l'IA d'ici 2030.. Les rapports des médias russes parrainés par l'État sur les utilisations militaires potentielles de l'IA se sont multipliés à la mi-2017Why Elon Musk is right about the threat posed by Russian artificial intelligence |url=https://www.independent.co.uk/life-style/gadgets-and-tech/news/elon-musk-ai-artificial-intelligence-world-war-three-russia-china-robots-cyber-warfare-replicants-a7931981.html ; consulté le 24 déceembre 2017 ; The Independent du 6 Septembre 2017 et en , le PDG du groupe russe Kronstadt, un sous-traitant de la défense, déclarait qu '«il existe déjà des systèmes d'exploitation d'IA complètement autonomes qui fournissent les moyens aux groupes de drones, lorsqu'ils remplissent des missions de manière autonome, partagent des tâches entre eux et interagissent», et qu'il est inévitable que des « essaims de drones » survolent un jour les zones de combat.. Cette même année, selon la BBC, la Russie a testé plusieurs systèmes de combat autonomes et semi-autonomes, dont un module de combat « réseau neuronal » de Kalachnikov, avec une mitrailleuse, une caméra et une IA qui, selon ses fabricants, peuvent prendre ses propres décisions de ciblage sans intervention humaine..

En , lors de la Journée nationale du savoir, devant plus d'un million d'élèves dans écoles russes, le président russe Vladimir Poutine a déclaré : . Vladimir Poutine a aussi dit qu'il serait préférable d'empêcher un seul acteur d'obtenir un monopole, mais que si la Russie devenait le leader de l'IA, elle partagerait sa ....

Plusieurs entités russes sont consacrées au développement de l'IA militaire ; et en , le gouvernement a publié un programme d'IA en 10 points, appelant à créer un consortium IA et Big Data, un fonds pour les algorithmes et programmes analytiques, un programme de formation et d'éducation en IA soutenu par l'État, un laboratoire dédié à l'IA et un Centre national pour l'intelligence artificielle, entre autres initiatives.. Puis une organisation de recherche sur la défense (une sorte d'équivalent de la DARPA, dédiée à l'autonomie et à la robotique, appelée Fondation pour les études avancées, a lancé une conférence annuelle sur la « robotisation des forces armées de la fédération de Russie »...

L'armée russe étudie diverses applications de l'IA (véhicules semi-autonomes et autonomes notamment). Le , Viktor Bondarev, militaire président du Comité de défense et de sécurité du Conseil de la fédération, a déclaré que « l'intelligence artificielle pourra remplacer un soldat sur le champ de bataille et un pilote dans le cockpit d'un avion », et a noté plus tard que "Le jour approche où les véhicules seront dotés d'une intelligence artificielle". (déclaration faite au moment des tests réussis du Nerehta, un véhicule terrestre électrique de 1,7 t, bas, armé et sans occupants (AUGV) de l’armée russe. Destiné à soutenir l'infanterie, il peut être équipé de chenilles ou de roues, d’une mitrailleuse lourde de calibre 12,7 mm, d’une mitrailleuse moyenne Kalachnikov de 7,62 mm ou d’un lance-grenades automatique AG-30M de 30 mm ou transporter jusqu'à 700 kg de charge utile ; il aurait « surpassé les véhicules de combat [avec équipage] existants ». C'est aussi une plate-forme de R&D pour la militarisation de l'IA. Il pourrait prendre part à des combats, mais aussi faire du renseignement et/ou piloter de la logistique.. Un module russe de combat pour véhicules terrestres sans équipage, capable d'identifier de manière autonome des cibles – et, potentiellement, d'engager des cibles aurait déjà été conçu, et une suite d'armements et systèmes autonomes basés sur l'IA sont envisagés...