vignette|Couverture bleue de l'édition de l'International AI Safety Report 2025, pour le Sommet pour l'action sur l'intelligence artificielle (janvier 2025, Paris).

Le Rapport international sur la sécurité de l'IA (International AI Safety Report) présente une vue d'ensemble des progrès, usages, impacts économiques et enjeux sociétaux des diverses formes d'intelligences artificielles polyvalentes, en particulier l'IA générative. Il est commandé par les 30 nations participant au « Sommet sur l'intelligence artificielle de 2023, sur la sécurité et sur la réglementation de l'intelligence artificielle » qui s'est tenu à Bletchley Park, pour notamment alimenter les discussions au « Sommet pour l'action sur l'intelligence artificielle » en à Paris..

Périodiquement mis à jourExemple : .. et publié pour sa première version en , il est rédigé par un groupe international d'experts chargé d'évaluer les risques liés aux systèmes d'intelligence artificielle avancés. Ce rapport constitue un document de référence mis à disposition des gouvernements, des entreprises et des chercheurs pour comprendre et anticiper l'évolution rapide de l'IA..

Histoire et contexte En , aux États-Unis, la Food and Drugs Administration (FDA) approuve 223 dispositifs médicaux utilisant l'IA (contre 6 en 2015), et les voitures autonomes deviennent courantes ( la société de transports automatisés Waymo assure plus de trajets autonomes par semaine).

pour influencer des élections à grande échelle en ciblant les électeurs via des algorithmes de profilage psychographique et de « persuasion »., fondés sur les données d'environ 87 millions d’internautes volées sur Facebook)..... En 2024, les agences fédérales américaines introduisent 59 règlementations nouvelles liées à l'IA , publiées par deux fois plus d'agences.

En 2025, l'administration Trump, revient parfois en arrière ou freine les règlementations, alors que les capacités de l'IA et son usage (aux États-Unis, 78 % des entreprises disent utiliser l'IA, contre 55 % l'année précédente) évoluent exponentiellement, bien plus vite que les processus législatifs. La sécurité et l'éthique progressent mais lentement : les incidents liés à l'IA augmentent et peu d'entreprises appliquent des évaluations de sécurité standardisées considérées comme de bonnes pratiques.

Ce rapport fait suite à une publication provisoire de . Sa gouvernance est similaire à celle du GIEC dans le domaine du réchauffement climatique. C'est la première tentative coordonnée, à l'échelle mondiale, de synthétiser l'état des connaissances scientifiques sur les risques induits par le développement rapide et l'usage exponentiel de l'IA, et sur les stratégies d'atténuation des risques existantes, afin d'éclairer les débats et actions sur le sujet..

Rédacteurs La rédaction du rapport est dirigée par une centaine de spécialistes issus de trente pays, ainsi que de représentants de l'Union européenne, de l'Organisation de coopération et de développement économiques (OCDE) et de l'ONU. La première version du rapport est rédigée par 96 experts, dont 30 nommés par l’Organisation de coopération et de développement économiques, l’Union européenne et les Nations Unies (ONU). L'un de ses principaux contributeurs (et le pilote du rapport) est le chercheur Yoshua Bengio (qui préside de groupe), notamment reconnu pour ses travaux sur l'apprentissage profond qui ont permis l'émergence des dernières générations d'IA générative.

Objectifs Le rapport se concentre ..

Ce travail part du principe que dans les années 2020, les progrès de l'IA polyvalente sont rapides et parfois inattendus, alors que cette technologie .

Il vise à : établir une base scientifique commune sur les risques actuels et futurs de l'IA, la technologie qui semble promise à devenir , mais non sans risques. Ce rapport vient compléter la publication de l'Indice (Index) de l'IA de l'université Stanford, qui se présente comme l'une des visions les plus complètes, objectives, impartiales, rigoureusement vérifiées et issues de sources larges, relatives au progrès technique de l'IA, à son influence économique et à son impact sociétal. ; identifier les limites des approches de sécurité existantes ; proposer des orientations pour la gouvernance internationale de l'IA.

Principaux risques identifiés Le rapport distingue trois grandes catégories de risques : risques non intentionnels : erreurs, dysfonctionnements ou comportements imprévus des systèmes d'IAVoir la Section 2.2: Technical failures du Rapport. ; risques d'utilisation malveillante (cyberattaques, manipulation de l'information, détournement d'outils d'IA à des fins nuisibles) ; Le rapport souligne que les systèmes d'IA sont déjà et peuvent l'être plus encore détournés pour un large éventail d'activités hostiles, dont, par exemple, des escroqueries de grande ampleur, des cyberattaques et la création de deepfakes sexualisés qui exposent de manière disproportionnée et croissante les femmes et les enfants au harcèlement, à la coercition et aux abus. Le rapport rappelle aussi que les systèmes d'IA peuvent être utilisés pour manipuler l'opinion publique à grande échelle grâce à des campagnes d'influence sophistiquées et via une désinformation ciblée, en particulier lors d'élections ou de crises politiques. De plus, des IA de plus en plus puissantes pourraient aider des acteurs malveillants à développer ou renforcer des menaces biologiques pouvant déboucher sur des pandémies possiblement bien plus graves que les précédentes ; risques systémiques : perturbations économiques et sociales, notamment la perte d'emplois due à l'automatisationVoir la section Section 2.3: Systemic risks du Rapport..

Approches d'atténuation Le rapport passe en revue les méthodes actuelles de réduction des risques, incluant : les techniques de robustesse et de fiabilité des modèles ; les protocoles d'évaluation avant déploiement ; les cadres règlementaires émergents ; les limites des approches existantes, notamment face aux systèmes très avancés.

Gouvernance internationale Le rapport appelle à une coopération mondiale renforcée, estimant que les risques liés à l'IA dépassent les capacités d'action des États pris individuellement. Il recommande la création de mécanismes de coordination, de partage d'informations et de normes communes.

Réception Le rapport a suscité un intérêt important dans les milieux scientifiques et politiques. Il est considéré comme une étape majeure dans la structuration d'un débat international sur la sécurité de l'IA, bien que certains observateurs soulignent la difficulté d'appliquer ses recommandations dans un contexte de compétition technologique mondiale.

Selon Roel Dobbe (chercheur en Sécurité des systèmes d'IA)., ce rapport explique a juste titre qu’il faut utiliser une approche systémique de « sécurité des systèmes » qui pense et regarde l’IA comme un ensemble complet (avec ses aspects techniques mais aussi humains et organisationnels) pour produire un « cadre socio-technique ». élargi et solide capable de corriger les limites des approches purement techniques ; cela aiderait aussi à dépasser les faiblesses de la loi européenne sur l’IA et à mieux guider les investissements publics vers une IA utile et sûre pour la société..

Suites Mi 2025, dans la continuité du International AI Safety Report, et à la suite d'une conférence internationale SCAI dite du « Consensus de Singapour » ayant réuni des chercheurs en IA et des représentants de plus de trente pays ainsi que d’organisations internationales, un autre rapport international Singapore Consensus on Global AI Safety Research Priorities, a été publié. Il vise à définir des priorités communes pour la recherche en sécurité de l’IA, en s’appuyant sur une approche de « défense en profondeur » qui distingue trois types de défis (liés au développement, à l’évaluation et au contrôle des systèmes avancés). Ce rapport rappelle et confirme que les progrès rapides de l’IA créent des risques non intentionnels, des risques d’usage malveillant et des risques systémiques. Il appelle à la construction urgente d’un écosystème de confiance plus favorable à la fiabilité, la robustesse et la sécurité des systèmes d’IA de plus en plus autonomes et performants..

Notes et références Notes

Références

Voir aussi Bibliographie .

Articles connexes Gouvernance de l'Internet Yoshua Bengio Alignement des intelligences artificielles Conséquentialisme Gelée grise Intelligence artificielle digne de confiance Intelligence artificielle générale Philosophie de l'intelligence artificielle Réglementation de l'intelligence artificielle Superintelligence Superintelligence : Paths, Dangers, Strategies Sûreté des intelligences artificielles Système d'armes létales autonome risque existentiel posé par l'intelligence artificielle

Liens externes .

Catégorie:Futurologie Catégorie:Intelligence artificielle Catégorie:Page comportant une illustration générée par une IA