Dario Amodei, né en à San Francisco (Californie), est un chercheur et entrepreneur américain en intelligence artificielle (IA). Il est le cofondateur et PDG d'Anthropic, la société à l'origine de Claude, une famille de grands modèles de langage. Sa sœur, Daniela Amodei, en est la présidente. Il était auparavant vice-président de la recherche d'OpenAI... Dario Amodei promeut la recherche en interprétabilité et en alignement de l'IA afin d'améliorer la sureté des intelligences artificielles.

Formation Dario Amodei est diplômé de l'université Stanford et titulaire d'un doctorat en physique de l'université de Princeton. Il était chercheur postdoctoral à la faculté de médecine de l'université Stanford..

Carrière En 2016, Dario Amodei rejoint OpenAI..

En 2021, lui et sa sœur, Daniela Amodei, fondent Anthropic avec d'autres anciens membres expérimentés d'OpenAI, à la suite d'une divergence de point de vue avec la direction.. Selon Karen Hao, il était en désaccord sur l'orientation de plus en plus commerciale de l'entreprise mais aussi sur la réduction des moyens et protocoles de sécurité de l'IA au profit d'une rapidité de déploiement.

En , il met en garde un comité judiciaire du Sénat des États-Unis contre les dangers de l'IA, dont les risques qu'elle présente dans le développement et le contrôle d'armes..

En , lui et sa sœur Daniela sont désignés par le magazine Time comme faisant partie des 100 personnes les plus influentes en intelligence artificielle (Time100 AI)..

En , le conseil d'administration d'OpenAI contacte Dario Amodei en lui proposant de remplacer Sam Altman, et pour éventuellement fusionner les deux startups. Il décline les deux offres..

En 2024, Dario Amodei est de nouveau inclus dans la liste des 100 personnes les plus influentes dans le domaine de l'IA., puis en 2025, toutes catégories confondues (Time 100)..

Karen Hao a décrit Dario Amodei comme une figure centrale de ce qu'elle appelle la « religion de l'IA », et comme ayant eu une trajectoire illustrant une transition d'une approche sécuritaire et éthique vers une course industrielle aux LLM, modérée suite à sa scission avec OpenAI, mais qui selon Hao finit par reproduire une concentration de pouvoir et une dépendance aux capitaux des géants technologiques (Amazon, Google), contribuant ainsi à l'impérialisme des GAFAM et de l'industrie de l'IA américaine que dénonce Hao.... Dario Amodei a ensuite néanmoins été le seul PDG ayant tenu tête à l'administration Trump sur le refus de certains usages militaires de son IA, et il a conservé une équipe travaillant sur l'éthique de l'IA avec plus de transparence que ses concurrents.

Centres d'intérêt En , Dario Amodei se dit intéressé par cinq sujets en liens avec l'IA : , mais .

Dario Amodei considère que les progrès en IA pourraient mener dans quelques années à l'équivalent d'un « pays de génies dans un centre de données ». Il pense que . Selon lui, cependant, ; en parlant par exemple . Selon Amodei, . Il se donne pour règle de ne pas faire de l'IA de la science-fiction, mais écrit néanmoins dans un essai de 2024 qu'il lui est difficile de ne pas s'y référer, au moins un peu : .

Dans ce même essai, Dario Amodei estime que l'IA sera dans le siècle qui vient source de progrès dans quatre dimensions de la santé :

Biologie moléculaire traditionnelle, chimie et génétique ; ensemble, ces progrès pourraient, selon lui, possiblement guérir tout ou partie de nombreuses maladies (y compris infectieuses, cancer et maladies mentales : ) ; Mesures et interventions neuronales de haute précision ; Neurosciences computationnelles avancée ; Interventions comportementales. Il note que .

Il est possible que , et ; .

En 2025, Dario Amodei continue à s'inquiéter de possibles usages « abusifs » ou malveillants, par exemple pour créer des armes biologiques ou cybernétiques, d'.

Lors de l'élection présidentielle américaine de 2024, il soutient Kamala Harris..

Importance et urgence à développer l'interprétabilité de l'IA En , dans un essai, Dario Amodei retrace dix ans d'évolution de l'IA générative, en s'intéressant à ses enjeux économiques et géopolitiques devenus majeurs. L'IA est selon lui « inarrêtable », et il faut prendre au sérieux les préoccupations telles que . Il reprend la métaphore du bus lancé à pleine vitesse qu'on ne peut pas arrêter, mais qu'on peut encore diriger.

Pour déployer l'IA de manière positive. et acceptable pour la société (notamment pour que les démocraties conservent leur capacité à façonner ces technologies face à d'éventuelles dérives autoritaires), il est urgent, selon lui, de résoudre le problème de l'opacité intrinsèque des systèmes d'IA actuels qui (contrairement aux programmes informatiques traditionnels qui suivent les instructions des développeurs) se développent avec l'entraînement et manifestent des mécanismes internes « émergents » qui sont difficiles à anticiper ou à contrôler (Dario Amodei fait partie des premiers à avoir découvert le phénomène de « superposition », un mécanisme par lequel un modèle d'IA peut encoder simultanément plusieurs concepts dans un même neurone artificiel, optimisant ainsi son apprentissage et sa capacité d'expression, mais au prix d'une interprétabilité réduite. Cela contribue à l'effet boîte noire'', et explique pourquoi, malgré la présence de quelques neurones interprétables, la majorité des éléments internes restent complexes et difficiles à décomposer dans leur intégralité). Dario Amodei insiste sur le fait que ne pas clairement comprendre pourquoi et comment une IA choisit ses réponses, comment elle produit des erreurs, ou présente des biais ou d'autres failles potentielles, est une anomalie grave, et sans précédent dans l'histoire des sciences et des technologies.

L'IA générale étant selon lui un terme imprécis, trop empreint de science-fiction et de battage médiatique, il préfère parler d'« IA puissante » ou de « science et ingénierie de niveau expert ». Il estime que l'« IA puissante » elle-même pourrait être utilisée pour créer une IA encore plus puissante mais avec un effet plus faible que ce qu'on imagine (à cause des « rendements marginaux décroissants de l'intelligence », elle sera ).

Pour Dario Amodei, la recherche a récemment progressé dans le traçage de « circuits » internes au sein des modèles, mettant en évidence des structures responsables de certaines prises de décisions. Prolonger ces progrès permettrait de concevoir, d'ici 2027 selon lui, l'équivalent (métaphore) d'un « IRM » virtuel capable de révéler et d'analyser les mécanismes internes des réseaux de neurones artificiels. Mais pour cela, un effort urgent et coordonné entre les chercheurs (d'Anthropic, OpenAI, DeepMind...) est nécessaire, de même que la création de régulations « light-touch » (souples), pour que la capacité à comprendre les systèmes d'IA ne soit pas en retard face à la course aux performances.

Pour Dario Amodei, l'interprétabilité améliorera la sécurité et la gouvernance de l'IA, et offre une opportunité de créer un avantage commercial compétitif en rendant les systèmes plus fiables et compréhensibles ; ignorer ces aspects pourrait avoir de graves conséquences pour l'économie, la sécurité nationale et l'éthique..

Risques géostratégiques Dario Amodei s'est dit favorable à un durcissement des interdictions de ventes de certaines puces Nvidia et autres vers la Chine, tout en précisant que son ..

Notes et références

Notes

Références

Voir aussi Articles connexes Daniela Amodei

Liens externes

Catégorie:Personnalité américaine de l'informatique Catégorie:Personnalité liée à l'intelligence artificielle Catégorie:Personnalité d'OpenAI Catégorie:Chercheur Catégorie:Étudiant de l'université Stanford Catégorie:Docteur de l'université de Princeton Catégorie:Naissance en 1983 Catégorie:Naissance à San Francisco