Daniel Kokotajlo est un philosophe et chercheur en intelligence artificielle (IA), qui a notamment travaillé au sein de la division gouvernance d'OpenAI de 2022 à 2024.. Il a volontairement quitté cette entreprise en raison de préoccupations éthiques concernant le développement de l'IA générale, qu'il jugeait imprudent à OpenAI. Il a ensuite co-fondé le think tank américain AI Futures, dont il est devenu directeur exécutif et qui agit dans le domaine de la prospective de l'IA.. Il est parfois présenté comme l'un des lanceurs d'alerte ayant attiré l'attention sur les risques posés par l'avènement, qu'il estime proche, de l'intelligence artificielle générale et de la , en particulier sur les risques existentiels posés par l'intelligence artificielle. Il a proposé en 2025 un scénario nommé AI 2027, explorant notamment l'idée d'une explosion d'intelligence avant fin 2027, suivie par une transition rapide vers la superintelligence. Ses travaux sont cités dans les discussions sur l'avenir de l'IA et la singularité technologique.
Biographie Daniel Kokotajlo s'est inscrit en doctorat en philosophie à l'université de Caroline du Nord à Chapel Hill, où il a reçu la bourse Maynard Adams 2018-2019 pour les sciences humaines.. Selon sa page PhilPeople, quand il était étudiant, il s'est notamment intéressé à la philosophie de l'esprit, à l'éthique appliquée, à l'éthique normative, à la philosophie de l'informatique et de l'information, à la philosophie des probabilités ainsi qu'à la philosophie des sciences.
Il s'y est aussi intéressé à l'« altruisme efficace » et a co-écrit un article sur ce thème (publié en 2022), avec Alexandra Oprea (de l'Australian National University), intitulé « ». Il y estime que la philosophie de l'altruisme efficace (EA) comporte un biais, car dans ses analyses statistiques basés sur le concept de « queue lourde » (ou « distribution à queue lourde », Heavy Tail Hypothesis ou HTH pour les anglophones), la théorie de l'altruisme efficace insiste sur l'ampleur et la portée des effets secondaires « positifs » induits (avec un postulat qui est que les meilleures opportunités d'action produisent un bien commun significativement supérieur aux actions moyennes). Kokotajlo et Oprea, dans leur article, montrent que l'on devrait accorder la même valeur aux arguments quand ils plaident pour l'induction d'un effet négatif, car si, quand et où certaines interventions ciblées selon les règles de l'altrusime efficace s'avèrent contre-productives, elles peuvent alors causer des dommages considérablement plus importants que d'autres. L'intégration de cette perspective a des implications majeures pour la recherche sur l'efficacité des choix d'actions à aider, la priorisation des causes à financer et l'évaluation des interventions altruistes..
À partir de 2020, son parcours l'a progressivement orienté de la philosophie à la recherche sur les impacts globaux de l'IA (et sur la sécurité de l'IA), notamment à AI Impacts, au Center on Long-Term Risk, puis chez OpenAI, vers les implications éthiques et sociétales de l'intelligence artificielle.
En 2022, il a été embauché comme chercheur au sein de la « division gouvernance » d'OpenAI.
Kokotajlo a fait partie d'un groupe d'employés d'OpenAI qui a joué un rôle de lanceur d'alerte, affirmant que l'entreprise avait une culture secrète et imprudente, lui faisant prendre de graves risques, dans sa précipitation à vouloir atteindre l'intelligence artificielle générale...
Quand il a démissionné en 2024, il a refusé de signer la clause de non-dénigrement d'OpenAI, ce qui aurait pu lui coûter environ 2 millions de dollars en capitaux propres.. En , il dit avoir conservé les capitaux propres acquis en travaillant chez OpenAI... En , lui et d'autres anciens employés d'OpenAI ont signé une lettre affirmant que les entreprises à la pointe de l'IA ont de fortes incitations financières les poussant à éviter la surveillance. Avec ses cosignataires, il appelle à l'établissement d'un « droit à alerter » sans crainte de représailles quant aux risques liés à l'IA ; tout en protégeant l'anonymat des lanceurs d'alerte.. Il a ensuite dédié une grande partie de son temps à la prospective de l'intelligence artificielle.
Kokotajlo a été invité à des podcasts et interviews où il partage ses analyses et ses prévisions sur l'IA, avec par exemple : les podcasts « Why the AI Race Ends in Disaster » avec le Future of Life Institute ; des interviews sur des sujets comme « OpenAI whistleblower Daniel Kokotajlo on superintelligence and existential risk of AI » avec GZERO Media.
Prospective En 2021, Kokotajlo a publié un article de blog intitulé « À quoi ressemblera 2026 »..
En 2025, Kevin Roose commente le travail prospectif déjà réalisé par Kokotajlo en notant que .
Il a cofondé et dirige une ONG (de type think tank), baptisée et basée à Berkeley, en Californie. Celle-ci étudie les impacts futurs de l'intelligence artificielle, de manière complémentaire aux travaux de sites comme LessWrong ou du (où des chercheurs partagent des prédictions sur l'IA, les mettent à jour et débattent des méthodologies), et de manière complémentaire aux approches du (CAIS) ou de l' (IAPS), qui publient également des analyses prospectives sur l'IA et ses enjeux.
AI Futures Project AI Futures Project est une ONG dont l'objectif principal est d'étudier les impacts futurs de l'intelligence artificielle, en se concentrant notamment sur les scénarios de développement rapide de l'IA générale. En , l'organisation a publié le scénario « AI 2027 », un document de prévision détaillé qui prévoit des avancées fulgurantes dans l'automatisation du codage et de la recherche en IA, culminant avec l'émergence d'agents d'IA entièrement autonomes surpassant les humains dans « pratiquement toutes les tâches cognitives et créatives » vers la fin de 2027.
Scénario « AI 2027 » Ce scénario, AI 2027, co-écrit par Daniel Kokotajlo, Scott Alexander et Eli Lifland, est une étude prospective détaillée, basée sur les progrès observés et attendus de l'intelligence artificielle jusqu'en . Il modélise et décrit une accélération fulgurante (exponentielle) des capacités de l'IA, aboutissant à l'émergence d'une conscience situationnelleTraditionnellement, la conscience situationnelle (souvent attribuée à Micah Endsley) se définit comme : 1 La perception des éléments de l'environnement (quoi, où, quand) ; la compréhension de leur signification et enjeux (pourquoi et en quoi c'est important) ; la projection de leur statut futur (ce qui va se passer ensuite) ; la conscience situationnelle version émerge d'une connaissance du monde aussi acquise via les systèmes de réseaux de capteurs, IoT, drones autonomes, environnements de cyberdéfense, villes intelligentes, systèmes de gestion de crise et autres outils de gestion assistés par IA). Contrairement à la version initiale centrée sur la perception humaine directe, la conscience situationnelle 2.0 intègre l'analyse d'immenses flux de données hétérogènes (capteurs, bases de données, temps réel) et gère la vitesse exponentielle des changements. Elle repose sur une collaboration humain-IA où l'IA agit comme un pour filtrer, analyser et projeter des scénarios que l'esprit humain seul ne pourrait appréhender. La cybersécurité en est une dimension fondamentale, incluant la détection et l'anticipation des menaces cybernétiques. L'objectif final est de permettre une prise de décision rapide et efficace, en maintenant l'adaptabilité et la résilience des systèmes face à l'incertitude et aux perturbations, notamment dans des domaines critiques comme la défense, la gestion d'urgence, l'industrie 4.0 et les villes intelligentes. de l'environnement complexe et dynamique des systèmes cyber-physiques, via l'accès à des flux de données massifs ; puis d'une IA générale, entrainant des transformations sociétales majeures. Il se présente comme une chronologie, presque mois par mois d'événements clés., en se basant sur des hypothèses de croissance superexponentielle des capacités de l'IA... L'approche « mois par mois » se justifie par la rapidité des progrès faits par l'IA, et permet une vérifiabilité fréquente, avec de ajustements de prédictions quand celles-ci ne se conforment plus à la réalité (ce qui se fait en corrigeant le modèle et/ou les hypothèses qu'on lui a soumis). Les prédictions mois par mois peuvent aussi aider à mieux identifier des points d'inflexion, de rupture ou des changements de rythme inattendus, sachant que dans un domaine évoluant à une vitesse exponentielle comme celui de l'IA, de petites avancées à court terme peuvent avoir des répercussions massives moyen et à long terme, difficiles à anticiper autrement.
Dans ce scénario, les auteurs : utilisent une entreprise imaginaire, baptisée OpenBrain, qui serait leaders dans la course à l'IA générale, devenant de plus en plus en plus puissante, atteignant des capacités surhumaines et automatisant la recherche en IA elle-même. OpenBrain est ici une astuce narrative, permettant métaphoriquement mais concrètement d'illustrer les dynamiques de cette course, les défis de sécurité, les implications géopolitiques et les risques existentiels associés au développement d'une superintelligence.. ; détaillent des prévisions clés sur l'évolution de l'IA, s'appuyant sur des modèles de calcul avancés : les auteurs anticipent l'apparition d'IA formées avec fois plus de puissance de calcul que GPT-4, et le déploiement de centaines de milliers d'assistants de recherche en IA d'ici 2027 ; projettent l'atteinte d'une capacité de codage surhumaine dès 2027. et l'émergence d'une superintelligence généraliste vers 2028, tout en soulignant le risque d'un désalignement de ces IA avec les valeurs humaines et les failles de sécurité menant au vol de modèles ou à la fuite de secrets algorithmiques. Les étapes de ce chemin pourraient être les suivantes :
Mi-2025 : Émergence d'agents encore faillibles (« stumbling agents ») Le public commence à voir les premiers véritables agents d'IA, commercialisés comme des « assistants personnels » capables d'effectuer des tâches complexes (gérer et commander de la nourriture, gérer des feuilles de calcul...) ; Bien que de plus en plus avancés, ces agents restent erratiques et sont souvent coûteux, ce qui freine leur adoption à grande échelle. Mais déjà, certains de ces agents excellent dans des domaines particuliers (par exemple en codage et dans la recherche), commençant à révolutionner ces domaines. Ce qui nécessitait auparavant des heures, voire des mois ou des années de travail humain est dorénavant réalisé en quelques minutes ou quelques jours de traitement par ces agents.
Début 2026 : Accélération de la Recherche et Développement (R&D) en IA ; Les agents d'IA, en particulier ceux optimisés pour la R&D, commencent à accélérer considérablement le rythme des découvertes et des améliorations algorithmiques. Cette auto-amélioration permet des cycles d'innovation de plus en plus courts. des versions « mini » de ces agents apparaissent sur le marché ou sont rendues disponibles gratuitement, rendant ainsi la technologie plus accessible et à un grand nombre d'humains, et commençant à perturber le marché du travail, notamment en remplaçant certains emplois de cols blancs; Début 2027 à mi-2027 : Apparition de l'IA générale et capacités surhumaines. Dans cette séquences du scénario, Kokotajlo et ses collègues prédisent notamment deux percées algorithmiques majeures, autocatalytiques :