Hubert Dreyfus était un critique de la recherche sur l'intelligence artificielle. À travers ses ouvrages tels que Alchemy and AI (Alchimie et IA) (1965), What Computers Can't Do (Ce que les ordinateurs ne peuvent pas faire) (1972 ; 1979 ; 1992) et Mind over Machine (L'esprit sur les machines) (1986), il a fait une évaluation pessimiste des avancées de l'IA et en a critiqué les fondements philosophiques. Ses objections sont abordées dans la plupart des introductions à la philosophie de l'intelligence artificielle, telles que Russell & Norvig (2021), un manuel standard sur l'IA, et dans Fearn (2007), une étude de la philosophie contemporaineDreyfus a été l'un des rares non-informaticiens sollicités pour commenter dans l'enquête de l'IEEE sur les plus grandes controverses de l'IA ..

Dreyfus avançait que l'intelligence et l'expertise humaines dépendent principalement de processus inconscients plutôt que de manipulations symboliques conscientes. Selon lui, ces compétences inconscientes ne peuvent jamais être entièrement prises en compte dans des règles formelles. Sa critique, basée sur sa connaissance approfondie de la phénoménologie, notamment Merleau-Ponty et Heidegger, ciblait la première vague de la recherche en intelligence artificielle, qui utilisait des symboles formels de haut niveau pour représenter la réalité et tentait de réduire l'intelligence à une simple manipulation de symboles.

Lorsque ses idées furent présentées pour la première fois au milieu des années 60, elles furent accueillies avec dérision, voire avec une franche hostilité. Dans les années 80, cependant, nombre de ses points de vue furent redécouverts par des chercheurs travaillant en robotique et dans le nouveau domaine du connexionnisme. Ces approches sont aujourd'hui qualifiées de « sous-symboliques » parce qu'elles rejettent l'accent mis sur les symboles de haut niveau par les premières recherches sur l'IA. Au siècle, les approches de l'apprentissage automatique basées sur les statistiques simulent la manière dont le cerveau utilise des processus inconscients pour percevoir, remarquer les anomalies et porter des jugements rapides. Ces techniques sont très efficaces et sont actuellement largement utilisées dans l'industrie et dans le monde universitaire. L'historien et chercheur en IA Daniel Crevier écrit : « Le temps a prouvé l'exactitude et la perspicacité de certains des commentaires de Dreyfus ». Dreyfus a déclaré en 2007 : « Je pense que j'ai gagné et que c'est fini, ils ont abandonné. »

La critique de Dreyfus

Les promesses grandioses de l’intelligence artificielle Dans Alchemy and AI (1965) et What Computers Can't Do (1972), Dreyfus résume l'histoire de l'intelligence artificielle et tourne en ridicule l'optimisme excessif répandu dans ce domaine. Par exemple, Herbert A. Simon, à la suite du succès de son programme General Problem Solver, avait prédit qu'en 1967 : Un ordinateur serait champion du monde d'échecs. Un ordinateur découvrirait et prouverait un nouveau théorème mathématique important. La plupart des théories en psychologie prendraient la forme de programmes informatiques.

Ces prédictions ont été relayées par la presse dans des articles élogieux sur l'arrivée imminente de l'intelligence des machines.

Dreyfus estimait que cet optimisme était injustifié et qu'il reposait sur de fausses hypothèses concernant la nature de l’intelligence humaine. Pamela McCorduck explique le point de vue de Dreyfus : Ces prédictions reposaient sur le succès d'un modèle de « traitement de l'information » de l'esprit formulé par Newell et Simon, dans leur hypothèse des systèmes de symboles physiques. Ce modèle a ensuite été étendu à une position philosophique appelée computationalisme par des philosophes tels que Jerry Fodor et Hilary Putnam. En pensant qu’ils avaient réussi à reproduire le processus fondamental de la pensée humaine avec des programmes simples, il semblait qu’il ne restait qu’un pas à faire pour créer des machines entièrement intelligentes. Dreyfus a toutefois affirmé que la philosophie, notamment celle du XXe siècle, avait découvert de sérieux problèmes avec ce point de vue sur le traitement de l'information. Selon la philosophie moderne, l'esprit n'a rien à voir avec un ordinateur numérique.

Les quatre hypothèses de Dreyfus sur la recherche en intelligence artificielle Dans ses écrits Alchemy and AI et What Computers Can't Do, Dreyfus a identifié quatre hypothèses philosophiques qui ont soutenu la conviction des premiers chercheurs en IA selon laquelle l'intelligence artificielle dépendait de la manipulation de symboles. « Dans chaque cas, écrit Dreyfus, cette hypothèse est considérée par les chercheurs en IA comme un axiome garantissant des résultats, alors qu'il s'agit en fait d'une hypothèse parmi d'autres, à tester par le succès de ses travaux. »

L'hypothèse biologique Le cerveau traite les informations par opérations discrètes au moyen d’un équivalent biologique des interrupteurs marche/arrêt.

Dans les premiers temps de la recherche en neurologie, les scientifiques ont remarqué que les neurones émettaient des impulsions tout-ou-rien. Plusieurs chercheurs, tels que Walter Pitts et Warren McCulloch, ont soutenu que les neurones fonctionnaient de la même manière que les portes logiques booléennes et qu'ils pouvaient donc être imités par des circuits électroniques au niveau du neurone; ; . Lorsque l'utilisation des ordinateurs numériques s'est répandue au début des années 50, cet argument a été étendu pour suggérer que le cerveau était un vaste système de symboles physiques, manipulant les symboles binaires zéro et un. Dreyfus a pu réfuter l'hypothèse biologique en citant des recherches en neurologie qui suggéraient que l'activation et la synchronisation des impulsions neuronales comportaient des éléments analogiques. Cependant, Daniel Crevier, fait remarquer que « peu de gens étaient encore convaincus de cela au début des années 1970, et personne ne s'est opposé à Dreyfus » concernant l'hypothèse biologique.

L'hypothèse psychologique L’esprit peut être considéré comme un appareil fonctionnant sur des bits d’information en suivant des règles formelles.

Dreyfus a remis en question cette hypothèse en démontrant qu'une grande partie de notre « savoir » sur le monde repose sur des attitudes ou des tendances complexes qui nous dirigent vers une interprétation plutôt qu'une autre. Il a soutenu que même lorsque nous utilisons des symboles explicites, nous les employons dans un contexte inconscient de connaissances de base, et sans ce contexte, nos symboles perdent leur signification. Selon Dreyfus, cet arrière-plan n'a pas été implémenté dans le cerveau individuel sous la forme de symboles explicites avec des significations individuelles claires.

L'hypothèse épistémologique Toute connaissance peut être formalisée.

Cela relève de la question philosophique de l'épistémologie, ou de l'étude de la connaissance. Même si nous admettons que l’hypothèse psychologique est incorrecte, les chercheurs en IA pourraient toujours soutenir (comme l’a fait le fondateur de l’IA, John McCarthy) qu'il est possible pour une machine de traitement des symboles de représenter toutes les connaissances, même si les humains ne représentent pas les connaissances de la même manière. Selon Dreyfus, cette hypothèse n’était pas justifiée, car une grande partie du savoir humain n’est pas symbolique.

L'hypothèse ontologique Le monde est constitué de faits indépendants qui peuvent être représentés par des symboles indépendants

Dreyfus a également identifié une hypothèse plus subtile concernant le monde. Les chercheurs en IA, ainsi que les futurologues et les auteurs de science-fiction, partent souvent du principe qu’il n’y a pas de limite à la connaissance formelle et scientifique. Ils supposent que tout phénomène dans l’univers peut être décrit par des symboles ou des théories scientifiques. Cela implique que tout ce qui existe peut être compris en termes d'objets, de propriétés d'objets, de classes d'objets, de relations d'objets, et ainsi de suite : précisément des choses qui peuvent être décrites par la logique, le langage et les mathématiques. L'étude de l'être ou de l'existence s'appelle l'ontologie, c'est pourquoi Dreyfus appelle cela l'hypothèse ontologique. Si cette hypothèse est fausse, cela soulève des incertitudes quant à ce que nous pouvons réellement savoir et à quel point les machines intelligentes pourront nous aider.

Savoir-faire vs. savoir-que : la primauté de l'intuition Dans Mind Over Machine (1986), écrit à l'apogée des systèmes experts, Dreyfus analyse la différence entre l'expertise humaine et les programmes qui prétendent la capturer. Il y développe les idées de What Computers Can't Do, dans lequel il avait formulé un argument similaire pour critiquer l'école de recherche en IA fondée sur la « simulation cognitive » et pratiquée par Allen Newell et Herbert A. Simon dans les années 1960.

Pour Dreyfus, la capacité humaine à résoudre des problèmes et à développer une expertise repose sur notre perception du contexte, sur ce qui est important et intéressant dans une situation donnée, plutôt que sur la recherche de combinaisons de possibilités pour atteindre un objectif. En 1986, Dreyfus décrivait cette distinction comme celle entre le « savoir-que » et le « savoir-faire », sur la base de la distinction heideggerienne du présent et du prêt-à-main et voir From Socrates to Expert Systems. Les termes "savoir-faire" / "savoir-que" ont été introduits dans les années 1950 par le philosophe Gilbert Ryle..

Le « savoir-que » se réfère à nos capacités conscientes de résolution de problèmes étape par étape. Nous les utilisons lorsque nous sommes confrontés à un problème difficile, nécessitant de faire une pause, de prendre du recul et d'explorer méthodiquement les idées une par une. Dans de tels moments, les idées deviennent très précises et simples : elles deviennent des symboles libres de tout contexte, que nous manipulons à l'aide de la logique et du langage. Ce sont les compétences que Newell et Simon ont démontrées à travers des expériences psychologiques et des programmes informatiques. Dreyfus a reconnu que leurs programmes imitaient de manière adéquate les compétences qu'il appelle « savoir-que ».

Le « savoir-faire », en revanche, représente la manière dont nous abordons habituellement les choses. Nous agissons sans faire appel à un raisonnement symbolique conscient, que ce soit lors de la reconnaissance d'un visage, de notre trajet quotidien en voiture, ou du choix des mots que nous employons. Nous semblons simplement arriver à la réponse appropriée sans considérer d'autres possibilités. Selon Dreyfus, c'est là l'essence de l'expertise : lorsque nos intuitions sont suffisamment développées pour que nous oubliions les règles et nous contentions d'« évaluer la situation » et de réagir.

Selon Dreyfus, notre compréhension humaine de la situation repose sur nos objectifs, notre corps et notre culture, englobant l'ensemble de nos intuitions, attitudes et connaissances inconscientes sur le monde. Ce « contexte » ou « arrière-plan », lié au concept de Dasein chez Heidegger, constitue une forme de connaissance qui n'est pas stockée de manière symbolique dans notre cerveau, mais plutôt de manière intuitive. Il influence ce que nous remarquons et ce que nous ignorons, façonne nos attentes et détermine les possibilités que nous considérons : nous faisons la distinction entre ce qui est essentiel et ce qui ne l'est pas. Les éléments non essentiels sont relégués à notre « conscience périphérique » (selon William James), ces innombrables choses dont nous sommes conscients mais auxquelles nous ne pensons pas activement à l'instant présent.