Stephen Malvern Omohundro (né en 1959) est un informaticien américain. connu pour ses recherches sur la physique hamiltonienne, les systèmes dynamiques, les langages de programmation, l'apprentissage automatique, la vision par ordinateur et les implications sociales et de sécurité de l'intelligence artificielle. Ses travaux actuels utilisent l'économie rationnelle pour développer des technologies intelligentes sûres et bénéfiques, et contribuant à améliorer la modélisation collaborative, la compréhension, l'innovation et l'aide à la prise de décision.

Éducation Omohundro a des diplômes en physique et en mathématiques acquis à l'université Stanford (Phi Beta Kappa). et un doctorat en physique soutenu à l'université de Californie à Berkeley..

Algorithmes d'apprentissage Omohundro a créé le « Groupe Vision et Apprentissage » à l'université de l'Illinois, qui a produit quatre mémoires de maîtrise et deux thèses de doctorat.

Lors de ses travaux sur les algorithmes d'apprentissage il a travaillé sur les algorithmes géométriques (dont la structure, les opérations ou les garanties reposent sur des propriétés géométriques de l'espace mathématique dans lequel les données ou les paramètres de l'algorithme sont représentés et manipulés) ; autrement dit, ce sont des méthodes d'apprentissage ou d'optimisation qui exploitent la forme, la distance, la topologie ou la structure mathématique de l'espace des paramètres de l'IA pour être plus efficaces ou plus stables. Omohudro a mis au point plusieurs algorithmes géométriques efficaces dont pour accomplir la tâche dite d'apprentissage de variétés, d'autres tâches d'apprentissage visuel et de modélisation connexes, l'approche de fusion de modèles (nota : Un algorithme best‑first explore un problème en choisissant, à chaque étape, le nœud le plus prometteur selon une fonction d'évaluation (coût, distance, heuristique). Il ne parcourt donc pas l'espace de manière systématique (comme le feraient des algorithmes breadth‑first ou depth‑first), mais guidée pour l'apprentissage automatique (y compris l'apprentissage de modèles de Markov cachés et les « grammaires stochastiques hors contexte »Une grammaire stochastique étant un système de règles permettant de générer des phrases, des séquences ou des structures, où chaque règle possède un poids probabiliste. Ces probabilités permettent de modéliser des phénomènes où plusieurs structures sont possibles, mais certaines sont statistiquement plus fréquentes ou plus plausibles.Andreas Stolcke and Stephen M. Omohundro, "Inducing Probabilistic Grammars by Bayesian Model Merging ", Proceedings of the International Colloquium on Grammatical Inference, Alicante, Spain, Lecture Notes in Artificial Intelligence 862, Springer-Verlag, Berlin, , ., et l'algorithme d'apprentissage par découverte de familles, qui découvre la dimension et la structure d'une famille paramétrée de modèles stochastiques.

Intelligence artificielle auto-améliorante et sécurité de l'IA Omohundro a fondé Self-Aware Systems à Palo Alto, en Californie, pour étudier les implications technologiques et sociales de l'intelligence artificielle auto-améliorante.

Il est aussi conseiller en intelligence artificielle, auprès du Machine Intelligence Research Institute.

Il a montré que les systèmes rationnels présentent des « pulsions » naturelles problématiques dont une pulsion d'auto-préservation, qu'il faudra contrer afin de construire des systèmes intelligents plus sûrs..

Ses articles, conférences et vidéos sur la sécurité de l'IA ont suscité un vif intérêt.. Il a donné de nombreuses conférences sur l'intelligence artificielle capables d'autoamélioration récursive, sur les technologies coopératives, la sécurité de l'IA et les liens entre IA et intelligence biologique.

Langages de programmation Chez Thinking Machines Corporation, il développe avec Cliff Lasser Star Lisp, le premier langage de programmation pour la Connection Machine. Omohundro a rejoint l'International Computer Science Institute (ICSI) à Berkeley, en Californie, où il a dirigé le développement du langage de programmation open source Sather. Sather figure sur le poster d'O'Reilly sur l'histoire des langages de programmation.

Physique et théorie des systèmes dynamiques Le livre d'Omohundro, Geometric Perturbation Theory in Physics Stephen M. Omohundro, Geometric Perturbation Theory in Physics, World Scientific Publishing Co. Pte. Ltd., Singapore (1986) 560 pages. . décrit des structures symplectiques hamiltoniennes naturelles pour un large éventail de modèles physiques qui résultent d'analyses de la théorie des perturbations.

Il a montré qu'il existe des équations aux dérivées partielles (EDP) lisses qui effectuent de manière stable un calcul universel en simulant des automates cellulaires arbitraires. Le comportement asymptotique de ces EDP est donc logiquement indécidable.

Avec le mathématicien américain John David Crawford, il a montré que les orbites des systèmes de doublement de période tridimensionnels peuvent former un nombre infini de nœuds toriques topologiquement distincts, et ils ont décrit la structure de leurs variétés stables et instables.

Concours Mathematica et tablette Apple De 1986 à 1988, il a été professeur adjoint d'informatique à l'université de l'Illinois à Urbana-Champaign et a cofondé le Centre de recherche sur les systèmes complexes avec Stephen Wolfram et Norman Packard.

Quand il était étudiant à l'université de l'Illinois, il a travaillé avec la mathématicien anglais Stephen Wolfram et cinq autres personnes pour créer le programme de mathématiques symboliques Mathematica. Lui et Wolfram ont dirigé une équipe d'étudiants qui a remporté un concours d'Apple Computer visant à concevoir « l'ordinateur de l'année 2000 ». Leur prototype, baptisé « Tablet », était une tablette tactile dotée d'un GPS et d'autres fonctionnalités, qui a finalement vu le jour avec le lancement de l'iPad d'Apple 22 ans plus tard.

Autres contributions Avec Subutai Ahmad, Steve Omohundro a créé des modèles neuronaux biologiquement réalistes pour l'attention sélective. Comme chercheur scientifique au NEC Research Institute, Omohundro a travaillé sur l'apprentissage automatique et la vision par ordinateur, et a été co-inventeur du brevet américain , « Système de recherche de base de données multimédia qui maintient une distribution de probabilité a posteriori que chaque élément de la base de données est une cible de recherche »..

Puzzle de pirate Omohundro a développé une extension du puzzle de pirates de la théorie des jeux, présenté dans la revue Scientific American.

Sensibilisation Omohundro a siégé au conseil consultatif de l'Institut de recherche sur l'intelligence artificielle.. Il a beaucoup écrit sur l'intelligence artificielle Leon Neyfakh (2013), Should we put robots on trial?|url=https://www.bostonglobe.com/ideas/2013/03/01/should-put-robots-trial/IjynaQk7bARI4fAnENLELO/story.html ; The Boston Globe, mars 2013, consulté le 7 janvier 2018.. Dans ce cadre, il a notamment alerté sur le fait qu'« une course aux armements autonomes est déjà en cours », car « les pressions militaires et économiques alimentent le développement rapide des systèmes autonomes »...

Publications

Omohundro, S. (2013). Rational Artificial Intelligence. Singularity Hypotheses: A Scientific and Philosophical Assessment, 161. |Chapitre 9 in

Omohundro, S., Szegedy, C., Goldhaber, B., Ammann, N., Abate, A., Halpern, J., … et Tenenbaum, J. (2024). Towards Guaranteed Safe AI: A Framework for Ensuring Robust and Reliable AI Systems .

Notes et références

Voir aussi Vidéographie

Steve Omohundro Interviews Playlist

Articles connexes Singularité IA digne de confiance

Liens externes

Self-Aware Systems

Catégorie:Étudiant de l'université Stanford Catégorie:Personnalité américaine de l'informatique Catégorie:Naissance en 1959 Catégorie:Pages avec des traductions non relues