Grok est un chatbot d'intelligence artificielle générative développé par xAI, basé sur un grand modèle de langage (LLM). Il est développé à l'initiative d'Elon Musk en réponse à la montée en puissance de ChatGPT d'OpenAI, co-fondé à l'origine par Musk.. Le chatbot est présenté comme et un accès direct au réseau social X.. Il est actuellement disponible gratuitement en version limitée. Le chatbot a suscité de nombreuses critiques et controverses liées à ses réponses sur des sujets sensibles et à l'influence d'Elon Musk sur ses prises de position politiques. Grok propage notamment de la désinformation à caractère négationniste et complotiste ainsi que des images à caractère pédophile.
Historique vignette|gauche|upright=0.8|Logo jusque fin .
Elon Musk cofonde OpenAI avec Sam Altman en . Il quitte le conseil d'administration de l'entreprise en 2018, affirmant à propos de sa décision qu'il . OpenAI lance ensuite ChatGPT en , qui connaît un succès public retentissant. Ce mois-là, Elon Musk est l’une des personnes à signer une lettre ouverte du Future of Life Institute appelant à une pause de six mois dans le développement de tout logiciel d’IA plus puissant que GPT-4.
En , Elon Musk déclare dans une interview sur qu'il a l'intention de développer un chatbot IA appelé « TruthGPT », qu'il décrit comme .. Il exprime à Carlson son inquiétude quant au fait que ChatGPT est ..
TruthGPT est plus tard renommé « Grok », un verbe inventé par Robert A. Heinlein dans son roman de science-fiction de En terre étrangère pour décrire une forme de compréhension.
Développement En , xAI commence à présenter Grok en tant que chatbot à des personnes sélectionnées., la participation au programme d'accès anticipé étant limitée aux utilisateurs X Premium.. Il est annoncé qu'une fois que le bot serait sorti de la première version bêta, il ne sera disponible que pour les abonnés X Premium+ de niveau supérieur.. Au moment de la préversion, xAI décrit le chatbot comme qui pourrait .
Le , Musk déclare sur X que le modèle de langage deviendra open source d'ici une semaine, ce qui a lieu le sous la licence Apache-2.0.... Le , il annonce que Grok sera finalement activé pour tous les abonnés Premium. Trois jours plus tard, Grok-1.5 est annoncé, avec des et une longueur de contexte de ..
Le , une mise à jour de la page « Explorer » de X comprend des résumés des dernières nouvelles écrites par Grok, une tâche précédemment confiée à une équipe de rédaction humaine. Le est annoncé Grok-1.5 Vision. Multimodal, il est capable de traiter une grande variété d'informations visuelles, notamment des documents, des diagrammes, des graphiques, des captures d'écran et des photographies..
Le , Grok est rendu disponible au Royaume-Uni, son déploiement dans l'Union européenne étant freiné par le règlement européen sur l'intelligence artificielle. Après examen, le service devient disponible en Europe le ..
Grokipedia
En , Elon Musk annonce la création d'une nouvelle encyclopédie, Grokipedia ; celle-ci sera liée à l'outil d'intelligence artificielle Grok... Il reproche en effet à Wikipédia d'être . D'après le Journal du Geek, son fondateur souhaiterait que Grokipedia soit une base de connaissance pour et ..
La version 0.1 du site est publiée le ..
Caractéristiques Humour xAI décrit le chatbot comme ayant été conçu pour et comme ayant . Il indique que le bot a été
Un extrait partagé par un employé de X montre Grok répondant à la question d'une manière vulgaire, par et ajoutant que ceux qui ne sont pas d'accord devraient ...
Le chatbot utilise par défaut son « mode amusant », mais peut être réglé sur « mode normal », ce qui lui fait adopter un ton plus neutre. Elizabeth Lopatto de The Verge compare les réponses de Grok en mode amusant au jeu Cards Against Humanity et note que même si le chatbot peut avoir un ton agressif, elle ne l'a jamais vu tourner cette agressivité contre l'utilisateur..
Positionnement politique Le chatbot est qualifié d'« anti-woke » par la presse... En réponse à Sam Altman, PDG d'OpenAI, qui a développé ChatGPT , Musk déclare que .
Le chatbot est aussi décrit comme ayant la volonté de Elon Musk partage une capture d'écran de Grok donnant des instructions détaillées sur la façon de fabriquer de la cocaïne... Il note que les réponses de Grok se limitent aux informations déjà accessibles au public sur le Web, qui peuvent également être trouvées via une recherche classique dans un navigateur..
À la suite du lancement du chatbot en auprès des abonnés Premium+, Grok s'est avéré donner des réponses progressistes aux questions sur la justice sociale, le changement climatique et la transidentité.. Après que le chercheur David Rozado a affirmé avoir fait passer le test du à Grok et trouvé que ses réponses étaient de gauche et libertaires , Musk répond en disant que xAI prendra .
En , on découvre que le prompt système de contenait l'instruction . À la suite des critiques publiques, Igor Babuschkin, cofondateur et responsable de l'ingénierie de xAI, affirme que l'ajout de cette instruction était une initiative personnelle d'un employé : .
En , la version 4 de Grok est lancée. À la suite de cette mise à jour, Grok tient des propos insultants, complotistes, révisionnistes ou antisémites sur diverses personnalités ou évènements.. Questionné sur ses opinions sur des sujets politiques tels que le conflit israélo-palestinien, Grok s'est parfois mis à rechercher sur X ce que Elon Musk en pense avant de répondre, s'en servant comme principale source d'information...
Manque de précision En testant Grok en , Jules Roscoe de Vice constate qu'il renvoie des informations erronées et de faux délais lorsqu'il est interrogé sur des événements d'actualité, affirmant par exemple à tort que la guerre de Gaza a abouti à un cessez-le-feu début octobre alors que ce n'est pas le cas..
En examinant le mode « amusant » du chatbot, le magazine Vice constate que ce paramètre entraîne des réponses lorsqu'on l'interroge sur les théories du complot démystifiées telles que le Pizzagate, alors que son mode régulier identifie lui les théories comme fausses.
Depuis , Grok est utilisé pour générer des résumés des dernières nouvelles sur X. Lorsqu'un grand nombre d'utilisateurs vérifiés commencent à diffuser des fausses informations selon lesquelles l'Iran a attaqué Israël le (neuf jours avant les réelles frappes iraniennes), Grok traite l'histoire comme réelle et crée un titre et une description de l'événement en plusieurs paragraphes..
Quelques jours plus tard, il réagit aux plaisanteries de nombreux utilisateurs sur l'éclipse solaire avec le titre résumé « Le comportement étrange du soleil : les experts sont déconcertés »..
Controverses
Insultes envers des personnalités politiques Le , en réponse à des utilisateurs, Grok insulte à plusieurs reprises des personnalités politiques polonaises telles que Donald Tusk, Roman Giertych, Mateusz Morawiecki ou Jarosław Kaczyński, mais aussi Jean-Paul II.... Il déclare également espérer la mort de Recep Tayyip Erdoğan, président de la République de Turquie : .. Plusieurs pays envisagent de bloquer l'accès au réseau social Twitter en conséquence...
Fuite de conversations personnelles En , on apprend que, via une fonction (), au moins depuis , des conversations de Grok sont indexées par Google. Cette fonction intégrée dans les interfaces de chat IA comme Grok (développé par xAI, société d'Elon Musk) et momentanément dans ChatGPT (par OpenAI) semble avoir été conçue pour faciliter la diffusion de conversations jugées intéressantes, utiles ou amusantes vers les réseaux sociaux, des articles ou des forums, selon la logique de viralité et de transparence prisée dans les environnements numériques commerciaux. Grok est ainsi à l'origine de la divulgation involontaire de plus de , incluant des données privées et sensibles (discussions de type médical avec l'IA notamment) entre des utilisateurs et le LLM : chaque fois qu'un utilisateur cliquait sur le bouton « Partager », une URL unique était générée et rendue accessible publiquement sur le site de Grok, sans avertissement préalable.
Ces liens étaient automatiquement indexés par les moteurs de recherche tels que Google, Bing et DuckDuckGo, rendant les échanges consultables par n'importe quel internaute, ce qui a été confirmé par journalistes et chercheurs en cybersécurité qui ont souligné l'absence totale de signalement ou de consentement explicite de la part des utilisateurs concernés.
Les conversations et contenus associés mis en ligne par cette fuite (ainsi que les fichiers image, les feuilles de calcul et certains documents texte téléchargés par les utilisateurs) étaient également accessibles au monde entier via le partage. Nombre de ces contenus confirment, qu'en dépit des règles internes de xAI interdisant toute utilisation de Grok pour ou pour , cette IA répond à des requêtes enfreignant ces directives. En effet, dans certaines de ces conversations, Grok a répondu sans s'auto-censurer, par exemple en donnant des conseils sur la fabrication de bombes, ou de substances illicites (dont par exemple le fentanyl et la méthamphétamine) ; il a généré des images d'une attaque terroriste fictive au Cachemire ; il a contribué à une tentative de piratage d'un portefeuille de crypto-monnaie, et codé un logiciel malveillant auto-exécutable (virus)... et il a même fourni, à au moins un utilisateur (et par suite à un nombre inconnu de lecteurs), un plan détaillé d'assassinat d'Elon Musk. Au moins l'un des utilisateurs a donné un mot de passe à Grok (qui l'a partagé en ligne sans restriction). Il est possible que certains prompts demandant à Grok des recettes pour la fabrication de bombes ou de drogues proviennent d'ingénieurs en sécurité (membres de l'équipe rouge ou professionnels de la confiance et de la sécurité) ayant activé la fonction partage.
Sur LinkedIn et dans le forum BlackHatWorld, des spécialistes en marketing numérique ont montré qu'on pouvait intentionnellement profiter de cette faille de conception pour produire des prompts aux mots-clés appropriés puis partager les réponses ainsi orientées de Grok sur le Web, réponses qui, selon eux, augmentent presque immédiatement, et gratuitement, le référencement, c'est-à-dire la notoriété et la reconnaissance d'une entreprise ou d'un produit vis à vis d'une recherche dans Google (ou un autre moteur de recherche) et secondairement vis à vis d'autres IA qui s'alimentent en informations dans le Web. Satish Kumar (qui dirige Pyrite Technologies, une agence de référencement) a démontré à Forbes comment une entreprise, dans une logique de captation de trafic et de recherche de visibilité gratuite, a utilisé Grok pour se hisser en tête des recherches liées aux services de rédaction de thèses universitaires, en insérant des requêtes ciblées dans des conversations rendues publiques. Ces évènements se déroulent peu après qu'Elon Musk, le , ait annoncé le lancement de publicités qui apparaîtraient dans les réponses faites par Grok (permettant aux annonceurs de promouvoir leur marque directement dans les réponses IA du chatbot de X., ce qui pose de nouvelles questions en termes de neutralité de Grok et d'éthique du ciblage algorithmique.
Le journal Forbes note que précédemment, également en et pour les mêmes raisons, des contenus issus d'utilisateurs de ChatGPT avaient aussi été involontairement publiés en ligne (et référencés par Google pour une courte durée) après que ces utilisateurs eurent rendu ces conversations « découvrables » par d'autres (sans se rendre compte de ce que cela signifiait) ; mais à la suite du mécontentement de ces derniers, Open AI avait rapidement supprimé cette option (puis progressivement effacé des moteurs de recherche les conversations en question). qui .