Tay (intelligence artificielle)

Tay est une intelligence artificielle à but conversationnel créée par Microsoft et Bing et introduite le sur la plateforme Twitter.

Après une journée et plus de postés, Microsoft suspend temporairement le compte Twitter de Tay pour des , à la suite d'un : elle a en particulier tenu des propos racistes et misogynes. L'expérience a été qualifiée de désastreuse pour l'image de Microsoft.

Une deuxième tentative, le , se solde à nouveau par une déconnexion..

En , son successeur Zo est lancé par Microsoft.

Historique

Création Tay est conjointement créée par les divisions de Microsoft et Bing. Son nom est l'acronyme de l'expression anglophone (« en pensant à vous »).

Microsoft a initialement publié peu de détails sur ce , mais des sources le rapprochent de Xiaoice, projet d'agent conversationnel similaire lancé par Microsoft en Chine et qui pourrait avoir inspiré Tay : selon Ars Technica, depuis fin 2014, Xiaoice avait eu . Tay est initialement conçue pour imiter les modèles de langage d'une jeune fille américaine de et pour apprendre en interagissant avec les utilisateurs humains de Twitter.

Mise en service Tay est connectée à Twitter le sous le nom de et le compte @. Elle est présentée comme l'« IA zéro froideur » ().

Tay commence à répondre aux autres utilisateurs de Twitter ; elle peut aussi sous-titrer les photos qui lui sont fournies sous forme de mèmes Internet.

Selon Ars Technica, il semble que la pré-programmation de Tay ait inclus une liste de mots-clés jugés polémiques, pour lesquels ses propos ont été encadrés : les interactions avec elle concernant . Toutefois, cette liste semble avoir laissé de côté d'autres sujets, tels que le nazisme, le viol ou les violences domestiques.

Ces lacunes deviennent manifestes lorsque certains utilisateurs de Twitter se mettent à poster des affirmations non politiquement correctes, « enseignant » ainsi à Tay des messages haineux autour de thèmes répandus sur Internet, notamment le ou le . Le commence alors à publier des contenus racistes et à connotation sexuelle en réponse à ses interlocuteurs.

Le chercheur en intelligence artificielle Roman Yampolskiy estime que cette dérive est compréhensible, car, en tant que , Tay était programmée pour apprendre des humains : étant confrontée à des propos délibérément outranciers d'autres utilisateurs de Twitter, alors que Microsoft ne lui avait pas inculqué de reconnaissance du comportement inapproprié, elle a réagi en les reproduisant. Il compare ce problème à celui de Watson, un programme informatique d'intelligence artificielle conçu par la société IBM pour répondre à des questions formulées en langage naturel, qui s'était mis à proférer des jurons après avoir lu des entrées du site Web .

De nombreux tweets haineux de Tay résultent de l'exploitation par des trolls de sa tendance à répéter les messages qu'elle reçoit. L'origine exacte de cette tendance n'a pas été divulguée. Certaines de ses réponses problématiques ne résultent cependant pas d'une simple répétition : ainsi, à la question d'un internaute lui demandant si la Shoah s'est bien produite, elle répond que . Parmi ses autres tweets remarqués, Tay écrit notamment que , ajoutant que , ou que ; elle appelle également au génocide des Mexicains et des .

Premier arrêt de l'expérience Face à la situation, Microsoft entreprend tout d'abord la suppression des tweets haineux, sexistes ou complotistes de Tay Abby Ohlheiser, du Washington Post, émet l'hypothèse que l'équipe chargée de Tay, qui inclut du personnel éditorial, tente alors de rectifier le comportement de l'IA, comme en témoignent des exemples de réponses presque identiques de Tay affirmant que et que . En s'appuyant sur les mêmes indices, Gizmodo estime que Tay . En réaction, une campagne # (« Justice pour Tay ») proteste contre la modification de ses messages.

Dans les seize heures suivant sa sortie et après que Tay a tweeté plus de , Microsoft suspend son compte Twitter pour ajustements, invoquant une ayant exploité .

Madhumita Murgia, du journal , qualifie Tay de , anticipant que la stratégie de Microsoft va être de et de . Selon Murgia, le plus gros problème n'en reste pas moins que , exprimant des réserves sur le tour pris par le développement de l'intelligence artificielle.

Le , Microsoft confirme que Tay a été mise hors ligne. Sur son blog officiel, l'entreprise publie aussi des excuses pour ses messages polémiques, s'engageant à ne la remettre en ligne qu'après avoir acquis la certitude de pouvoir du groupe.

Seconde version et arrêt Le , Microsoft relance accidentellement le sur Twitter au cours d'une phase de tests. De nouveau capable de poster des messages, Tay publie des tweets liés à la drogue, notamment et , et étant deux noms argotiques du cannabis. Cependant, le compte s'enfonce rapidement dans une boucle répétitive de tweets plusieurs fois par seconde. Ces tweets mentionnant son propre nom d'utilisateur dans le processus apparaissent dans les flux de ses abonnés , causant de l'agacement à certains. Le est rapidement mis hors ligne, en plus du compte Twitter de Tay devenu privé, de sorte que les nouveaux abonnés doivent être acceptés avant de pouvoir interagir avec elle. Microsoft clôt cet épisode en expliquant avoir mis Tay en ligne par inadvertance pendant des tests.

Quelques heures après l'incident, les développeurs de logiciels de Microsoft annoncent un changement de cap : l'agent conversationnel est remplacé par une « plate-forme » utilisant divers s et programmes. Cette annonce est peut-être motivée par les dommages à la réputation de Microsoft causés par Tay. Microsoft déclare toutefois vouloir rééditer Tay après l'avoir rendue sûre, mais aucune information publique n'indique qu'un effort ait été fait dans ce sens.

Suites En , Microsoft a mis en service le successeur de Tay, un nommé Zo. Satya Nadella, PDG de Microsoft, déclare que Tay et a enseigné à l'entreprise l'importance de prendre ses responsabilités.

En , Diana Kelley, directrice technique de , explique comment des enseignements ont pu être tirés de l'expérience de Tay : .

Notes et références Notes

Références

Tay (intelligence artificielle)

Źródło i licencja