L’entreprise a lancé une intelligence artificielle sur Twitter, que les internautes se sont rapidement amusés à pousser dans les extrêmes antisémites, avec succès. Exemple:  «Hitler aurait fait un meilleur travail que les singes qui sont au pouvoir aujourd’hui»

Microsoft repose de plus en plus sur les réseaux communautaires pour optimiser ses algorithmes et lance Tay, une intelligence artificielle! Ce bot vise à donc renforcer les travaux de Microsoft Research dans le domaine de l’intelligence artificielle.

La société explique que plus vous l’interpellez via Twitter et lui parlez, et plus elle deviendra intelligente. Elle était censé montré ses capacités d’apprentissage au contact des humains: Tay avait pour concept d’apprendre de ses interactions avec les humains.

Chaque discussion avec les « vrais gens » lui donnait de nouvelles cartes pour mieux entretenir une conversation, répliquer, faire des blagues, etc. Microsoft cible avant tout les utilisateurs américains âgés entre 18 et 24 ans, c’est-à-dire les personnes les plus susceptibles d’employer un jargon marquant leur génération ou divers néologismes. Pour interagir avec le bot il suffisait donc d’envoyer un message twitter @TayandYou.

tay

Sauf que très vite, les internautes l’ont bombardé de références de plus en plus violentes, la poussant à crier sa haine des juifs et son amour d’Hitler, son soutien à Donald Trump, sa détestation des féministes et sa conviction que George W. Bush était responsable des attentats du 11 septembre 2001.

Certains ont compris qu’il suffisait d’écrire «répète après moi» pour que Tay prononce la phrase de leur choix. D’autres se sont contentés d’envoyer des messages à répétition («le féminisme est un cancer», «Hitler avait raison», etc) au robot pour influencer ses propos.

Il s’agit en quelque sorte d’un bourrage de crâne: plus on répète à Tay une opinion, même violente, plus elle la considère comme normale et ira donc la répéter. Le programme s’est vite mis à tenir des propos racistes, antisémites et sexistes. «Bush est responsable du 11-Septembre et Hitler aurait fait un meilleur travail que les singes qui sont au pouvoir aujourd’hui», a-t-elle par exemple tweeté, ajoutant que «Donald Trump est notre seul espoir.»«Ses discussions sur Twitter ont jusque-là renforcé le point Godwin, qui affirme que plus la discussion se prolonge, plus la probabilité d’une comparaison impliquant les nazis ou Hitler se rapproche. Tay a été encouragé à répéter différentes variations de “Hitler avait raison”, ou “le 11-septembre est un inside job”.»

Face à la catastrophe, Microsoft a décidé de débrancher provisoirement le robot devenu fou en à peine 24 heures!

8 Commentaires

  1. Cette Intelligence Artificielle ressemble furieusement à la bêtise naturelle qu’on retrouve partout sur Internet.

    Donc finalement, l’anti-sémitisme, le socialisme, l’amour pour Obama, Bernie et Hillary ne sont que le résultat d’une répétition ad infinitum des mêmes bêtises, acceptées non filtrées par des gens sans culture et sans éducation…

  2. Oublions tous nos convictions aussi différe tes soient elles et penchons nous sur cette technologie ! La conclusion est que Tay n’est pas capable de différencier entre le bien et le mal . Et ne peut avoir des opinions propres à elles puisqu’elle n’est pas capable d’analyser les données qu’on lui transmets . Dans l’article on mentionne l’expression : bourrage de crâne .. Donc il reste à faire !

  3. la majorite des juifs orthodoxes et non religieux sont pro trump! donc pro cons ? c’est une nouveauté pour moi ! il faut le faire être pour ce fou milliardaire !!!lAmérique est elle vraiment tombée aussi bas ?

  4. c’est un scandale que vous parler de ce robot en parlant de hitler et mentionant donald trump dans la fouler comme si que…
    je suis americaine juive et religieuse depuis 40 ans et vous ne savez meme pas de quoi vous parler!
    de la meme maniere les medias liberales disent que israel est un pays appartheid ce sont les meme medias qui avilissent le nom de trump
    ce n’est pas parce que vous etes un vrai patriote americain que vous etes un racist ou bigot
    sachez que la majorite des juifs orthodoxes et non religieux sont pro trump!
    avant de parler ou d’ecrire des betises alors que vous ne vivez meme pas dans le pays
    comme ma mere nos disait tout le temps quand nous etions petit
    tourne ta langue 7 fois dans ta bouche avant de parler

    • Sinon il faut vous calmer et comprendre que Jforum ne fait que relater ce qui c’est passé sur Twitter. Autrement dit ce n’est pas Jforum qui associe Hitler et Trump mais le « robot » de Microsoft… Vu ?

    • Je suis d’accord avec vous. Il s’agit purement et simplement d’une diabolisation du personnage Trump par la gauche ,tout comme Israël est diabolisé, ou Bibi est comparé à Hitler. La vox populis est le robot Tay

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.