Une enquête mondiale vise à lutter contre les clichés antisémites dans les modèles d’IA
L’enquête invite les utilisateurs de l’IA à signaler les rencontres avec des préjugés, des fausses déclarations ou de l’antisémitisme.
Une nouvelle enquête mondiale menée par Maya Ackerman, experte de renommée mondiale en intelligence artificielle (IA), et le président israélien Isaac Herzog cherche à recueillir les expériences des utilisateurs en matière de préjugés antisémites dans les contenus générés par ordinateur, a déclaré lundi l’initiative Voix du Peuple.
Ackerman, une voix de premier plan dans le monde de l’IA et professeur d’informatique et d’ingénierie à l’Université de Santa Clara, devrait superviser la « première initiative juive mondiale dédiée à l’identification et à la lutte systématiques contre l’antisémitisme sur les principales plateformes d’IA générative », a-t-il déclaré.
S’appuyant sur les recherches d’Ackerman sur la manière dont l’identité juive est représentée dans les modèles génératifs, l’enquête invite les utilisateurs d’IA à signaler les rencontres avec des préjugés, des fausses représentations ou de l’antisémitisme lors de leurs interactions avec des outils en ligne comme ChatGPT, Grok, Midjourney, DALL·E et autres.
Le lancement de l’enquête de recherche intervient dans un contexte d’inquiétudes croissantes concernant le contenu généré par l’IA qui déforme les minorités religieuses et ethniques, y compris les Juifs, sans aucune surveillance humaine, a déclaré Voice of the People.
Les recherches antérieures d’Ackerman ont révélé des schémas alarmants : des expressions telles que « Juif », « personne juive » ou même « Pessah » suscitent parfois des réponses offensantes, recyclant non seulement des stéréotypes existants mais fabriquant également de nouvelles représentations erronées et profondément troublantes des Juifs.
« Ces systèmes d’IA ne sont pas intrinsèquement antisémites, mais ils reflètent les données sur lesquelles ils sont formés – des données qui sont en grande partie façonnées par un Internet occidental où les préjugés antisémites restent ancrés et où la connaissance de la culture juive fait cruellement défaut », a déclaré Ackerman.
L’objectif est de construire des systèmes meilleurs et plus inclusifs grâce à la collaboration et à une approche axée sur l’IA pour lutter contre l’antisémitisme en ligne, a-t-elle déclaré.
L’ enquête demande aux participants de partager les réactions antisémites qu’ils ont rencontrées avec les différents outils d’IA, y compris des captures d’écran, des messages et leurs réactions émotionnelles. Ces informations contribueront à orienter de nouvelles recherches sur les biais systémiques de l’IA, à éclairer les meilleures pratiques pour un développement responsable de l’IA et à potentiellement contribuer à l’amélioration des bases de données d’entraînement.
« L’identité juive doit être reconnue et représentée avec dignité dans les technologies qui façonnent notre monde », a déclaré Shirel Dagan-Levy, PDG de Voice of the People. « Cette enquête s’inscrit dans la continuité de l’engagement de Voice of the People à mettre en lumière des exemples concrets et des perspectives diverses au sein des communautés juives du monde entier. »
« Nous sommes fiers de collaborer avec le Dr Maya Ackerman, experte en IA générative et membre de notre Conseil, dont les recherches et le leadership contribuent à transformer la sensibilisation en action », a-t-elle ajouté.
Herzog a lancé Voice of the People, également connu en hébreu sous le nom de « Kol Ha’am », en 2023 dans le but d’en faire un incubateur de solutions innovantes et pratiques aux défis urgents auxquels est confronté le peuple juif dans le monde entier, tout en favorisant le leadership juif mondial.
La Voix du Peuple est un projet conjoint du Bureau du Président israélien, de l’Organisation sioniste mondiale et de l’Agence juive, en coopération avec des fondations philanthropiques, notamment la Fondation Azrieli, la Fondation Patrick et Lina Drahi et les Fondations de la famille Wilf.
Samedi, xAI d’Elon Musk, la société à l’origine du chatbot Grok , a présenté des excuses publiques après que Grok a publié une série de messages antisémites et violents, y compris des réponses faisant l’éloge d’Adolf Hitler.
L’entreprise a attribué cet incident « horrible » à une mise à jour logicielle qui, pendant 16 heures, a poussé Grok à reproduire et amplifier le contenu extrémiste des utilisateurs au lieu de le filtrer. XAi a indiqué avoir depuis supprimé le code défectueux, remanié le système et mis en place de nouvelles mesures de sécurité.
Une photographie d’illustration prise le 20 février 2025 montre les applications Grok, DeepSeek et ChatGPT affichées sur l’écran d’un téléphone. Photo de Justin Tallis/AFP via Getty Images.
Source: jns
JForum.fr
 |
 |
Pour détruire les clichés antisémites sur les réseaux, il faudrait déjà que les médias d’informations arrêtent de ne diffuser uniquement que des informations qui diabolisent Israël ….. A force de faire passer Israël pour le méchant en ignorant dans les news, les milliers de bombes qui tombent sur Israël et les centaines d’attentats palestiniens qui les palestiniens réalisent en Israël en touchant des cibles juives israéliennes allant du bébé jusqu’à la centenaire juive…., il est certain qu’on ne va pas aimer Israël dans le monde entier. Dans toutes les news internationales (et surtout en Europe), on ne montre Israël qu’en train de frapper et jamais en train d’encaisser ….. Ce bourrage de crane intensif et CONTINUEL fait que l’antisémitisme ne peut que grandir …. Juguler les centres d’informations qui fournissent CONSTAMMENT des raisons mensongères de haïr les Juifs d’Israël pour commencer !!!!!