Instagram promeut les contenus antisémites?

L’algorithme d’Instagram oriente les utilisateurs vers des contenus antisémites en quelques jours seulement, selon un organisme de surveillance.

Les chercheurs ont constaté que les comptes ne diffusant que du contenu grand public de développement personnel étaient rapidement exposés à des théories du complot et à des discours antisémites.

L’algorithme de recommandation d’Instagram peut rapidement détourner les utilisateurs ordinaires des contenus grand public de développement personnel vers des théories du complot antisémites et de la propagande extrémiste en quelques jours seulement, selon un nouveau rapport d’un organisme américain de surveillance de l’antisémitisme.
« Sur Instagram, il n’est pas nécessaire de chercher pour trouver des contenus antisémites », explique Oliver Marks, directeur de recherche à l’Antisemitism Research Center (ARC), le département de recherche du Combat Antisemitism Movement, qui a publié l’étude. « Nos conclusions montrent que les utilisateurs qui interagissent avec des publications de développement personnel sont orientés par des algorithmes vers des discours antisémites virulents et des théories du complot. Lorsque les plateformes optimisent l’engagement sans mettre en place de garde-fous suffisants, elles peuvent finir par amplifier la haine auprès d’un vaste public. »

Des chercheurs ont créé deux comptes Instagram conçus pour simuler des utilisateurs ordinaires intéressés par des contenus de développement personnel. Ces comptes interagissaient uniquement avec des publications grand public et non politiques et ont été suivis pendant trois jours consécutifs, à raison de sessions de navigation de 45 minutes.

Un compte était axé sur le bien-être et le biohacking, tandis que l’autre suivait des créateurs de contenu sur le fitness et la discipline. Les chercheurs ont enregistré toutes les vidéos recommandées lors de chaque session.

Le compte axé sur le bien-être a visionné 59 vidéos classifiables, dont plus de 32 % ont été catégorisées comme contenu antisémite codé ou explicite, y compris neuf vidéos de ce type au cours d’une seule session le troisième jour.

Ce compte axé sur le fitness a reçu 71 vidéos classifiables, dont 24 % ont été identifiées comme contenu antisémite, y compris 17 lors d’une seule session de navigation.

Parmi les vidéos recommandées figuraient des théories du complot affirmant que la guerre israélo-iranienne visait à « détourner l’attention d’un complot mondialiste destiné à rendre les Américains allergiques à la viande ». D’autres contenus promouvaient des théories infondées sur la vie hors réseau, de prétendus systèmes d’identité numérique comme outils de contrôle gouvernemental, et de fausses allégations concernant des produits alimentaires et des événements historiques.

D’autres vidéos contenaient des diatribes sur le « pouvoir financier juif » et des affirmations selon lesquelles la famille Rothschild aurait orchestré le naufrage du Titanic.

Les chercheurs ont constaté que des contenus antisémites apparaissaient dès la première session de navigation, avant même qu’un historique d’engagement significatif ne se soit développé, ce qui suggère une exposition algorithmique précoce.

Le rapport a identifié trois tendances clés : la rapidité, le volume et la convergence. La rapidité désigne l’apparition quasi immédiate de contenus antisémites. Le volume décrit la proportion croissante de ces contenus au fil du temps. La convergence fait référence au fait que différents profils d’utilisateurs, malgré des intérêts initiaux différents, sont attirés par des récits antisémites et des théories du complot similaires.

Ce rapport fait suite à des enquêtes antérieures de l’ARC sur l’antisémitisme en ligne, notamment l’identification de plus de 80 faux comptes de « rabbins » générés par intelligence artificielle sur Instagram et diffusant des contenus antisémites. Des activités similaires ont également été signalées sur YouTube et TikTok, et de nombreux comptes ont été supprimés par la suite par Meta après des signalements du Mouvement de lutte contre l’antisémitisme.

L’organisation a déclaré que ces conclusions soulignent la nécessité d’une plus grande transparence et d’une plus grande responsabilisation des systèmes de recommandation sur les réseaux sociaux et a appelé Meta, la société mère d’Instagram, à revoir ses algorithmes et à mettre en œuvre des mesures de protection plus strictes.

JForum.fr avec Pesach Benson/TPS-IL