Un rapport révèle un réseau de faux « rabbins » virtuels promouvant l’antisémitisme sur TikTok.
Le réseau s’appuie sur des avatars générés par l’IA et des identités fabriquées conçues pour imiter des voix juives crédibles, a constaté le Mouvement de lutte contre l’antisémitisme.
Un réseau coordonné de comptes TikTok générés par l’IA se faisant passer pour des rabbins juifs diffuse systématiquement du contenu antisémite, selon un rapport publié mercredi par le Combat Antisemitism Movement (CAM).
« Le danger est évident. En se faisant passer pour des voix juives authentiques, ces “rabbins” érodent la confiance, banalisent la haine et incitent à des violences concrètes visant les Juifs », indique le rapport. « En amplifiant ce contenu auprès d’un public jeune et influençable, TikTok contribue à accélérer la radicalisation à une époque où l’intelligence artificielle rend la désinformation de plus en plus difficile à détecter. »
L’étude, menée par l’Antisemitism Research Center (ARC), une organisation américaine à but non lucratif, a identifié 49 comptes TikTok usurpant l’identité de personnalités religieuses juives et diffusant des théories du complot et des discours antisémites classiques. Ces comptes ont cumulé plus de 950 000 abonnés et généré plus de 10 millions de mentions « J’aime ».
Le réseau utilise des avatars générés par l’IA et des identités fictives conçues pour imiter des voix juives crédibles. Des chercheurs ayant mené une analyse approfondie de quatre comptes — @rabbirothstein, @rabingoldmaan, @rabbistirberg et @rabbi_silverstein — ont mis au jour des schémas de coordination, notamment une narration identique, un langage partagé et une thématique commune.
Selon le rapport, cette constance « suggère un effort organisé pour diffuser des idées antisémites dans le discours dominant, plutôt qu’une création de contenu organique ou fortuite ».
Parmi les conclusions les plus inquiétantes du rapport figurait la tactique consistant à présenter des stéréotypes antisémites comme des conseils financiers prétendument prodigués par des figures religieuses faisant autorité. Le rapport soulignait que cette approche « contourne le scepticisme habituel appliqué aux accusations extérieures, faisant apparaître les stéréotypes antisémites comme des faits avérés et allant de soi », et introduisant ainsi subrepticement la haine dans le discours dominant sous couvert de conseils.
Les chercheurs ont également mis en garde contre le danger que représente la base d’utilisateurs majoritairement jeunes de TikTok. L’amplification algorithmique, indique le rapport, « garantit que ces vidéos atteignent des utilisateurs qui consomment déjà des contenus de « développement personnel » empreints de théories du complot », normalisant ainsi l’antisémitisme comme une vérité cachée et abaissant le seuil de tolérance face à des croyances plus extrêmes.
Ce n’est pas la première fois que de telles tactiques sont mises au jour. ARC avait déjà identifié un réseau de plus de 70 « rabbins » générés par IA diffusant des contenus antisémites sur Instagram. Suite à l’intervention de Meta, de nombreux comptes ont été supprimés, a indiqué CAM.
CAM exhorte désormais TikTok à faire de même en supprimant immédiatement les comptes identifiés, en investissant dans des outils de détection par IA entraînés à identifier l’usurpation d’identité religieuse synthétique et en lançant une campagne de sensibilisation du public pour aider les utilisateurs à identifier la propagande générée par l’IA.
« Le contenu généré par l’IA est peu coûteux, évolutif et difficile à distinguer pour les modérateurs de celui produit par de vrais humains », conclut le rapport.
Cela montre une fois de plus que les réseaux sociaux ne sont pas des sources d’information fiables et que le cerveau humain n’a pas besoin de contrevérités pour comprendre le monde dans toute sa complexité. Seuls les esprits simples s’accommodent de cette facilité pour vivre tranquillement dans la vacuité du monde. Comprendre le monde nécessite un effort.
JForum.Fr
 |
 |