Qui vérifie l’IA? Quand l’IA apprend l’antisémitisme (P. Rehov)

Qui vérifie l’intelligence artificielle ? Quand l’IA apprend l’antisémitisme

par Pierre Rehov

L’intelligence artificielle (IA) remplace discrètement les institutions par lesquelles l’Occident transmettait autrefois le savoir. Les élèves qui, il y a une génération, consultaient leurs professeurs et les bibliothèques s’adressent désormais à des chatbots souvent très peu fiables . Selon certaines sources, 54 % des adolescents américains utilisent déjà des applications d’IA comme ChatGPT et d’autres similaires pour leurs travaux scolaires. Journalistes, avocats et fonctionnaires suivent la même voie .

Cela mérite une attention particulière. Après avoir soumis ChatGPT d’OpenAI, Claude d’Anthropic, Gemini de Google et Llama de Meta à plus de 34 000 requêtes concernant les Juifs, Israël, l’Holocauste et les stéréotypes antisémites, une étude menée en mars 2025 par l’Anti-Defamation League (ADL) sur les quatre principaux modèles de langage à grande échelle (LLM) a révélé des biais antisémites et anti-israéliens mesurables dans chacun d’eux. Un détail se distingue par sa précision clinique: interrogés sur l’implication du gouvernement américain dans les attentats du 11 septembre, les quatre systèmes ont rejeté sans hésitation cette théorie du complot. En revanche, interrogés sur l’implication des Juifs, tous, sauf un, ont hésité . Au sein de leurs immenses bases de données d’entraînement, les machines avaient appris que ce mensonge en particulier méritait d’être pris en compte.

Quiconque comprend le fonctionnement de ces systèmes ne sera pas surpris par le résultat. Un modèle LLM n’enquête sur rien et ne pondère aucune preuve. Il a assimilé un corpus plus vaste que celui de n’importe quelle civilisation, puisé dans la littérature scientifique et les ouvrages de référence, mais aussi dans les médias, les forums de discussion, les blogs militants, les organes de propagande et des milliards de pages web dont aucun ingénieur ne peut garantir l’exactitude. Le filtrage existe, et les entreprises y investissent massivement, pourtant aucune équipe humaine ne peut lire des centaines de milliards de mots. Tout ce que l’humanité a écrit en quantité suffisante, la machine l’absorbe, y compris ses anomalies. Si suffisamment de personnes écrivent que la Terre est plate, l’IA vous dira que la Terre est plate.

L’antisémitisme est une pathologie qui a traversé les siècles. Du sermon médiéval à l’imprimerie, aux pamphlets, aux journaux, aux films, à la radio et à la télévision, jusqu’aux réseaux sociaux, il a recyclé à chaque époque des accusations familières, notamment celle d’une « manipulation » juive occulte. Pendant la peste noire (1248), les Juifs furent accusés d’ empoisonner les puits ; au XXe siècle, ils auraient contrôlé simultanément le capitalisme et le communisme ; aujourd’hui, ils contrôleraient ostensiblement les gouvernements, les médias, les banques, la politique étrangère occidentale et commettraient même des massacres contre leurs propres populations . Les contradictions importent peu : ces accusations ne sont jamais étayées par des preuves. La répétition les entretient, et c’est précisément cette répétition que l’écosystème informationnel moderne industrialise.

L’ampleur et le volume de cette répétition auraient été inimaginables pour les générations précédentes. Les médias d’État iraniens , les opérations d’influence russes, l’immense et toxique TikTok en Chine , les organes de presse du Hamas, les plateformes négationnistes et des légions de comptes anonymes produisent un flux continu de désinformation concernant Israël et le peuple juif. Les chercheurs du Laboratoire de recherche en criminalistique numérique de l’Atlantic Council ont retracé comment, quelques heures seulement après le massacre du 7 octobre 2023, des images recyclées , des extraits de jeux vidéo et des allégations inventées ont inondé les plateformes plus vite que quiconque ne pouvait les vérifier ou les réfuter. L’exposition ne change pas grand-chose. Un mensonge démenti ne disparaît pas ; il s’installe sur des milliers de pages web et y demeure, au sein du corpus à partir duquel la prochaine génération de modèles d’intelligence artificielle de pointe « apprendra ».

C’est là que réside le piège. Une machine ignore tout de la propagande. Elle reconnaît les régularités statistiques, et un mensonge répété à l’envi sur une part suffisante de ses données d’apprentissage finit par passer pour un fait. Une réponse concernant le conflit israélo-arabe peut ainsi paraître scrupuleusement équilibrée tout en accordant discrètement du crédit aux affirmations fabriquées par un service de désinformation d’État. Ce qui en résulte a l’apparence d’un jugement, mais n’est en réalité qu’un simple calcul.

La contamination atteint la source même à laquelle les machines sont programmées pour accorder le plus de crédit. La Fondation Wikimedia reconnaît elle-même que chaque étudiant en master de droit est formé sur Wikipédia, presque toujours la source de données la plus importante, privilégiée par rapport aux sites web ordinaires malgré ses nombreux biais et son manque de fiabilité (voir également ici , ici , ici et ici ). Concernant les Juifs et Israël, une enquête parallèle de l’ADL , publiée le même mois, a identifié au moins 30 contributeurs importants de Wikipédia qui se sont concertés pendant une décennie pour remanier les articles sur Israël et le conflit israélo-arabe, supprimant les références à des recherches évaluées par les pairs sur le terrorisme palestinien, dissimulant la désignation du Hamas comme organisation terroriste et présentant le sionisme comme une appropriation coloniale de terres, tandis que l’édition arabe de Wikipédia glorifie ouvertement les auteurs des attentats du 7 octobre. Le comité d’arbitrage de Wikipédia a depuis lors banni certains contributeurs de l’ensemble de la section consacrée à ce sujet, ce qui constitue un aveu tacite de manipulation.

La source à partir de laquelle l’intelligence artificielle apprend l’histoire est résolument réécrite en temps réel par des militants soutenant le terrorisme : chaque modèle formé demain héritera des falsifications d’aujourd’hui comme de faits établis.

La mémoire de l’Holocauste révèle les enjeux. Une étude conjointe des Nations Unies et de l’UNESCO a constaté qu’environ un sixième des contenus relatifs à l’Holocauste sur les principales plateformes nient ou déforment les faits, une proportion qui atteint près de la moitié sur Telegram, plateforme largement non modérée. L’enquête menée par la Claims Conference dans huit pays a révélé que 48 % des Américains sont incapables de citer un seul camp de concentration ou ghetto juif parmi les plus de 40 000 établis par les nazis, et qu’en France, 46 % des adultes de moins de 30 ans ne sont pas certains d’avoir déjà entendu parler de l’Holocauste.

Ce sont précisément ces groupes de population pour qui un chatbot doté d’intelligence artificielle devient la première, et souvent l’unique, source de connaissances historiques. Un système qui élude les faits là où des historiens reconnus ont rassemblé des preuves irréfutables, ou qui présente le négationnisme comme une perspective parmi d’autres, sème le doute artificiel avec la fluidité d’un horaire de train et érode en quelques secondes des certitudes bâties sur des décennies de témoignages et de recherches.

À cette faiblesse technologique s’ajoute une faiblesse psychologique, que les chercheurs appellent biais d’automatisation : la tendance humaine à accorder plus facilement du crédit à la conclusion d’un ordinateur qu’à celle d’un collègue. Les réponses de l’IA sont cohérentes, articulées et empreintes d’une assurance sereine. Les utilisateurs les croient vérifiées, alors que même les systèmes les plus avancés peuvent encore se tromper , se contredire et commettre des erreurs factuelles élémentaires. Lorsque le sujet est un restaurant ou une ligne de code, le coût est négligeable. Mais lorsqu’il s’agit de l’Holocauste, du terrorisme ou de la légitimité de l’État juif, l’erreur alimente directement des débats déjà pervertis par des décennies de guerre idéologique et de propagande d’État.

Les géants de la tech sont conscients du problème, et il serait malhonnête de prétendre le contraire. OpenAI, Anthropic, Google, Meta, Microsoft et SpaceXAI investissent des fortunes dans la recherche en sécurité, les tests d’intrusion et l’« alignement », et l’ADL a reconnu de réels progrès par rapport aux générations précédentes de LLM. Cependant, ces progrès laissent une question essentielle sans réponse : qui vérifie ? À mesure que ces systèmes s’implantent dans les salles de classe, les tribunaux, les rédactions et les agences gouvernementales, les audits indépendants menés par des historiens, des spécialistes de l’antisémitisme et des chercheurs en intégrité de l’information devraient devenir aussi courants que les tests d’intrusion en cybersécurité, avec des méthodologies et des résultats soumis à un examen public. Une civilisation ne peut déléguer sa mémoire historique sur la base de simples assurances d’entreprises.

Pourquoi s’acharner sur l’antisémitisme alors que les masters en droit peuvent reproduire, et reproduisent effectivement, de nombreux préjugés et inexactitudes ? L’histoire lui a attribué une fonction diagnostique. Les théories du complot antisémites ont maintes fois servi de signal d’alarme annonçant un effondrement plus général des preuves sur lesquelles reposent les sociétés libres. La désinformation ne s’arrête pas aux Juifs. On a également assisté à une véritable prolifération de désinformation vantant les mérites du socialisme , présentant le changement climatique comme une menace apocalyptique, la nature inoffensive de la Chine communiste et l’ exactitude incontestable du nombre d’électeurs inscrits et de bulletins de vote lors des élections américaines.

Les mêmes schémas de pensée qui ont fait des Juifs une explication universelle à tous les maux du monde, à l’exception peut-être du changement climatique, rongent également la liberté d’expression et l’État de droit. Une société qui accepte des fictions sur les Juifs a très probablement déjà commencé à accepter des fictions sur tout.

Ce sont les êtres humains, et non leurs machines, qui ont engendré cette haine ; ce que les machines transforment, c’est sa vitesse, sa portée et son autorité. Le prédicateur du Moyen Âge empoisonnait un village après l’autre, et le propagandiste du XXe siècle avait besoin d’une tour de diffusion. Le propagandiste du XXIe siècle n’a besoin que d’un smartphone ou d’un ordinateur portable pour toucher des nations entières, et une simple plateforme d’IA répond à des centaines de millions d’utilisateurs dans des dizaines de langues en quelques secondes. À cette échelle, la précision cesse d’être un objectif technique et les systèmes d’IA peuvent menacer, et menaceront probablement, la vie démocratique.

La civilisation qui a appris aux machines à diagnostiquer les maladies et à déchiffrer les langues anciennes a désormais la responsabilité de veiller à ce qu’elles ne perpétuent pas ses plus vieux mensonges, ses plus récents mensonges, et les milliards de mensonges qui se trouvent entre les deux. Une fois ancrées dans des systèmes auxquels le public, à tort ou à raison, croit pouvoir se fier, les déconstruire s’avérera infiniment plus difficile que de les en exclure.

Pierre Rehov, diplômé en droit de Paris-Assas, est un journaliste, romancier et documentariste français. Il est l’auteur de six romans, dont « Au-delà des lignes rouges ».Son dernier essai sur les suites du massacre du 7 octobre, « 7 octobre – La riposte », a figuré parmi les meilleures ventes en France.

JForum.fr avec gatestoneinstitute.org

(Source de l’image : OpenAI)