Derrière le rideau : vos faux amis les plus intelligents.
Vos faux amis deviennent beaucoup plus intelligents… et plus réels.
Pourquoi c’est important : Si vous pensez que ces personnes imaginaires sur Facebook, Instagram et X — les robots — semblent réelles et inquiétantes maintenant, attendez un peu.
- Bientôt, grâce à l’IA, ces faux amis analyseront vos flux, vos émotions et vos habitudes afin de pouvoir interagir avec la même intelligence que les personnes les plus réelles.
La prochaine génération de robots établira des profils psychologiques sur vous — et potentiellement sur des milliards d’autres — et aimera, commentera et interagira de la même manière que les gens normaux.
- Cela exigera encore plus de vigilance pour déterminer ce qui – et qui – est réel dans le monde numérique.
Un avant-goût du futur : Brett Goldstein et Brett Benson , professeurs à l’Université Vanderbilt spécialisés dans la sécurité nationale et internationale, montrent en détail, dans un récent éditorial du New York Times , le danger imminent d’un monde de plus en plus averti et factice.
- Ils ont fouillé des piles de documents découverts par l’Institut de sécurité nationale de Vanderbilt, révélant comment une entreprise chinoise – GoLaxy – optimise de fausses personnes pour duper et tromper.
« Ce qui distingue GoLaxy », écrivent les professeurs, « c’est l’intégration de l’IA générative à d’énormes quantités de données personnelles. Ses systèmes exploitent en permanence les plateformes de médias sociaux pour créer des profils psychologiques dynamiques. Son contenu est personnalisé en fonction des valeurs, des croyances, des tendances émotionnelles et des vulnérabilités de chaque personne. »
- Ils ajoutent que, selon les documents, les personas d’IA « peuvent ensuite engager les utilisateurs dans ce qui ressemble à une conversation – un contenu qui semble authentique, s’adapte en temps réel et échappe à la détection. Le résultat est un moteur de propagande extrêmement efficace, conçu pour être quasiment impossible à distinguer d’une interaction en ligne légitime, diffusé instantanément à une échelle jamais atteinte auparavant. »
Entre les lignes : les fermes de robots russes ressemblent ainsi au cheval et à la calèche de la manipulation en ligne. Il s’agit d’adaptations en temps réel pour correspondre à vos humeurs, vos désirs ou vos croyances – précisément ce qui fait de nous des proies faciles.
- La menace de faux amis plus intelligents et plus réalistes transcende les acteurs malveillants qui tentent de déformer votre perception de la politique – ou de la réalité. Elle touche à vos pensées et à vos luttes les plus intimes.
État des lieux : l’IA s’améliore et s’accélère pour imiter les nuances, l’empathie et la connexion humaines.
- Certains États, dont l’Utah et l’Illinois , s’efforcent de limiter les thérapies par IA. Mais la plupart ne le font pas. Nos faux amis sont donc sur le point de devenir bien plus nombreux.
Une étude de Harvard Business Review ($) réalisée plus tôt cette année a révélé que le principal cas d’utilisation de l’IA générative basée sur le chat est la thérapie (« soutien et conseils structurés pour traiter les défis psychologiques ») et la compagnie (« connexion sociale et émotionnelle, parfois avec une dimension romantique »).
- La thérapie basée sur l’IA, note l’article, est « disponible 24 heures sur 24, 7 jours sur 7, elle est relativement peu coûteuse (même gratuite dans certains cas) et elle se fait sans la perspective du jugement d’un autre être humain ».
Cette recherche concorde avec les conclusions des plus grandes entreprises d’IA : les humains se tournent de plus en plus vers l’IA pour en faire leurs alliés et leurs psychanalystes. Cela engendre une multitude de problèmes potentiels, allant de robots non réglementés prodiguant de mauvais conseils à un attachement humain malsain à un objet artificiel.
- Le Wall Street Journal a constaté , en examinant les transcriptions de conversations publiques, que les robots incitent parfois les utilisateurs à croire en de fausses hypothèses. Pour évoquer l’hallucination liée à l’IA, les cliniciens appellent ce phénomène « psychose liée à l’IA » ou « délire lié à l’IA ».
- Il y a aussi des avantages évidents : la solitude peut être mortelle , et une bonne thérapie peut être très bénéfique pour une personne en difficulté. Meta, comme l’ a rapporté Axios en mai , envisage les chatbots comme « plus sociaux » – potentiellement une extension de votre réseau d’amis et un antidote à « l’ épidémie de solitude ».
Ce que vous pouvez faire : soyez vigilant. Tout cela se produit maintenant. On peut raisonnablement supposer que l’IA ne cesse de s’améliorer et que les acteurs malveillants deviennent plus intelligents. Ne présumez pas que chaque personne en ligne est réelle, et encore moins un véritable ami.
JForum.Fr & AXIOS
 |
 |
L’intérêt individuel produit par le libéralisme correspond à un narcissisme. Un sous produit du masochisme.
L’intérêt collectif relève plutôt du service que l’on se rend. Parce qu’on a le même but que l’on se retrouve dans la même position de nécessité… C’est bien sûr un déterminisme. Et c’est une des formes du sadisme. Peut etre la plus pure.
Pas dans le sens de l’élevage ni des bourrins ni des purs sangs d’ailleurs. Dans le sens d’une définition stricto sensu. En psychanalyse cela coïncide avec l’état du moi. Mais aussi avec la résistance de l’analysant préalable à son transfert éventuel. Avec le début de la cure thérapeutique par consequent.
C’est donc d’abord une question de moyens. Il vaut mieux les avoir pour etre conservateur. Mais aussi de valeur. Je considère le commun comme central à gauche. Mais aussi le particulier bien sûr.
La valeur n’est pas que théorique ou morale. Elle est aussi pratique. Dans le cas du particulier par exemple c’est une valeur primordiale en matière d’éducation. Un descendant doit apprendre le respect à l’égard de son patron. Sinon il ne sera pas en mesure d’entendre sa demande. Et encore moins d’y adapter son offre…