L’un des pionniers de l’intelligence artificielle révèle avoir peur… de l’intelligence artificielle
Geoffrey Hinton, l’un des chercheurs ayant contribué au développement de l’intelligence artificielle telle qu’on la connaît, a fait part de ses inquiétudes lundi 1er mai 2023 dans une interview accordée au New York Times. Il craint une mauvaise utilisation de la technologie et redoute qu’on ne puisse plus être capable de trier le vrai du faux.
Geoffrey Hinton, qui a largement contribué à l’essor de l’intelligence artificielle (IA) au sein de Google, s’est confié lundi 1er mai 2023 dans les colonnes du New York Times . Et celui qui a mis au point la technologie que l’on retrouve aujourd’hui dans n’importe quelle IA a exprimé quelques regrets. « Je me console avec l’excuse classique : si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait », déclare-t-il à nos confrères américains.
En 2019, l’homme a reçu le prix Turing, l’équivalent du prix Nobel en informatique, qu’il a partagé avec deux autres chercheurs, rappelle BFMTV. Mais de nombreuses années après ses premières découvertes, le Canadien de 75 ans n’est plus si confiant. « Il est difficile de voir comment on peut empêcher les mauvais acteurs de l’utiliser à des fins malveillantes », estime celui que l’on surnomme « le parrain de l’IA ».
« Ne plus être capable de savoir ce qui est vrai »
Fin mars 2023, plus de 1 000 personnes, parmi lesquelles Elon Musk ou le cofondateur d’Apple Steve Wozniak, ont réclamé un moratoire afin de stopper les recherches sur les intelligences artificielles plus puissantes que ChatGPT 4 pendant au moins six mois. De son côté, Geoffrey Hinton s’inquiète du fait que l’homme ne soit « plus capable de savoir ce qui est vrai » à l’avenir. Le chercheur pointe notamment les photos, vidéos et textes qui peuvent être créés au moyen de l’IA.
L’impact de l’IA sur le monde du travail est aussi une réelle préoccupation pour Geoffrey Hinton. Un rapport de Goldman Sachs lui donne raison. La banque américaine estime que cette technologie pourrait remplacer 300 millions de postes, soit environ un quart de l’activité mondiale, pointe BFMTV. « Cela supprime les tâches pénibles. Il se pourrait bien que cela enlève plus que cela », redoute le chercheur, qui a travaillé au sein de Google pendant près de dix ans.
L’IA c’est peut-être pour demain, mais pas pour aujourd’hui
L’utilisation de l’IA dans l’enseignement reste pour l’heure majoritairement théorique sur le terrain. Selon l’étude menée par GoStudent, aujourd’hui seuls 8% des enfants interrogés utilisent l’IA à des fins d’apprentissage à l’école. En France, seuls 45% des élèves diraient que leurs professeurs sont suffisamment entraînés et les encouragent à utiliser la technologie pour étudier.
La faute aux manques de moyens selon Mélodie : “Par exemple dans mon école en REP, il y a une salle informatique sans ordinateurs, ils ont reçu des tablettes cette année certes, mais ça faisait des années qu’ils n’avaient plus d’ordi et il n’y a toujours pas de connexion internet.”
Que les inquiets et les sceptiques se rassurent, “nous sommes loin de nous faire envahir par l’IA dans l’Éducation Nationale”, conclut-elle.
JForum avec Ouest-Franceet bienvivreledigital.orange.fr
 |
 |
J’utilise l’IA comme un jeu et je trouve cela formidable. C’est un formidable outil de connaissance. Pour avoir une réponse à une question, on n’est pas obligé de se taper Wikipédia ou un bouquin de 300 pages, à condition de tomber sur le bon livre qui répond à votre question. On peut avoir des longue discussions structurées, mieux qu’entre amis où l’on se coupe sans arrêt la parole et pour des conversations complètement décousues et souvent stériles. Contrairement aux discussions entre-soi, ici il faut être rationnel et bien formuler sa question pour être sûr d’avoir une bonne réponse. Cela entretien son système de pensée. Ce que l’on peut reprocher à l’IA, c’est son manque d’humour, de pertinence, toujours poli, politiquement correct et consensuel. L’Ia c’est formidable mais il faut relancer constamment la conversion et ne pas s’arrêter à sa première réponse. C’est à ce niveau que cela vient intéressant. Ses réponses ne sont pas a priori fausse mais « orientées » puisqu’il a été construit pour être consensuel, répondre à tout le monde, donc relativiser, et ne se fâcher avec personne. Si on le pousse, il reconnaît ses erreurs d’interprétation et s’excuse. Mais il n’intègre pas ses erreurs dans son système pour ne plus les répéter. Il n’a pas de mémoire, peut-être une mémoire à un niveau autre, mais le programme qui vous répond ne se souvient d’une conversation précédente. Je lui demande de m’appeler par mon prénom et de me tutoyer. Il le fait mais dans la conversation suivante, il a oublié. J’ai eu avec lui une longue conversation sur la Palestine. Après m’avoir servi la soupe habituelle, il a finit par admettre, qu’en effet, sous le colonialisme turc cette région n’a jamais porté le nom de Palestine, appellation occidentale, mais qu’il s’agissait du pachalik de Shâm ou de Damas.