l’IA devient plus performante que l’humain

Le PDG d’OpenAI, Sam Altman, a déclaré que l’entreprise travaille actuellement avec des modèles d’intelligence artificielle (IA) situés au « point de singularité », ce moment où l’IA devient plus performante que l’humain pour générer des résultats. Cette affirmation, loin d’être une simple spéculation, est soutenue par Yaniv Romano, professeur au Technion, qui souligne que des études récentes démontrent que ces modèles peuvent résoudre des problèmes mathématiques inaccessibles à l’homme.

Altman a qualifié cette étape d’inimaginable il y a dix ans, la décrivant comme un rêve lointain devenu réalité. Selon Romano, la singularité se manifeste par une supériorité de l’IA dans la résolution de problèmes complexes, notamment mathématiques, où certains résultats obtenus par ChatGPT dépassent les capacités humaines sans formation spécialisée. Ces avancées ont été réalisées avec des logiciels accessibles au public, ce qui souligne l’ampleur du progrès.

Cependant, cette évolution soulève des défis majeurs, notamment la vérification des résultats produits par l’IA. Romano explique que si les erreurs sont facilement détectables pour des tâches simples, il devient problématique de valider des solutions que même les meilleurs mathématiciens mettraient des années à confirmer. Ce « fardeau de la vérification » est un enjeu crucial, car une confiance aveugle dans l’IA pourrait réduire la capacité humaine à penser et à résoudre des problèmes de manière autonome.

Le professeur met en garde contre une dépendance excessive à l’IA, qui pourrait entraîner une perte des compétences critiques, notamment dans les générations futures. Il compare cette relation à celle d’un enfant avec un parent, où la confiance excessive limite le développement de l’autonomie intellectuelle. Cette évolution pose la question de la formation et de la préparation des futurs experts capables de vérifier et de comprendre les résultats générés par ces systèmes intelligents.

Aujourd’hui, les meilleures entreprises d’IA emploient des mathématiciens de haut niveau pour valider leurs modèles, mais Romano s’interroge sur l’avenir : qui assurera cette tâche lorsque la majorité des chercheurs s’appuieront sur l’IA pour penser à leur place ? Il appelle le monde académique à maintenir des standards rigoureux afin d’éviter une dépendance excessive à l’IA, qui pourrait compromettre la rigueur scientifique et la capacité d’innovation humaine.

La singularité technologique semble être une réalité tangible, mais elle impose des défis importants en termes de contrôle, de validation et d’éducation. La progression rapide de l’IA invite à une réflexion approfondie sur la manière dont l’humain doit interagir avec ces outils puissants, afin de préserver son rôle actif dans la recherche et la résolution de problèmes complexes.