La Promesse de l'Auto-Amélioration de l'IA
L'auto-amélioration récursive de l'IA a longtemps été vue comme le Saint Graal de la technologie moderne. Imaginez un monde où les machines non seulement exécutent des tâches, mais s'améliorent elles-mêmes, créant un cycle vertueux d'innovation continue. Cependant, une étude récente menée par Peter Kirgis et Sayash Kapoor de l'Université de Princeton, en collaboration avec d'autres institutions, jette une lumière nouvelle sur cette vision.
L'Étude Révélatrice
L'étude a mis à l'épreuve des agents IA, dont le modèle Claude Opus 4.8 d'Anthropic, en leur confiant des tâches de recherche ouvertes. Ces tâches nécessitent non seulement des compétences techniques, mais aussi du jugement et de la créativité, des qualités que les IA actuelles semblent encore peiner à maîtriser.
- Ressources allouées : 3 000 $ de crédits API et six jours pour mener à bien les recherches.
- Résultats : Bien que les agents aient excellé dans des tâches d'ingénierie comme la revue de littérature et l'exécution d'expériences, ils ont échoué à produire des recherches originales de qualité suffisante pour être acceptées par une conférence de premier plan.
Les Limites Actuelles de l'IA
Les résultats de l'étude sont clairs : "Les agents étaient sans ambiguïté mauvais pour mener la recherche elle-même", ont déclaré les chercheurs. Les papiers produits étaient loin d'atteindre la qualité requise pour une conférence de haut niveau, soulignant un manque de créativité et de jugement.
- Manque de créativité : Les systèmes d'IA actuels semblent avoir une pensée routinière et formulée, ce qui les empêche d'être de bons chercheurs.