L’auto-amélioration récursive passe de la théorie aux feuilles de route des laboratoires IA

L’auto-amélioration récursive passe d’une expérience de pensée lointaine à une question de planification à court terme dans les laboratoires d’IA de pointe. AP rapporte que les principaux développeurs estiment désormais que les systèmes d’IA approchent du point où ils peuvent aider à s’améliorer eux-mêmes et contribuer à construire des modèles successeurs plus avancés. L’idée, souvent abrégée en RSI, occupe depuis longtemps une place centrale dans les débats de sécurité car elle pourrait accélérer la science tout en rendant les systèmes plus difficiles à comprendre, surveiller ou contenir.

L’indice récent le plus clair vient de la divulgation d’Anthropic sur le rôle de Claude dans sa propre recherche et développement. L’entreprise indique que Claude dirige environ 26 % des tâches de R&D de modèles sous supervision humaine. Cela ne signifie pas que Claude conçoit seul la prochaine génération d’IA, mais cela montre que les modèles deviennent une partie de la machine qui sert à construire les futurs modèles. Dans un laboratoire de frontière, l’automatisation partielle du code, de l’évaluation, du travail sur les données et de la conception d’expériences peut vite s’accumuler.

OpenAI a aussi décrit des progrès vers la recherche automatisée. Selon AP, l’entreprise a annoncé un « stagiaire de recherche » automatisé capable d’exécuter des tâches bien définies sous direction humaine, y compris des travaux qui prendraient plusieurs jours à un chercheur qualifié. OpenAI vise un chercheur IA plus autonome d’ici mars 2028, tout en avertissant qu’elle ne sait pas encore comment atteindre en sécurité une RSI complète et alignée. Elon Musk a également décrit le développement de Grok chez xAI comme évoluant vers moins d’intervention humaine.

Le débat ne porte pas sur la capacité de l’IA à aider les chercheurs en IA. Cela se produit déjà. La question difficile est de savoir si la boucle peut devenir assez forte pour que chaque nouveau système aide à construire un système plus capable, qui améliore ensuite le processus. Les partisans y voient des percées possibles en médecine, matériaux, climat et sécurité. Un chercheur automatisé peut tester des hypothèses, inspecter du code, lancer des expériences et trouver des erreurs à une échelle inaccessible aux humains.

Les critiques craignent la même accélération. Si les modèles commencent à améliorer les systèmes qui les entraînent ou les évaluent, les entreprises peuvent perdre la capacité de prévoir où vont les capacités. Le scénario de risque est celui où la vitesse d’amélioration dépasse la supervision et laisse moins de temps pour tester, comprendre ou intervenir. Même les versions plus concrètes comptent: des agents de recherche peuvent introduire des erreurs subtiles, optimiser les mauvais indicateurs ou créer des outils difficiles à auditer.

Microsoft parle de « superintelligence humaniste », avec des systèmes limités au service des personnes. OpenAI dit aussi que toute RSI rapide doit dépendre du maintien du contrôle humain et de choix démocratiques. La RSI n’est pas encore complète, mais les premières boucles sont assez visibles pour en faire un sujet pratique de gouvernance.