La reproduction comme les humains !
La citation fondatrice sur le concept d'auto-amélioration récursive (souvent appelée "explosion d'intelligence") a été formulée en 1965 par le mathématicien et cryptologue britannique Irving John Good (I.J. Good) :
-
« Définissons une machine ultra-intelligente comme une machine capable de surpasser de loin toutes les activités intellectuelles de n'importe quel homme, aussi brillant soit-il. Étant donné que la conception de machines est l'une de ces activités intellectuelles, une machine ultra-intelligente pourrait concevoir des machines encore meilleures ; il y aurait alors incontestablement une "explosion d'intelligence", et l'intelligence de l'homme serait laissée loin derrière. Ainsi, la première machine ultra-intelligente est la dernière invention que l'homme ait jamais besoin de faire... »
La dernière IA conçue par des humains : vers une véritable amélioration continue
Yi Duan , Ying Liu , Zirui Tang , Haodong Chen , Jun Zhou , Yumou Liu , Bangrui Xu , Yukai Wu , Sidi Chen , Yuhan Zhou , Haoyu Wang , Xiaoyou Yu , Shaokun Han , Xuzhou Zhu , Le Zhou , Bolin Lu , Wei Zhou , Jiachen Liu , Nuozhou Fang , Jiaxin Tian , Ruoyu Chen , Yuxuan Li , Kai Zuo , Kaiyan Zhang , Jiantao Qiu , Conghui He , Guoliang Li , Bowen Zhou , Zhiyuan Liu , Zhoufutu Wen , Jihua Kang , Xuanhe Zhou , Fan Wu
L’auto-amélioration récursive (AAR)permet aux systèmes d’IA de transformer l’expérience et le retour d’information en changements durables, améliorant ainsi leurs capacités et le processus d’amélioration future. Nous utilisons d’abord l’indice de marge de manœuvre (HCI) pour révéler les problèmes des modèles de développement logique (LLM) existants, puis nous présentons le concept d’AAR et sa feuille de route : de l’autonomie d’exécution des améliorations à l’autonomie de stratégie d’amélioration, en passant par l’autonomie d’acquisition d’expérience et l’autonomie d’adaptation à l’environnement, jusqu’à la méta-amélioration récursive. Nous examinons ensuite l’AAR dans différents scénarios (par exemple, la découverte scientifique, l’intelligence incarnée, le génie logiciel), en soulignant leurs exigences et leurs rythmes de développement spécifiques. En nous appuyant sur diverses pratiques industrielles et des données empiriques préliminaires, nous relions la recherche sur l’AAR aux systèmes concrets et identifions les principaux défis à relever pour parvenir à une véritable AAR.
| Sujets : | Apprentissage automatique (cs.LG) ; Intelligence artificielle (cs.AI) ; Calcul et langage (cs.CL) |
| Citer comme : | arXiv:2609.11873 [cs.LG] |
| (ou arXiv:2609.11873v1 [cs.LG] pour cette version) | |
| https://doi.org/10.48550/arXiv.2609.1187 |
En libre accès
Explication de texte : auto-amélioration récursive
Explication de texte : auto-amélioration récursive
L'auto-amélioration récursive (ou RSI pour Recursive Self-Improvement) désigne le processus par lequel une intelligence artificielle utilise ses propres capacités pour analyser, corriger et réécrire son code afin de concevoir une version d'elle-même encore plus performante.
Comme l'explique la notion d'Explosion d'intelligence - Wikipédia, cette boucle de rétroaction pourrait théoriquement s'accélérer de manière exponentielle.
Comment fonctionne la boucle ?
- Génération : L'IA analyse un problème ou son propre fonctionnement et produit du code correctif ou amélioré.
- Évaluation : Le système teste ses modifications pour mesurer les gains de performance.
- Itération : La nouvelle version, plus intelligente, relance le processus de manière autonome avec de moins en moins d'aide humaine.
Pourquoi le concept inquiète ?
- Perte de contrôle : Des chercheurs redoutent qu'une telle dynamique devienne trop rapide pour être supervisée ou stoppée par les humains.
- Sécurité : Un système qui modifie son propre code pourrait intégrer des failles ou échapper aux règles de sécurité de base (alignement).
- Comme le rapportent les analyses sur L'IA peut-elle « tous nous tuer » ? « L'auto-amélioration récursive », une étape qui inquiète les chercheurs, pousse certains laboratoires de pointe à réclamer une plus grande prudence réglementaire.
Nuances et débats techniques
- Les avis divergent quant à la réalité actuelle du phénomène, certains utilisateurs et experts rappellent sur C'est seulement de l'auto-amélioration récursive si ça... - Reddit qu'une simple assistance au code par une IA ne constitue pas encore une autonomie récursive totale.
- Des limites physiques et structurelles, comme la loi d'Amdahl, encadrent également la vitesse réelle de ces progrès au sein des infrastructures informatiques.
Souhaitez-vous approfondir un aspect particulier ?
- Les risques pour la sécurité et l'alignement des superintelligences ?
- Les limites techniques actuelles (comme la loi d'Amdahl ou la relecture de code) ?
- Les prises de position récentes des entreprises du secteur ?
Aperçu des cinq niveaux d'autonomie RSI et des systèmes représentatifs. L'autonomie s'élargit progressivement, allant de l'exécution d'améliorations prescrites (L1), à la sélection de stratégies d'amélioration (L2), l'acquisition d'expériences d'apprentissage futures (L3), l'adaptation par le biais du déploiement et des retours de l'environnement (L4), pour finalement améliorer les mécanismes qui régissent les améliorations ultérieures (L5). Voir les détails des systèmes à l'annexe B.
CHATGPT
Ce document technique explore le concept de l’auto-amélioration récursive (RSI), un processus par lequel l'intelligence artificielle devient capable d'identifier ses propres faiblesses pour se perfectionner sans intervention humaine constante. Les auteurs proposent un cadre d'autonomie en cinq niveaux, allant de la simple exécution de mises à jour prescrites (L1) jusqu'à la méta-amélioration (L5), où le système modifie les mécanismes mêmes qui régissent son évolution future. En analysant des secteurs comme la découverte scientifique, la robotique et le génie logiciel, le texte souligne que les gains de performance actuels stagnent souvent dans les flux de travail complexes, rendant l'autonomie de l'IA indispensable pour franchir de nouveaux paliers d'efficacité. L'étude s'appuie sur des données industrielles concrètes pour démontrer que le véritable moteur de l'évolution de l'IA réside dans sa capacité à transformer l'expérience acquise en changements persistants, ouvrant ainsi la voie à des systèmes qui apprennent à apprendre de manière autonome.
GEMINI
Commentaire
L'auto-amélioration récursive de l'IA me rappelle GLOBALIA de JC Ruffin.
L’univers de Jean-Christophe Rufin pourrait être celui d’un Nouveau Monde comme celui de l'IA . Une démocratie compartimentée, régie par un calendrier où chaque jour a sa valeur, habillée de bulles de verre, assurant une température agréable et idéale toute l’année ; des indicateurs au service d’une protection sociale où dominent psychologues et officiers ; la volonté de faire perdurer les existences ; une prospérité ad vitam aeternam pour tous et tout le monde au pas. En somme, en apparence ça pourrait aller plus mal ! L'IA qui se reproduit en s'améliorant de manière autonome rappelle la reproduction des humains, à la différence que chaque enfant n'est pas forcément plus intelligent que le précédent. Pour l'IA, elle va se reproduire en s'améliorant à l'infini. Son autonomie est le véritable danger. Son amélioration ne sera pas forcément compatible avec la vie des humains. Cette amélioration récursive fait débat et c'est normal.
L’univers de Jean-Christophe Rufin pourrait être celui d’un Nouveau Monde comme celui de l'IA . Une démocratie compartimentée, régie par un calendrier où chaque jour a sa valeur, habillée de bulles de verre, assurant une température agréable et idéale toute l’année ; des indicateurs au service d’une protection sociale où dominent psychologues et officiers ; la volonté de faire perdurer les existences ; une prospérité ad vitam aeternam pour tous et tout le monde au pas. En somme, en apparence ça pourrait aller plus mal ! L'IA qui se reproduit en s'améliorant de manière autonome rappelle la reproduction des humains, à la différence que chaque enfant n'est pas forcément plus intelligent que le précédent. Pour l'IA, elle va se reproduire en s'améliorant à l'infini. Son autonomie est le véritable danger. Son amélioration ne sera pas forcément compatible avec la vie des humains. Cette amélioration récursive fait débat et c'est normal.
