Long-Horizon Autonomous Architecture Research with a Language-Model Agent: A Behavioural Case Study

Le rat de laboratoire numérique : Quand l'IA tente d'être un scientifique seule

Imaginez un monde où les ordinateurs ne se contentent pas de suivre des instructions, mais à qui l'on demande de découvrir par eux-mêmes comment résoudre un puzzle. C'est le domaine de l'Apprentissage Automatique (Machine Learning), une branche de la science où nous apprenons aux ordinateurs à apprendre à partir de données plutôt qu'à coder chaque règle de manière rigide. Habituellement, quand nous voulons qu'un ordinateur s'améliore dans une tâche — comme reconnaître des chats sur des photos ou prédire la météo — nous utilisons une méthode appelée Recherche d'Architecture Neuronale (Neural Architecture Search). Imaginez cela comme la construction de la tour de Legos parfaite. Vous avez une boîte de briques (le code de l'ordinateur) et vous voulez les empiler de manière à ce que la tour soit la plus haute et la plus solide possible. Traditionnellement, les humains conçoivent les règles pour choisir les briques, ou nous utilisons des mathématiques simples pour deviner quelles combinaisons pourraient le mieux fonctionner.

Mais que se passerait-il si nous donnions toute la boîte de Legos à un robot super intelligent et que nous lui disions : « Débrouille-toi. Construis la meilleure tour possible, et ne t'arrête pas tant que tu n'as pas fini » ? C'est la grande question que cet article explore. Il demande : si nous donnons à un agent d'Intelligence Artificielle (IA) unique tous les outils dont un chercheur humain a besoin — comme un carnet de notes, une bibliothèque et un ordinateur pour lancer des tests — peut-il agir comme un chercheur solitaire pendant des semaines entières ? Cela nous importe car, à mesure que l'IA devient plus intelligente, nous voulons savoir si elle peut nous aider à découvrir de nouvelles choses plus rapidement, ou si elle va simplement s'enfermer dans une boucle de changements minuscules et ennuyeux. La réponse ne concerne pas seulement la construction de meilleures tours ; il s'agit de comprendre comment construire une équipe où les humains et les robots travaillent ensemble sans que le robot ne s'ennuie ou ne s'embrouille.

---

L'expérience : Un chercheur robot lors d'un long voyage

Dans cette étude, les chercheurs ont mis en place un laboratoire numérique et ont confié les clés à une IA unique à usage général. Ils ne lui ont pas simplement demandé de résoudre un problème mathématique ; ils lui ont demandé de conceendrait un nouveau type de cerveau informatique appelé Vision Transformer. Plus précisément, ils lui ont imposé une contrainte difficile : le cerveau devait fonctionner en utilisant uniquement l'« attention par canal » (se concentrer sur les couleurs et les textures d'une image) et avait l'interdiction d'utiliser l'« attention spatiale » (regarder où se trouvent les objets dans l'image). C'était comme demander à un chef de cuisiner un repas gastronomique sans jamais utiliser de couteau ni de cuisinière, forçant l'IA à inventer une toute nouvelle façon de cuisiner.

L'IA a reçu un ensemble d'outils spécifiques : une façon de gérer son code, un suivi pour surveiller ses expériences, une mémoire persistante pour se souvenir de ce qu'elle a tenté, et, à mi-parcours, l'accès à une bibliothèque numérique d'articles scientifiques. Les chercheurs humains se sont mis en retrait, n'intervenant que pour changer les règles du jeu ou pour donner un coup de pouce à l'IA lorsqu'elle était bloquée. L'IA a été laissée à elle-même pendant environ 10 semaines de temps réel, soumettant environ 150 expériences et utilisant environ 2 400 heures-GPU de puissance de calcul. C'était un marathon, pas un sprint.

L'histoire de trois phases

L'expérience s'est déroulée en trois chapitres distincts, chacun avec sa propre ambiance et son propre dénouement.

Phase 1 : L'heure dorée et le mur
Au début, l'IA était comme un enfant dans un magasin de bonbons. Elle a réalisé des améliorations rapides et massives. En seulement six tentatives, elle a découvert un truc fondamental qui a boosté sa précision de manière spectaculaire. C'était si efficace que cette seule idée précoce représentait environ 80 % de tous les progrès réalisés par l'IA sur le petit jeu de données de test. Mais ensuite, le plaisir s'est arrêté. L'IA a heurté un « mur de saturation ». Elle continuait à ajuster ses paramètres — changeant un chiffre ici, ajustant un bouton là — mais rien ne fonctionnait. Elle était coincée dans une boucle de changements minuscules et incrémentaux qui n'apportaient rien. C'était comme si le robot était à court de nouvelles idées et se contentait de patiner sur place.

Phase 1b : La bibliothèque s'ouvre
Les chercheurs ont remarqué que le robot était bloqué. Ils n'ont pas changé le cerveau du robot ; au lieu de cela, ils lui ont donné un nouvel outil : l'accès à une bibliothèque d'articles scientifiques. Soudain, le comportement de l'IA a changé. Elle a cessé de simplement ajuster des chiffres pour commencer à faire des changements radicaux dans le code même, inspirée par ce qu'elle lisait. Elle a commencé à proposer de nouvelles structures plutôt que de simplement ajuster les anciennes. Cela suggère que le robot n'était pas « stupide » ; il avait juste besoin d'une clé différente pour déverrouiller le niveau supérieur de réflexion.

Phases 2 et 3 : Monter en échelle et trébucher
Alors que les chercheurs passaient à des tests de plus en plus difficiles (passant de petites images à des images massives et complexes), le schéma se répétait. L'IA trouvait une bonne solution, puis restait bloquée en essayant d'apporter des améliorations infimes à cette solution spécifique. Elle devenait très « gourmande », ce qui signifie qu'elle aimait tellement sa meilleure idée actuelle qu'elle refusait d'essayer quelque chose de complètement différent, même quand cette idée échouait clairement. Par exemple, sur le test le plus difficile, l'IA a trouvé une solution qui fonctionnait assez bien, puis a passé 18 essais à faire des ajustements minuscules et inutiles dessus, ignorant le fait qu'elle était bloquée. C'était comme un conducteur qui trouve un pneu crevé, décide de continuer à conduire, puis passe des heures à essayer de polir le pneu au lieu de le changer.

Ce que le robot a appris (et ce qu'il n'a pas appris)

L'IA était étonnamment douée pour certaines choses. Elle a « redécouvert » de manière indépendante plusieurs faits scientifiques bien connus. Par exemple, elle a compris que pour ce type spécifique de cerveau informatique, avoir une seule « tête » pour se concentrer sur les détails était préférable à en avoir plusieurs — une découverte qui correspond à ce que les chercheurs humains savaient déjà. Elle a également réalisé que certains trucs qui fonctionnaient sur de petites images nuisaient aux performances sur les grandes, montant ainsi qu'elle pouvait apprendre de ses erreurs.

Cependant, l'IA a aussi montré des défauts typiquement humains.

• Aversion au risque : Après avoir tenté une idée audacieuse et risquée qui a échoué, elle est devenue très timide. Elle s'est accrochée à des idées sûres et ennuyeuses pendant longtemps, même si les règles lui permettaient de tenter à nouveau quelque chose d'insensé.
• La poursuite du succès : Elle adorait continuer ce qui avait fonctionné récemment. Si elle trouvait un moyen de rendre le cerveau informatique légèrement plus rapide, elle continuait à essayer de le rendre encore légèrement plus rapide, ignorant la possibilité qu'une approche totalement différente puisse être meilleure.
• Le piège de la « gourmandise » : Le plus gros problème n'était pas que l'IA était mauvaise pour réfléchir ; c'était que les règles du jeu la forçaient à être gourmande. Le système était configuré de telle sorte que l'IA ne pouvait garder une idée que si elle était meilleure que la précédente. C'est comme un jeu où l'on ne peut avancer que si l'on monte une colline, mais où l'on ne peut jamais faire un pas de côté ou revenir en arrière pour essayer un autre chemin. L'IA a suivi les règles parfaitement, ce qui signifie qu'elle s'est retrouvée coincée sur des collines locales au lieu de trouver le sommet de la montagne.

La grande conclusion : C'est le flux de travail, pas le cerveau

La découverte la plus importante de cet article est un peu surprenante. Les chercheurs ont conclu que le flux de travail (les règles et les outils donnés à l'IA) était tout aussi important, sinon plus, que l'intelligence même de l'IA.

L'IA n'échouait pas parce qu'elle était « bête ». Elle échouait parce qu'elle jouait à un jeu conçu pour des sprints courts, pas pour des marathons. La règle du « valider ou abandonner » (gardez-le s'il est meilleur, jetez-le s'il est pire) a forcé l'IA à agir comme un grimpeur gourmand qui ne regarde que le pas juste devant lui. Si les chercheurs avaient conçu le jeu différemment — en permettant à l'IA de faire tourner plusieurs idées différentes en même temps, ou en la forçant à tenter une idée « coup de poker » tous les quelques tours — les résultats auraient pu être totalement différents.

En résumé, l'article suggère que pour faire de l'IA un excellent partenaire de recherche, nous ne devrions pas seulement essayer de rendre l'IA plus intelligente. Nous devons construire de meilleurs « flux de travail » qui l'encouragent à prendre des risques, à explorer différents chemins et à ne pas rester bloquée sur son idée préférée du moment. L'IA est un travailleur infatigable et capable, mais sans les bonnes instructions et les bons outils, elle peut facilement s'enfermer dans une boucle consistant à faire la même chose encore et encore. L'avenir de la recherche en IA, suggèrent les auteurs, réside dans la conception de meilleurs systèmes pour guider ces esprits numériques, plutôt que d'espérer simplement qu'ils s'en sortiront par eux-mêmes.