🤖 machine learning

Sakana Fugu Technical Report

L'article présente Sakana Fugu, une famille de modèles de langage orchestrateurs qui construisent dynamiquement des échafaudages agentiques pour combiner et amplifier les capacités spécialisées de plusieurs LLM, atteignant ainsi des performances de pointe sur divers benchmarks exigeants.

Auteurs originaux : Yujin Tang, Edoardo Cetin, Jinglue Xu, Qi Sun, Stefan Nielsen, Vincent Richard, Haruto Goda, Iaroslav Tymchenko, Nhan Nguyen, Hyunin Lee, Mari Ashiga, Shashank Kotyan, So Kuroki, Tarin Clanuwat

Publié 2026-06-23

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Yujin Tang, Edoardo Cetin, Jinglue Xu, Qi Sun, Stefan Nielsen, Vincent Richard, Haruto Goda, Iaroslav Tymchenko, Nhan Nguyen, Hyunin Lee, Mari Ashiga, Shashank Kotyan, So Kuroki, Tarin Clanuwat

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous ayez une équipe d'experts de classe mondiale, chacun étant un maître dans un domaine spécifique. L'un est un génie des mathématiques, un autre est un magicien du code, un troisième est un détective en cybersécurité et un quatrième est un chercheur scientifique. Individuellement, ils sont brillants. Mais et si vous pouviez embaucher un gestionnaire super intelligent qui sait exactement quel expert appeler pour chaque problème, et comment les faire travailler ensemble ?

C'est exactement ce qu'est Sakana Fugu.

Selon le rapport technique de Sakana AI, Fugu n'est pas seulement un cerveau géant essayant de tout faire. C'est un « chef d'orchestre » ou un « gestionnaire » qui orchestre une équipe d'autres modèles d'IA puissants (comme GPT-5.5, Claude Opus et Gemini) pour résoudre des problèmes mieux qu'aucun d'entre eux ne pourrait le faire seul.

Voici une décomposition simple de son fonctionnement et de ce qu'il peut faire :

1. Les deux versions : Le « Serveur Rapide » et le « Chef de Cuisine »

L'équipe a sorti deux versions de ce gestionnaire, conçues pour différents besoins :

Fugu (Le Serveur Rapide) : Cette version est conçue pour l'usage quotidien. Lorsque vous posez une question, il agit comme un serveur rapide qui sait instantanément quel expert en cuisine est le mieux adapté à votre commande. Il choisit un seul expert pour faire le travail immédiatement. Il est rapide, possède une faible latence et est idéal pour les tâches quotidiennes, mais il choisit tout de même la meilleure personne pour la tâche.
Fugu-Ultra (Le Chef de Cuisine) : Cette version est destinée aux problèmes les plus difficiles et les plus complexes, où la vitesse importe moins que la perfection de la réponse. Au lieu de simplement choisir une personne, il construit toute une brigade de cuisine. Il peut demander à un expert de rédiger un plan, à un deuxième de vérifier les calculs, à un troisième d'écrire le code et à un quatrième de le déboguer. Cela prend plus de temps, mais il combine les forces de toute l'équipe pour s'attaquer à des problèmes trop complexes pour un seul modèle.

2. Comment il apprend : Le « Recruteur de Talents »

Vous vous demandez peut-être : « Comment Fugu sait-il quel expert est le meilleur pour quel travail ? »

Le document explique que Fugu a été entraîné comme un recruteur de talents.

L'entraînement : Les chercheurs ont soumis à Fugu des milliers de problèmes. Ils ont observé comment les différents experts (les « travailleurs ») se comportaient sur chacun d'eux.
L'apprentissage : Fugu a appris un schéma. Par exemple, il a appris que « Gemini est incroyable pour les questions scientifiques », tandis que « GPT est un magicien pour les mathématiques complexes » et que « Claude Opus est le meilleur pour trouver des failles de sécurité ».
Le résultat : Au lieu de mémoriser des réponses, Fugu a appris à orienter les questions. Il examine votre question, réfléchit : « Ah, cela nécessite un expert en mathématiques », et l'envoie instantanément au bon modèle.

3. Ce qu'il peut faire : L'effet « Couteau Suisse »

Le rapport montre qu'en utilisant cette approche de « travail d'équipe », Fugu bat les experts individuels dans de nombreux domaines. C'est comme avoir un couteau suisse où chaque outil est la meilleure version de lui-même, et où le manche sait exactement quel outil sortir.

Voici quelques exemples spécifiques tirés du document :

Codage et Logiciels : Dans les tests où l'IA devait corriger des bugs dans de vrais logiciels, Fugu-Ultra était le plus performant. Il faisait appel à un modèle « bâtisseur » pour écrire le code, puis passait à un modèle « débogueur » pour trouver les erreurs, puis revenait pour les corriger. Ce va-et-vient était plus efficace que n'importe quel modèle unique essayant de le faire seul.
Science et Mathématiques : Sur des examens scientifiques difficiles (comme « Humanity's Last Exam »), Fugu-Ultra a obtenu des scores plus élevés que les modèles individuels. Il savait utiliser le modèle axé sur les mathématiques pour les problèmes de physique et le modèle axé sur les sciences pour les questions de biologie.
Résolution de problèmes créatifs : Le document décrit un test où l'IA devait déterminer l'ordre de lecture de lettres japonaises anciennes et désordonnées éparpillées sur une page. Fugu-Ultra n'a pas simplement deviné ; il a écrit un programme personnalisé pour résoudre l'énigme, l'a amélioré et a résolu le problème mieux que n'importe quel modèle unique.
Design : Il a même conçu un iris de caméra mécanique fonctionnel (la partie qui s'ouvre et se ferme dans un objectif) qui bougeait correctement, alors que d'autres modèles créaient des designs défectueux ou non fonctionnels.

4. Pourquoi cela importe : L'« Orchestre » contre le « Soliste »

Le point principal du document est que nous n'avons pas nécessairement besoin de construire un seul cerveau massif et super coûteux pour obtenir une meilleure IA. Au lieu de cela, nous pouvons construire un système qui sait utiliser les cerveaux que nous avons déjà.

L'ancienne méthode : Essayer de rendre un seul modèle si grand et si intelligent qu'il puisse tout faire parfaitement.
La méthode Fugu : Garder les experts spécialisés (le gars des maths, le gars du code, le gars des sciences) et embaucher un gestionnaire intelligent (Fugu) pour les coordonner.

Le document affirme que cette approche leur permet d'atteindre des résultats « state-of-the-art » (à la pointe de la technologie) — ce qui signifie les meilleurs scores sur des tests difficiles — sans avoir besoin d'entraîner un nouveau modèle massif à partir de zéro. Cela transforme une collection d'outils spécialisés en un système unique et incroyablement capable.

En résumé : Sakana Fugu est un gestionnaire intelligent qui sait exactement quel expert en IA appeler pour la tâche, qu'il s'agisse d'une réponse rapide ou d'un puzzle complexe en plusieurs étapes, résultant en une équipe plus intelligente que la somme de ses parties.

Résumé Technique : Sakana Fugu

Problématique

Les modèles de langage de pointe (LLM) ont atteint des performances de niveau expert dans divers domaines, pourtant ils présentent des spécialisations de plus en plus différenciées. Par exemple, alors que certains modèles excellent dans le raisonnement mathématique ou la preuve de théorèmes, d'autres dominent l'ingénierie logicielle, la cybersécurité ou l'implémentation algorithmique. De plus, au sein d'un même domaine, les modèles possèdent souvent des forces fines (par exemple, l'implémentation directe d'algorithmes versus la planification complexe).

Les approches actuelles pour accroître les capacités de l'IA reposent principalement sur l'entraînement de modèles plus grands et plus coûteux. Cependant, l'article soutient que la prochaine frontière ne sera peut-être pas atteinte par un modèle monolithique unique, mais par des systèmes capables d'identifier, de combiner et d'amplifier les forces complémentaires de multiples modèles spécialisés. De plus, bien que les « échafaudages agentiques » (prompting structuré, utilisation d'outils, retour d'expérience de l'environnement) aient amélioré les performances individuelles des modèles, ce sont souvent des systèmes fixes et spécifiques à une tâche. Il existe un besoin pour un système capable d'orchestrer dynamiquement une équipe d'agents, en adaptant le flux de travail, la topologie de communication et l'utilisation des outils aux exigences spécifiques de chaque requête, traitant ainsi l'intelligence collective comme un axe d'échelle au-delà de la taille brute du modèle.

Méthodologie

Sakana Fugu est une famille de modèles orchestrateurs appris, conçus pour exposer un système multi-agents via une interface de modèle unique. Au lieu d'exiger des utilisateurs qu'ils conçoivent des flux de travail, les modèles Fugu construisent dynamiquement des « échafaudages agentiques » sur un pool de travailleurs LLM de pointe. Le système publie deux variantes optimisées pour différents points d'opération : Fugu (sensible à la latence) et Fugu-Ultra (priorisant la performance).

1. Fugu : Équilibrer Performance et Latence

Fugu est conçu pour un usage interactif, sélectionnant un seul travailleur par entrée afin de minimiser la latence tout en maximisant la probabilité de sélectionner l'agent le plus capable.

Paramétrage : Fugu utilise un squelette de modèle de langage pré-entraîné avec une tête de sélection légère attachée à la dernière couche cachée. Contra-rément aux coordinateurs précédents qui assignent des rôles, la tête de Fugu produit des logits pour $L$ modèles travailleurs, en sélectionnant un pour agir en tant que travailleur. Pour adapter efficacement le squelette sans un ajustement fin complet, le système emploie un ajustement fin par valeurs singulières, entraînant uniquement les échelles de valeurs singulières des matrices de paramètres sélectionnées.
Paradigme d'entraînement :
- Ajustement fin supervisé (SFT) : Le modèle est entraîné sur des tâches à étape unique (codage, mathématiques, raisonnement). Les étiquettes sont générées en exécutant tous les modèles travailleurs sur une tâche et en les classant selon leur performance par rapport à la vérité terrain. L'orchestrateur est entraîné pour prédire une distribution de probabilité douce sur les travailleurs (via softmax) plutôt qu'une étiquette unique stricte, fournissant un signal plus riche.
- Optimisation évolutive : Après le SFT, Fugu est optimisé via sep-CMA-ES (stratégie d'adaptation de la matrice de covariance séparable) sur des tâches multi-tours complexes (par exemple, des assistants de codage avec utilisation d'outils et retour d'expérience de l'environnement). Cette étape optimise la récompense terminale attendue de la trajectoire d'interaction, permettant au modèle d'apprendre des capacités pratiques telles que la fiabilité des outils et le débogage itératif que les benchmarks statiques ne saisissent pas.

2. Fugu-Ultra : Prioriser la Performance

Fugu-Ultra est conçu pour des charges de travail complexes et multi-étapes où la qualité de la réponse prime sur la latence. Il s'appuie sur le cadre Conductor, qui génère des flux de travail agentiques en langage naturel.

Génération de flux de travail : L'orchestrateur produit une séquence d'étapes de flux de travail, définissant des sous-tâches, assignant des agents travailleurs spécifiques et spécifiant des listes d'accès (quels résultats précédents doivent être inclus dans le contexte). Cela permet des topologies arbitraires, allant de chaînes séquentielles à des arbres parallèles.
Entraînement : Entraîné en utilisant GRPO (Optimisation de politique relative groupée) sur une fonction de récompense qui pénalise les erreurs de formatage et récompense l'achèvement correct de la tâche.
Mémoire Avancée et Isolation :
- Isolation intra-flux de travail : Pour éviter l'« effondrement de l'orchestration » (où la trajectoire du premier agent biaise tous les agents suivants), les agents au sein d'un même flux de travail sont isolés. Ils ne voient que le contexte explicitement autorisé par la liste d'accès, préservant ainsi leurs chemins de solution indépendants.
- Mémoire partagée persistante : Les agents conservent la mémoire des interactions à travers différents flux de travail (conversations multi-tours) pour éviter les appels d'outils redondants et maintenir le contexte, tout en restant isolés au sein du flux de travail actuel.
Pool d'agents : Le système orchestre un pool diversifié de modèles de pointe (par exemple, Gemini-3.1-Pro, Claude-Opus-4.8, GPT-5.5).

Principales Contributions

L'Orchestration Apprise comme Axe d'Échelle : L'article propose l'orchestration de modèles comme un axe d'échelle complémentaire à l'augmentation de la taille des modèles. Il démontre que la combinaison de modèles spécialisés existants peut produire des performances dépassant les meilleurs modèles individuels sans nécessiter de nouveaux entraînements ou d'accès aux paramètres.
Échafaudages Dynamiques et Adaptatifs aux Requêtes : Contrairement aux cadres agentiques fixes, les modèles Fugu apprennent à concevoir dynamiquement des échafaudages (routage, topologie, stratégies de communication) spécifiques à chaque requête. Cela inclut la sélection de l'agrégateur optimal (par exemple, utiliser un modèle spécialiste en mathématiques pour l'agrégation dans des tâches riches en mathématiques et un spécialiste de la recherche de faits pour les questions de culture générale).
Système Prêt pour la Production : Le rapport détaille l'infrastructure et les principes de conception (par exemple, l'ajustement fin par valeurs singulières pour l'efficacité, les stratégies évolutives pour la robustesse) qui transforment les concepts de recherche multi-agents en un système de production capable de gérer des tâches interactives réelles.
Sortie à Deux Niveaux : L'introduction de Fugu (faible latence, sélection d'agent unique) et Fugu-Ultra (haute performance, flux de travail multi-agents) offre des options pratiques pour différents cas d'utilisation.

Résultats

Les modèles Fugu ont été évalués sur une suite de benchmarks exigeants, surpassant souvent les modèles de pointe de l'état de l'art et les modèles propriétaires en version « preview ».

Codage Agentique : Fugu-Ultra a obtenu des résultats de pointe sur SWE-Bench Pro (73,7 %) et Terminal Bench 2.1 (82,1 %), dépassant les meilleurs modèles publics de 5 à 6 points de pourcentage. Il a démontré une adaptabilité fine, alternant entre GPT-5.5 pour la construction et Claude-Opus-4.8 pour le débogage.
Raisonnement Scientifique : Fugu et Fugu-Ultra ont tous deux atteint 95,5 % sur GPQA-Diamond, surpassant Gemini-3.1-Pro (94,3 %) et GPT-5.5 (93,6). Le système a réussi à router les sous-tâches lourdes en mathématiques vers GPT et les tâches lourdes en sciences vers Gemini.
Autres Benchmarks :
- LiveCodeBench Pro : 90,8 % (Fugu-Ultra) contre 88,4 % (GPT-5.5).
- CharXiv Reasoning : 86,6 % (Fugu-Ultra) contre 84,1 % (GPT-5.5).
- Humanity's Last Exam : 50,0 % (Fugu-Ultra), surpassant toutes les bases de référence.
Tâches Qualitatives :
- AutoResearch : Dans l'optimisation autonome de l'entraînement de l'apprentissage automatique, Fugu-Ultra a obtenu un nombre de bits par octet de validation plus faible (0,9774) que les bases de référence à modèle unique, démontrant une constance et une performance de pointe supérieures dans la recherche à long horizon.
- Lecture du Japonais Classique : Fugu-Ultra a obtenu une distance d'édition normalisée (NED) moyenne de 0,776 pour la récupération de l'ordre de lecture de lettres japonaises classiques éparpillées, surpassant nettement la meilleure base de référence de pointe (0,642).
- Génération de CAO (CAD) : Fugu-Ultra a produit de manière cohérente des conceptions CAO mécaniquement valides et complètes (par exemple, des mécanismes d'iris de caméra) là où d'autres modèles produisaient des résultats incomplets ou structurellement faibles.

Signification et Revendications

L'article affirme que Sakana Fugu représente un changement dans la manière dont les capacités de l'IA de pointe peuvent être accédées et mises à l'échelle.

Démocratisation de la Capacité : En composant les modèles au niveau comportemental plutôt qu'au niveau des paramètres, Fugu peut incorporer des modèles de pointe à code source fermé et des fournisseurs hétérogènes sans nécessiter l'accès à leurs poids. Cela rend les capacités de pointe plus modulaires et accessibles.
Implications Économiques et Géopolitiques : Les auteurs suggèrent que traiter l'orchestration comme un axe d'échelle pourrait distribuer plus largement les bénéfices de l'IA de pointe, permettant aux organisations d'atteindre des performances élevées sans les ressources de calcul massives requises pour entraîner les plus grands modèles.
Intelligence Collective : Ce travail valide l'hypothèse que l'« intelligence collective » est une propriété émergente de collectifs de modèles coordonnés. Il démontre qu'un système peut concevoir des logiciels comme le meilleur codeur, raisonner mathématiquement comme le meilleur mathématicien, et décider dynamiquement quand déployer chacun, créant ainsi efficacement un « super-agent » à partir de composants existants.

Les auteurs positionnent Fugu comme une première étape vers un avenir où le progrès de l'IA ne dépend pas seulement de l'entraînement de modèles plus grands, mais de l'apprentissage de la manière dont les modèles spécialisés peuvent collaborer via des échafaudages dynamiques et adaptatifs aux requêtes.