📊 statistics

On Fibonacci Ensembles: An Alternative Approach to Ensemble Learning Inspired by the Timeless Architecture of the Golden Ratio

Ce document introduit les « Ensembles de Fibonacci », un nouveau cadre d'apprentissage d'ensemble inspiré par la suite de Fibonacci qui utilise des poids de Fibonacci normalisés et une dynamique récursive de second ordre pour parvenir à une réduction systématique de la variance et à une profondeur de représentation accrue, démontrant une performance compétitive par rapport aux méthodes d'agrégation classiques dans des expériences de régression contrôlées.

Auteurs originaux : Ernest Fokoué

Publié 2026-08-18

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Ernest Fokoué

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Dans le monde de l'informatique moderne, les machines apprennent souvent en examinant de nombreuses supposations différentes, puis en les combinant pour obtenir une réponse unique et meilleure. Cette approche, connue sous le nom d'apprentissage d'ensemble (ensemble learning), revient à solliciter l'avis d'un panel d'experts plutôt que de se fier à un seul individu. Si les experts sont diversifiés et imparfaits, leur sagesse combinée peut souvent surpasser celle de n'importe quel individu seul. Le défi pour les scientifiques consiste à déterminer comment mélanger ces opinions. Chaque expert doit-il recevoir un vote égal ? Ou certaines voix doivent-elles être plus fortes que d'autres ? Pendant des décennies, la pratique standard a été de traiter chaque apprenant de la même manière, en leur accordant un poids égal, ou de laisser les données décider du mélange par des méthodes complexes de tâtonnement. Mais et s'il existait une règle naturelle et préétablie pour ce mélange, ne nécessitant ni réglage ni supposition ?

Un chercheur de l'Institut de technologie de Rochester a décidé de tester une idée très spécifique inspirée de la nature : la suite de Fibonacci. Il s'agit d'un célèbre motif numérique présent dans les spirales des coquillages et la disposition des feuilles, où chaque nombre est la somme des deux précédents. La question était de savoir si ce rythme mathématique ancestral pouvait servir de recette parfaite pour combiner des modèles d'apprentissage automatique. Le chercheur a entrepris de voir si le fait de pondérer les experts selon cette séquence créerait un système de prédiction plus intelligent et plus stable que les méthodes habituelles. L'enquête a révélé une vérité surprenante sur les limites de cette approche et a clarifié précisément quand un tel motif aide et quand il entrave.

L'étude a commencé par disposer une série de modèles d'apprentissage dans un ordre spécifique, généralement du plus simple au plus complexe, puis en leur attribuant des poids basés sur les nombres de Fibonacci. Les modèles les plus récents et les plus complexes recevaient les poids les plus élevés, suivant la croissance de la séquence. Les chercheurs ont ensuite lancé des milliers de simulations pour voir comment cette méthode se comportait par rapport à une méthode donnant à chaque modèle une voix égale. Ils ont découvert une limite stricte au nombre de modèles que ce système pouvait réellement utiliser. Peu importe le nombre d'experts ajoutés au groupe, le schéma de pondération de Fibonacci n'écoutait effectivement qu'environ quatre d'entre eux. Les poids des modèles plus anciens et plus simples devenaient si infimes qu'ils étaient pratiquement ignorés. Cela signifiait que l'ajout de plus de modèles au mélange ne rendait pas le système plus stable ou plus précis, ce qui est pourtant le principal avantage de l'utilisation de grands groupes d'apprenants.

Parce que le système ignorait efficacement la plupart des experts disponibles, il ne pouvait pas réduire les erreurs aléatoires provenant d'un trop petit nombre de points de données. En fait, pour tout groupe de plus de quatre, la méthode standard consistant à donner une voix égale à chacun était mathématiquement prouvée comme étant meilleure pour réduire ces erreurs aléatoires. La seule façon pour la méthode Fibonacci de l'emporter était que l'ordre des modèles soit crucial. Si les modèles étaient disposés de sorte que les plus importants se trouvent à la toute fin de la liste, la règle de Fibonacci amplifierait ces voix spécifiques. Cependant, si l'ordre était aléatoire ou sans importance, la méthode échouait, performant souvent bien moins bien qu'une simple moyenne.

Les chercheurs ont également testé si le célèbre nombre d'or, le nombre vers lequel la suite de Fibonacci tend, était le réglage parfait pour ce type de pondération. Ils ont comparé la règle de Fibonacci à une large gamme d'autres motifs géométriques pour voir lequel produisait les résultats les plus précis. Les résultats étaient clairs : le nombre d'or n'était pas le meilleur choix. Le réglage idéal changeait en fonction du problème spécifique et du type de données. Parfois, le meilleur motif favorisait les modèles les plus simples, et d'autres fois, il favorisait les plus complexes. Le nombre d'or était rarement le vainqueur, et l'utiliser aveuglément pouvait conduire à des erreurs bien plus importantes que nécessaire.

Pour comprendre pourquoi cela se produisait, l'article a examiné la différence entre deux types de problèmes. Dans certains cas, les données sont comme des blocs de construction où il faut choisir les bons pour construire un mur ; ici, faire la moyenne de tout fonctionne bien. Dans d'autres cas, les données sont comme un signal qui s'atténue avec le temps, où les premières parties sont fortes et les parties ultérieures sont un bruit faible. Dans ces cas de signaux atténués, la règle de Fibonacci était en fait assez mauvaise car elle se concentrait naturellement sur les indices élevés (les modèles complexes) quel que soit l'endroit où se trouvait l'énergie réelle du signal. Si l'information importante était concentrée dans les premiers modèles plus simples, la règle de Fibonacci surpondérait exactement le mauvais bout du spectre. Mais cela ne fonctionnait que si les modèles étaient disposés dans le bon ordre. Lorsque les chercheurs ont mélangé l'ordre des modèles de manière aléatoire, la performance de la méthode Fibonacci s'est effondrée, oscillant violemment entre être très bonne et très mauvaise. Cela a prouvé que la méthode n'est pas un remède miracle ; c'est un outil qui ne fonctionne que si l'utilisateur sait exactement comment disposer les outils.

L'étude a également comparé cette approche à des techniques mathématiques plus anciennes et plus sophistiquées utilisées en statistiques. Ils ont découvert que, bien que la méthode de Fibonacci soit une option décente et gratuite, elle restait loin derrière les meilleures méthodes qui ne nécessitent pas que les poids s'additionnent à un. Le problème principal n'était pas le motif de Fibonacci lui-même, mais la règle qui forçait tous les poids à totaliser une somme spécifique. Cette règle, courante dans de nombreux systèmes d'apprentissage automatique, agit comme un goulot d'étranglement qui empêche le système d'être véritablement optimal. La séquence de Fibonacci a simplement mis en évidence cette limitation en montrant quelle quantité d'information est perdue lorsque l'on force un groupe d'experts à partager un budget d'attention fixe.

Dans des tests utilisant des données réelles, telles que le débit du Nil, l'activité des taches solaires et les températures océaniques, les résultats ont confirmé la théorie. Sur les données des taches solaires, où les motifs sont clairs et ordonnés, la méthode de Fibonacci a amélioré la moyenne simple. Mais sur les données du Nil, où les motifs étaient moins structurés, la méthode a moins bien performé qu'une simple moyenne. Les chercheurs ont trouvé que la meilleure façon de fixer les poids n'était pas d'utiliser un nombre fixe comme le nombre d'or, mais de laisser les données décider elles-mêmes du bon mélange par un processus de test et de validation.

La conclusion finale de ce travail est une correction modeste mais importante de notre façon de penser ces systèmes. La suite de Fibonacci ne détient pas la clé secrète d'un apprentissage automatique parfait. Au lieu de cela, elle sert d'exemple clair de la façon dont une règle de pondération agit comme un filtre. Elle montre qu'une telle règle ne peut que se concentrer sur un petit nombre fixe de modèles, quel que soit le nombre disponible. Le nombre d'or, souvent vu comme un symbole d'harmonie parfaite dans la nature, s'avère n'être qu'un réglage spécifique parmi tant d'autres, et souvent pas le meilleur. La véritable valeur de l'étude réside dans le fait de montrer que la manière dont nous combinons les modèles est une partie critique du processus qui mérite une conception minutieuse, plutôt que d'être simplement un paramètre par défaut. La meilleure approche consiste à comprendre la structure des données et à choisir une méthode de pondération qui s'adapte à cette structure, plutôt que d'espérer qu'un motif mathématique unique résolve tous les problèmes.

Résumé Technique : Sur les Ensembles de Fibonacci

Énoncé du Problème
L'apprentissage d'ensemble repose sur l'agrégation de baseurs imparfaits pour améliorer la performance prédictive. Bien que des méthodes comme le bagging et le boosting soient bien établies, la règle d'agrégation elle-même — la loi de pondération appliquée aux baseurs — est rarement conçue de manière explicite. Elle est typiquement héritée (uniforme pour le bagging), implicite dans la fonction de perte (boosting), ou estimée comme un paramètre nuisible (stacking). Ce document examine si une loi de pondération spécifique et structurée, dérivée de la suite de Fibonacci, peut servir de défaut principiel et sans réglage pour l'agrégation d'ensembles. La question centrale est de savoir si l'architecture récursive de la suite de Fibonacci, qui régit la croissance dans la nature, offre une stratégie mathématiquement optimale pour combiner les apprenants, ou si elle impose simplement des contraintes involontaires.

Méthodologie
L'auteur définit la pondération de Fibonacci où les baseurs $h_1, \dots, h_M$ , ordonnés par complexité croissante, reçoivent des poids proportionnels aux nombres de Fibonacci $F_m$ :
$\alpha_m = \frac{F_m}{\sum_{j=1}^M F_j}$
L'analyse procède à travers plusieurs prismes théoriques et empiriques :

Analyse Asymptotique : En utilisant la formule de Binet, l'auteur dérive le comportement asymptotique de ces poids lorsque $M \to \infty$ , montrant qu'ils convergent vers une progression géométrique de rapport $\phi^{-1}$ (où $\phi$ est le nombre d'or).
Décomposition Biais-Variance : Le risque de l'ensemble est analysé sous l'hypothèse d'une base orthonormée. L'auteur dérive une condition de croisement exacte déterminant quand la pondération géométrique (incluant Fibonacci) surpasse la moyenne uniforme, équilibrant la réduction du biais et l'inflation de la variance.
Stabilité du Flux Récursif : Le papier modélise la construction de l'ensemble comme un flux récursif du second ordre ( $F_m = \beta F_{m-1} + \gamma F_{m-2} + \Delta F_{m-1}$ ). En utilisant les conditions de Schur–Cohn, l'auteur analyse la stabilité de la récursion de Fibonacci classique ( $\beta=1, \gamma=1$ ) et propose une variante « amortie » qui préserve le ratio de mode doré tout en assurant une stabilité $L_2$ .
Benchmarks Comparatifs : La performance de la pondération de Fibonacci et géométrique est comparée à :
- La moyenne uniforme (référence standard).
- La pondération géométrique optimale (où le rapport $r$ est ajusté).
- Les estimateurs de rétrécissement ordonnés classiques (Pinsker, Blockwise Stein) qui n'imposent pas la contrainte du simplexe ( $\sum w_m = 1$ ).
Expérimentations : Des expériences computationnelles utilisent des caractéristiques de Fourier aléatoires et des dictionnaires polynomiaux sur des cibles synthétiques ( $\sin(2\pi x)$ , $\text{sinc}(x)$ ) et des séries temporelles réelles (débits du Nil, activité des taches solaires, températures de surface de l'océan El Niño).

Contributions Clés et Résultats

Taille Effective Fixe de l'Ensemble :
Le résultat structurel central est que les poids de Fibonacci normalisés possèdent une taille effective d'ensemble fixe ( $M_{eff}$ ) quel que soit le nombre total de baseurs $M$ .
$M_{eff} = \left( \sum \alpha_m^2 \right)^{-1} \to \phi^3 = 2 + \sqrt{5} \approx 4.236$
Par conséquent, les ensembles de Fibonacci consultent légèrement plus de quatre apprenants, même si des milliers sont disponibles. Cela implique que la pondération de Fibonacci ne peut pas atteindre la décroissance de la variance en $O(1/M)$ caractéristique du bagging. Pour tout $M > \phi^3$ , la pondération uniforme domine strictement la pondération de Fibonacci en termes de variance.
La Réduction du Biais comme Seul Mécanisme :
Parce que la réduction de la variance est impossible, tout avantage de la pondération de Fibonacci doit provenir de la réduction du biais. Le papier établit une condition nécessaire et suffisante (Théorème 3.1) pour que la pondération géométrique surpasse la moyenne uniforme : l'énergie du signal (coefficients $\theta_m^2$ ) doit être concentrée sur les indices que la loi de pondération valorise.
- Si le signal est aux indices bas (fonctions lisses), le rapport optimal est $r < 1$ (valorisation des premiers apprenants).
- Si le signal est aux indices élevés, le rapport est $r > 1$ .
- Le rapport de Fibonacci $\phi \approx 1.618$ correspond à $r > 1$ , ce qui signifie qu'il valorise les deux derniers apprenants (les indices élevés). Le papier trouve que $\phi$ est rarement le rapport optimal ; dans de nombreuses expériences, le $r$ optimal varie de 0,20 à 2,20. Crucialement, lorsque l'énergie du signal se situe aux indices bas (un scénario courant pour les fonctions lisses), le $r$ optimal est $< 1$ , rendant la pondération de Fibonacci (avec $r=\phi > 1$ ) sous-optimale car elle valorise le « mauvais côté » du dictionnaire.
Équivalence avec la Pondération Géométrique :
L'auteur prouve que pour $M \ge 20$ , les poids de Fibonacci sont numériquement indiscernables des poids géométriques avec un rapport $r = \phi$ . Ainsi, les affirmations concernant la pondération « de Fibonacci » sont en réalité des affirmations concernant le nombre spécifique $\phi$ .
Stabilité des Flux Récursifs :
La récursion de Fibonacci classique est montrée comme étant instable dans un contexte de flux d'ensemble ( $\rho(T) = \phi > 1$ ). L'auteur construit un flux de Fibonacci amorti qui conserve la propriété structurelle du ratio de mode ( $\lambda_+ / |\lambda_-| = \phi^2$ ) tout en satisfaisant les conditions de stabilité de Schur–Cohn ( $\rho(T) < 1$ ).
La Limite de la Contrainte :
Une découverte critique est que la contrainte du simplexe ( $\sum w_m = 1, w_m \ge 0$ ) est le principal goulot d'étranglement de la performance de l'ensemble, et non la loi de pondération spécifique.
- Au sein de la classe des règles d'agrégation convexes (contraintes par le simplexe), la famille géométrique est presque optimale (à moins de 12 % du meilleur estimateur de simplexe possible).
- Cependant, l'ensemble de la classe des estimateurs contraints par le simplexe est 6 à 146 fois moins performant que les méthodes de rétrécissement ordonnées (Pinsker, Blockwise Stein) qui n'imposent pas $\sum w_m = 1$ . La contrainte force les poids à moyen une valeur de $1/M$ , provoquant une sous-estimation sévère des coefficients du signal.
Dépendance à l'Ordre :
La pondération structurée est hautement sensible à l'ordre du dictionnaire. Les études de permutation montrent que la randomisation de l'ordre des apprenants peut dégrader les performances de facteurs de 2,5 à 15. La pondération de Fibonacci n'est bénéfique que lorsque l'indice du dictionnaire porte une signification réelle (par exemple, une complexité ou une fréquence croissante).

Signification et Revendications
Le papier tire une conclusion modeste mais précise : la suite de Fibonacci ne fournit pas une loi de pondération « dorée » et optimale pour l'apprentissage d'ensemble.

Le Rôle du Nombre d'Or : $\phi$ n'est pas un poids privilégié ; plutôt, $\phi^3$ représente la limite exacte de la taille effective d'ensemble qu'un schéma de Fibonacci peut utiliser. C'est une limite, pas une solution.
Le Vrai Problème : La loi de pondération est un « composant conséquentiel et largement non conçu » de l'apprentissage d'ensemble. Le papier soutient que la règle d'agrégation devrait être estimée à partir des données (par exemple, via la validation croisée) plutôt que d'être supposée uniforme ou de Fibonacci.
Implication Pratique : Bien que la pondération de Fibonacci soit un défaut interprétable et sans réglage, elle n'est pas universellement optimale. Son utilité dépend entièrement du compromis biais-variance spécifique à l'ordre du dictionnaire et à la distribution spectrale du signal. Le papier souligne qu'il est plus important de distinguer les apprenants de type « prédicteur » (où la moyenne est naturelle) des apprenants de type « base » (où le rétrécissement est supérieur) que le choix d'une séquence de pondération spécifique.

En résumé, ce papier recadre l'ensemble de Fibonacci non pas comme la découverte d'une loi universelle, mais comme une démonstration rigoureuse des limites de l'agrégation convexe et de l'importance critique de l'ordre du dictionnaire et de la sélection des contraintes dans la conception des ensembles.

Articles similaires