📊 statistics

On Fibonacci Ensembles: An Alternative Approach to Ensemble Learning Inspired by the Timeless Architecture of the Golden Ratio

Este artigo introduz o "Fibonacci Ensembles", uma nova estrutura de aprendizado de conjunto inspirada na sequência de Fibonacci que utiliza pesos de Fibonacci normalizados e um dinâmico recursivo de segunda ordem para alcançar redução sistemática de variância e profundidade representacional aprimorada, demonstrando desempenho competitivo contra métodos de agregação clássicos em experimentos de regressão controlados.

Autores originais: Ernest Fokoué

Publicado 2026-08-18

📖 7 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Ernest Fokoué

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

No mundo da computação moderna, as máquinas frequentemente aprendem ao observar muitos palpites diferentes e, em seguida, combiná-los em uma única resposta melhor. Essa abordagem, conhecida como aprendizado de conjunto (ensemble learning), é como pedir o conselho de um paino de especialistas em vez de confiar em apenas um. Se os especialistas forem diversos e imperfeitos, sua sabedoria combinada pode frequentemente superar qualquer indivíduo isolado. O desafio para os cientistas é descobrir como misturar essas opiniões. Cada especialista deve ter um voto igual? Ou algumas vozes devem ser mais altas que outras? Durante décadas, a prática padrão tem sido tratar cada aprendiz da mesma forma, dando-lhes peso igual, ou deixar que os dados decidam a mistura por meio de métodos complexos de tentativa e erro. Mas e se houvesse uma regra natural e pré-definida para essa mistura que não exigisse ajuste nem adivinhação?

Um pesquisador do Instituto de Tecnologia de Rochester decidiu testar uma ideia muito específica inspirada na natureza: a sequência de Fibonacci. Este é um famoso padrão numérico encontrado nas espirais de conchas e na disposição das folhas, onde cada número é a soma dos dois anteriores. A questão era se esse ritmo matemático ancestral poderia servir como uma receita perfeita para combinar modelos de aprendizado de máquina. O pesquisador partiu para ver se ponderar os especialistas de acordo com essa sequência criaria um sistema de previsão mais inteligente e estável do que os métodos usuais. A investigação revelou uma verdade surpreendente sobre os limites dessa abordagem e esclareceu exatamente quando tal padrão ajuda e quando ele atrapalha.

O estudo começou organizando uma série de modelos de aprendizado em uma ordem específica, tipicamente do simples para o complexo, e então atribuindo-lhes pesos baseados nos números de Fibonacci. Os modelos mais recentes e complexos receberam os maiores pesos, seguindo o crescimento da sequência. Os pesquisadores então realizaram milhares de simulações para ver como esse método se comparava ao dar a cada modelo uma voz igual. Eles descobriram um limite rígido sobre quantos modelos esse sistema poderia realmente utilizar. Não importava quantos especialistas fossem adicionados ao grupo, o esquema de ponderação de Fibonacci efetivamente ouvia apenas cerca de quatro deles. Os pesos para os modelos mais antigos e simples tornavam-se tão minúsculos que eram praticamente ignorados. Isso significava que adicionar mais modelos à mistura não tornava o sistema mais estável ou preciso, que é o principal benefência de usar grandes grupos de aprendizes.

Como o sistema efetivamente ignorava a maioria dos especialistas disponíveis, ele não conseguia reduzir os erros aleatórios que surgem de ter poucos pontos de dados. Na verdade, para qualquer grupo maior que quatro, o método padrão de dar a todos um voto igual era matematicamente comprovado como melhor para reduzir esses erros aleatórios. A única maneira de o método de Fibonacci possivelmente vencer era se a ordem dos modelos importasse profundamente. Se os modelos fossem organizados de modo que os mais importantes estivessem no final da lista, a regra de Fibonacci impulsionaria essas vozes específicas. No entanto, se a ordem fosse aleatória ou sem importância, o método falharia, muitas vezes performando muito pior do que uma média simples.

Os pesquisadores também testaram se a famosa proporção áurea, o número ao qual a sequência de Fibonacci se aproxima, era a configuração perfeita para esse tipo de ponderação. Eles compararam a regra de Fibonacci contra uma ampla gama de outros padrões geométricos para ver qual produzia os resultados mais precisos. Os resultados foram claros: a proporção áurea não era a melhor escolha. A configuração ideal mudava dependendo do problema específico e do tipo de dados. Às vezes, o melhor padrão favorecia os modelos mais simples e, em outras vezes, favorecia os mais complexos. A proporção áurea era raramente a vencedora, e usá-la cegamente poderia levar a erros que são muitas vezes maiores do que o necessário.

Para entender por que isso aconteceu, o artigo analisou a diferença entre dois tipos de problemas. Em alguns casos, os dados são como um conjunto de blocos de construção onde você precisa escolher os certos para construir uma parede; aqui, a média de tudo funciona bem. Em outros casos, os dados são como um sinal que desaparece com o tempo, onde as partes iniciais são fortes e as partes posteriores são ruído fraco. Nesses casos de sinal que desaparece, a regra de Fibonacci era de fato muito ruim porque focava naturalmente nos índices altos (os modelos complexos), independentemente de onde a energia do sinal real estava localizada. Se a informação importante estivesse concentrada nos modelos iniciais, mais simples, a regra de Fibonacci aumentava o peso justamente do lado errado do espectro. Mas isso só funcionava se os modelos estivessem organizados na ordem correta. Quando os pesquisadores embaralharam a ordem dos modelos aleatoriamente, o desempenho do método de Fibonacci colapsou, oscilando violentamente entre ser muito bom e muito ruim. Isso provou que o método não é uma solução mágica; é uma ferramenta que só funciona se o usuário souber exatamente como organizar as ferramentas.

O estudo também comparou essa abordagem com técnicas matemáticas mais antigas e sofisticadas usadas em estatística. Eles descobriram que, embora o método de Fibonacci fosse uma opção decente e gratuita, ainda estava muito atrás dos melhores métodos que não exigem que os pesos somem um. O problema principal não era o padrão de Fibonacci em si, mas a regra que forçava todos os pesos a somarem um total específico. Essa regra, que é comum em muitos sistemas de aprendizado de máquina, atua como um gargalo que impede o sistema de ser verdadeiramente otim-imizado. A sequência de Fibonacci simplesmente destacou essa limitação ao mostrar quanta informação é perdida quando você força um grupo de especialistas a compartilhar um orçamento fixo de atenção.

Em testes usando dados do mundo real, como o fluxo do Rio Nilo, a atividade das manchas solares e as temperaturas oceânicas, os resultados confirmaram a teoria. Nos dados das manchas solares, onde os padrões são claros e ordenados, o método de Fibonacci melhorou em relação à média simples. Mas nos dados do Nilo, onde os padrões eram menos estruturados, o método performou pior do que apenas tirar uma média simples. Os pesquisadores descobriram que a melhor maneira de definir os pesos não era usar um número fixo como a proporção áurea, mas deixar que os próprios dados decidissem a mistura certa através de um processo de teste e validação.

A conclusão final do trabalho é uma correção modesta, mas importante, sobre como pensamos nesses sistemas. A sequência de Fibonacci não detém uma chave secreta para o aprendizado de máquina perfeito. Em vez disso, ela serve como um exemplo claro de como uma regra de ponderação atua como um filtro. Ela mostra que tal regra só pode sempre focar em um número pequeno e fixo de modelos, não importa quantos estejam disponíveis. A proporção áurea, frequentemente vista como um símbolo de harmonia perfeita na natureza, acaba sendo apenas uma configuração específica entre muitas, e frequentemente não a melhor. O real valor do estudo é mostrar que a maneira como combinamos modelos é uma parte crítica do processo que merece um design cuidadoso, em vez de ser apenas uma configuração padrão. A melhor abordagem é entender a estrutura dos dados e escolher um método de ponderação que se ajuste a essa estrutura, em vez de esperar que um único padrão matemático resolva todos os problemas.

Resumo Técnico: Sobre Ensembles de Fibonacci

Definição do Problema
O aprendizado de ensemble baseia-se na agregação de aprendizes base imperfeitos para melhorar o desempenho preditivo. Embora métodos como bagging e boosting sejam bem estabelecidos, a regra de agregação em si — a lei de ponderação aplicada aos aprendizes base — raramente é projetada explicitamente. Ela é tipicamente herdada (uniforme para bagging), implícita na função de perda (boosting) ou estimada como um parâmetro incerto (stacking). Este artigo investiga se uma lei de ponderação específica e estruturada, derivada da sequência de Fibonacci, pode servir como um padrão principista e livre de ajuste (tuning-free) para a agregação de ensembles. A questão central é se a arquitetura recursiva da sequência de Fibonacci, que governa o crescimento na natureza, oferece uma estratégia matematicamente ótima para combinar aprendizes, ou se ela meramente impõe restrições indesejadas.

Metodologia
O autor define a ponderação de Fibonacci onde os aprendizes base $h_1, \dots, h_M$ , ordenados por complexidade crescente, recebem pesos proporcionais aos números de Fibonacci $F_m$ :
$\alpha_m = \frac{F_m}{\sum_{j=1}^M F_j}$
A análise procede através de várias lentes teóricas e empíricas:

Análise Assintótica: Utilizando a fórmula de Binet, o autor deriva o comportamento assintótico desses pesos conforme $M \to \infty$ , mostrando que eles convergem para uma progressão geométrica com razão $\phi^{-1}$ (onde $\phi$ é a razão áurea).
Decomposição Viés-Variância: O risco do ensemble é analisado sob uma suposição de base ortonormal. O autor deriva uma condição de cruzamento exata que determina quando a ponderação geométrica (incluindo Fibonacci) supera a média uniforme, equilibrando a redução do viés contra a inflação da variância.
Estabilidade de Fluxo Recursivo: O artigo modela a construção do ensemble como um fluxo recursivo de segunda ordem ( $F_m = \beta F_{m-1} + \gamma F_{m-2} + \Delta F_{m-1}$ ). Usando as condições de Schur–Cohn, o autor analisa a estabilidade da recursão clássica de Fibonacci ( $\beta=1, \gamma=1$ ) e propõe uma variante "amortecida" que preserva a razão do modo áureo enquanto garante a estabilidade $L_2$ .
Benchmarks Comparativos: O desempenho da ponderação de Fibonacci e geométrica é comparado contra:
- Média uniforme (linha de base padrão).
- Ponderação geométrica ótima (onde a razão $r$ é ajustada).
- Estimadores de encolhimento ordenados clássicos (Pinsker, Blockwise Stein) que não impõem a restrição do simplex ( $\sum w_m = 1$ ).
Experimentos: Experimentos computacionais utilizam características de Fourier aleatórias e dicionários polinomiais em alvos sintéticos ( $\sin(2\pi x)$ , $\text{sinc}(x)$ ) e séries temporais do mundo real (fluxos do rio Nilo, atividade de manchas solares, temperaturas da superfície do mar do El Niño).

Principais Contribuições e Resultados

Tamanho Efetivo de Ensemble Fixo:
O resultado estrutural central é que os pesos de Fibonacci normalizados possuem um tamanho efetivo de ensemble fixo ( $M_{eff}$ ) independentemente do número total de aprendizes $M$ .
$M_{eff} = \left( \sum \alpha_m^2 \right)^{-1} \to \phi^3 = 2 + \sqrt{5} \approx 4.236$
Consequentemente, os ensembles de Fibonacci consultam ligeiramente mais de quatro aprendizes, mesmo que milhares estejam disponíveis. Isso implica que a ponderação de Fibonacci não pode alcançar a queda de variância de $O(1/M)$ característica do bagging. Para qualquer $M > \phi^3$ , a ponderação uniforme domina estritamente a ponderação de Fibonacci em termos de variância.
Redução de Viés como Único Mecanismo:
Como a redução de variância é impossível, qualquer vantagem da ponderação de Fibonacci deve advir da redução do viés. O artigo estabelece uma condição necessária e suficiente (Teorema 3.1) para que a ponderação geométrica supere a média uniforme: a energia do sinal (coeficientes $\theta_m^2$ ) deve estar concentrada nos índices que a lei de ponderação valoriza.
- Se o sinal estiver em índices baixos (funções suaves), a razão ótima é $r < 1$ (valorizando os aprendizes iniciais).
- Se o sinal estiver em índices altos, $r > 1$ .
- A razão de Fibonacci $\phi \approx 1.618$ corresponde a $r > 1$ , o que significa que ela valoriza os dois últimos aprendizes (os índices altos). O artigo encontra que $\phi$ raramente é a razão ótima; em muitos experimentos, a razão $r$ ótima varia entre 0.20 e 2.20. Crucialmente, quando a energia do sinal reside em índices baixos (um cenário comum para funções suaves), a razão ótima é $r < 1$ , tornando a ponderação de Fibonacci (com $r=\phi > 1$ ) subótima porque ela valoriza o "lado errado" do dicionário.
Equivalência à Ponderação Geométrica:
O autor prova que, para $M \ge 20$ , os pesos de Fibonacci são numericamente indistinguíveis dos pesos geométricos com razão $r = \phi$ . Assim, as afirmações sobre ponderação "de Fibonacci" são, na verdade, afirmações sobre o número específico $\phi$ .
Estabilidade de Fluxos Recursivos:
A recursão clássica de Fibonacci mostra-se instável em um contexto de fluxo de ensemble ( $\rho(T) = \phi > 1$ ). O autor constrói um fluxo de Fibonacci amortecido que retém a propriedade estrutural da razão do modo ( $\lambda_+ / |\lambda_-| = \phi^2$ ) enquanto satisfaz as condições de estabilidade de Schur–Cohn ( $\rho(T) < 1$ ).
A Limitação da Restrição:
Uma descoberta crítica é que a restrição do simplex ( $\sum w_m = 1, w_m \ge 0$ ) é o principal gargalo no desempenho do ensemble, não a lei de ponderação específica.
- Dentro da classe de regras de agregação convexas (restritas pelo simplex), a família geométrica é quase ótima (dentro de 12% do melhor estimador de simplex possível).
- No entanto, toda a classe de estimadores restritos ao simplex é de 6 a 146 vezes pior que os métodos de encolhimento ordenado (Pinsker, Blockwise Stein), que não impõem $\sum w_m = 1$ . A restrição força os pesos a terem uma média de $1/M$ , causando uma subestimação severa dos coeficientes do sinal.
Dependência de Ordem:
A ponderação estruturada é altamente sensível à ordenação do dicionário. Estudos de permutação mostram que randomizar a ordem dos aprendizes pode degradar o desempenho por fatores de 2.5 a 15. A ponderação de Fibonacci só é benéfica quando o índice do dicionário carrega um significado genuíno (ex: complexidade ou frequência crescente).

Significância e Alegações
O artigo chega a uma conclusão modesta, mas precisa: a sequência de Fibonacci não fornece uma lei de ponderação "áurea" ótima para o aprendizado de ensemble.

O Papel da Razão Áurea: $\phi$ não é um peso privilegiado; em vez disso, $\phi^3$ representa o teto exato de aprendizes que um esquema de Fibonacci pode utilizar. É um limite, não uma solução.
O Problema Real: A regra de agregação é um componente "consequencial e amplamente não projetado" do aprendizado de ensemble. O artigo argumenta que a regra de agregação deve ser estimada a partir dos dados (ex: via validação cruzada), em vez de ser assumida como uniforme ou de Fibonacci.
Implicação Prática: Embora a ponderação de Fibonacci seja um padrão interpretável e livre de ajuste, ela não é universalmente ótima. Sua utilidade depende inteiramente do compromisso entre viés e variância específico da ordenação do dicionário e da distribuição espectral do sinal. O artigo enfatiza que distinguir entre aprendizes do tipo "preditor" (onde a média é natural) e do tipo "base" (onde o encolhimento é superior) é mais importante do que a escolha de uma sequência de ponderação específica.

Em resumo, o artigo recontextualiza o ensemble de Fibonacci não como uma descoberta de uma lei universal, mas como uma demonstração rigorosa dos limites da agregação convexa e da importância crítica da ordenação do dicionário e da seleção de restrições no design de ensembles.

Mais como este