🤖 AI

Framework of Thoughts: A Foundation Framework for Dynamic and Optimized Reasoning based on Chains, Trees, and Graphs

O artigo apresenta o Framework of Thoughts (FoT), uma estrutura de fundação de propósito geral que supera as limitações estáticas e não otimizadas dos esquemas de raciocínio existentes ao permitir uma execução dinâmica, adaptativa e de custo eficiente por meio de recursos integrados como ajuste de hiperparâmetros, processamento paralelo e cache inteligente.

Autores originais: Felix Fricke, Simon Malberg, Georg Groh

Publicado 2026-07-07

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Felix Fricke, Simon Malberg, Georg Groh

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está tentando resolver um quebra-cabeça muito difícil, como um problema matemático complexo ou um enigma de lógica complicado. Você tem um assistente brilhante, mas um pouco disperso (uma IA), que pode ajudá-lo, mas ele precisa de instruções claras sobre como pensar.

Por um tempo, pesquisadores têm dado a esse assistente diferentes "estratégias de pensamento" para ajudá-lo a resolver problemas melhor. Alguns estratégias dizem ao assistente para pensar em linha reta (como uma Corrente). Outras dizem para ele se ramificar como uma Árvore, explorando muitas possibilidades antes de escolher uma. Ainda outras usam um Grafo, onde as ideias podem fazer loops e se conectar de formas complexas.

O problema com essas estratégias existentes é que elas são como mapas rígidos e pré-desenhados.

Elas são estáticas: Você tem que desenhar o mapa antes de começar. Se o quebra-cabeça mudar ou você encontrar um novo tipo de problema, o mapa não serve e o assistente fica travado.
Elas são ineficientes: O assistente muitas vezes percorre o mesmo caminho duas vezes, desperdiçando tempo e dinheiro (já que rodar IA custa dinheiro).
Não são otimizadas: Ninguém realmente conhece as instruções ou configurações "perfeitas" para esses mapas, então o assistente muitas vezes performa pior do que poderia.

Surge o "Framework of Thoughts" (FoT)

Os autores deste artigo introduzem o FoT, que não é uma nova estratégia de pensamento em si. Em vez disso, pense no FoT como um canteiro de obras super inteligente e dinâmico onde você pode construir qualquer estratégia de pensamento que desejar.

Aqui está como o FoT funciona, usando analogias simples:

1. O Projeto Mutável (Grafos Dinâmicos)

Nos sistemas antigos, o projeto para resolver um problema era desenhado no papel e não podia mudar. Se o assistente precisasse voltar para repensar um passo, o projeto não permitia isso.

A abordagem do FoT: Imagine um projeto feito de peças de LEGO magnéticas. Enquanto o assistente trabalha, ele pode encaixar novas peças no tabuleiro ou remover as antigas. A estrutura da solução pode crescer, encolher ou mudar de forma enquanto o trabalho está acontecendo. Isso permite que a IA se adapte a problemas que ela nunca viu antes.

2. A Linha de Montagem (Execução Paralela)

Os sistemas antigos faziam o assistente fazer um passo, esperar terminar, e então fazer o próximo, como uma única pessoa caminhando por um longo corredor.

A abordagem do FoT: O FoT atua como uma cozinha movimentada com muitos chefs. Se dois passos não dependem um do outro (como picar cebolas e ferver água), o FoF permite que dois "chefs" diferentes (ou chamadas de IA) façam isso ao mesmo tempo. Isso faz com que todo o processo termine muito mais rápido.

3. O Banco de Memória (Cache Inteligente)

Às vezes, o assistente é solicitado a resolver exatamente o mesmo pequeno subproblema duas vezes. Nos sistemas antigos, eles fariam o trabalho duas vezes, desperdiçando tempo e dinheiro.

A abordagem do FoT: O FoT mantém um post-it na parede. Se o assistente já resolveu uma peça específica do quebra-cabeça, o FoT diz: "Ei, nós fizemos isso ontem! Aqui está a resposta no post-it". Isso economiza uma quantidade enorme de dinheiro e tempo.

4. O Botão de Ajuste (Otimização Automática)

A maioria das estratégias de pensamento tem "botões" (configurações) e "instruções" (prompts) que precisam ser ajustados para funcionar bem. Geralmente, os pesquisadores apenas adivinham essas configurações, o que é lento e caro.

A abordagem do FoT: O FoT vem com um ajustador automático integrado. Ele tenta automaticamente milhares de combinações diferentes de instruções e configurações para encontrar a perfeita. Devendo-se ao "Banco de Memória" (cache) e à "Linha de Montagem" (paralelismo) mencionados acima, o FoT pode realizar esse ajuste de forma incrivelmente rápida e barata, enquanto fazê-lo com sistemas antigos seria caro demais para sequer tentar.

O Que Eles Provaram?

Os autores testaram este novo "canteiro de obras" reconstruindo três estratégias de pensamento populares (Tree of Thoughts, Graph of Thoughts e ProbTree) dentro do FoT. Eles compararam as versões antigas e rígidas contra as novas versões do FoT em tarefas como:

Resolver quebra-cabeças matemáticos (Game of 24).
Ordenar listas de números.
Mesclar documentos.
Responder a perguntas complexas.

Os Resultados:

Velocidade: O FoT tornou a IA 10 vezes mais rápida em média. Em alguns casos, foi 35 vezes mais rápida.
Custo: Ao lembrar de respostas passadas (cache), o FoT reduziu o custo de rodar essas tarefas em quase metade em alguns cenários.
Mais Inteligente: Ao usar o ajustador automático, o FoT encontrou configurações que tornaram a IA mais precisa e mais barata de rodar ao mesmo tempo.

A Conclusão

O artigo argumenta que não devemos apenas continuar desenhando mapas estáticos para a IA seguir. Em vez disso, devemos construir sistemas flexíveis e dinâmicos que possam mudar sua própria estrutura, trabalhar em equipe (paralelismo), lembrar seu trabalho passado (cache) e melhorar constantemente suas próprias instruções (otimização). O FoT é o conjunto de ferramentas que torna tudo isso possível.

Resumo Técnico: Framework of Thoughts (FoT)

Declaração do Problema

Os esquemas de prompting atuais para Grandes Modelos de Linguagem (LLMs) — como Chain of Thought (CoT), Tree of Thoughts (ToT) e Graph of Thoughts (GoT) — demonstraram melhorias significativas nas capacidades de raciocínio. No entanto, os autores identificam três limitações críticas nas abordagens existentes:

Estruturas Estáticas e Manuais: A maioria dos esquemas depende de estruturas de grafos estáticas e definidas manualmente. Os usuários devem especificar prompts específicos para a tarefa e lógica de decomposição a priori. Essa falta de adaptabilidade impede a generalização para tipos de problemas dinâmicos ou não vistos, onde a estrutura de raciocínio ideal não pode ser conhecida antecipadamente.
Otimização Insuficiente: Os esquemas existentes frequentemente sofrem com um potencial de precisão não explorado devido à falta de otimização sistemática de hiperparâmetros e prompts. O alto custo de testar várias combinações leva a configurações subótimas, tornando incerto se as diferenças de desempenho decorrem de uma superioridade arquitetônica ou de escolhas de parâmetros sortudas.
Execução Ineficiente: Muitos esquemas executam prompts de LLM de forma sequencial e redundante. Eles falham em aproveitar a execução paralela ou o cache, resultando em custos de inferência desnecessários e tempos de espera significativos, particularmente quando as mesmas operações ou entradas são repetidas.

Metodologia: Framework of Thoughts (FoT)

Para abordar essas limitações, os autores introduzem o Framework of Thoughts (FoT), um framework de fundação de propósito geral projetado para implementar e otimizar esquemas de raciocínio dinâmicos. O FoT não é um esquema de prompting específico em si, mas uma infraestrutura modular que suporta cadeias, árvores e grafos.

Componentes Arquiteturais Principais

Estruturas de Grafos Dinâmicas: O FoT distingue dois tipos de grafos:
- Grafo de Execução ( $G_X$ ): Modela a sequência de operações, suas entradas/saídas e o histórico completo de execução. Diferente de frameworks estáticos, este grafo pode ser modificado e evoluir dinamicamente durante a execução com base nos resultados das operações.
- Grafo de Raciocínio ( $G_R$ ): Uma representação mais simples das dependências lógicas entre os pensamentos (nós) gerados por operações concluídas.
- Operações: Os blocos de construção do framework. Uma operação é uma função que recebe pensamentos de entrada e um grafo de execução, retornando pensamentos atualizados e um grafo de execução potencialmente modificado. Isso permite a derivação automática de estruturas de grafo.
Execução Paralela Segura: Para permitir a concorrência sem condições de corrida em um grafo que evolui dinamicamente, o FoT emprega um Controlador e um Escalonador. Ele impõe restrições estritas às modificações do grafo:
- As operações podem visualizar apenas seus ancestrais, descendentes e a si mesmas.
- As operações não podem modificar ancestrais (já executados) ou descendentes não exclusivos (para evitar conflitos).
- As operações só podem modificar seus "descendentes exclusivos" e adicionar conexões dentro deste subgrafo seguro.
Cache Eficiente: O FoT implementa duas estratégias de cache para reduzir chamadas redundantes de LLM:
- Cache de Processo: Armazena temporariamente os resultados dentro da execução de uma única instância de problema.
- Cache Persistente: Armazena resultados através de múltiplas instâncias de problemas, permitindo que o sistema recupere saídas para entradas idênticas em tarefas subsequentes.
Ferramentas de Otimização: O framework integra o Optuna para ajuste de hiperparâmetros e o DSPy para otimização de prompts. Essas ferramentas permitem que os desenvolvedores otimizem para precisão, tempo de execução ou custo, com o cache tornando o processo de otimização computacionalmente viável.

Principais Contribuições

Um Framework de Fundação Dinâmico: O FoT permite a implementação de esquemas de raciocínio onde as estruturas de grafo não são pré-definidas, mas evoluem automaticamente durante a execução. Isso contrasta com frameworks como GoT ou LangGraph, que são projetados primariamente para fluxos estáticos.
Mecanismos de Otimização de Desempenho: Ao integrar execução paralela e cache persistente, o FoT desbloqueia o potencial latente de desempenho, reduzindo significativamente os custos de inferência e o tempo de execução.
Pipeline de Otimização Sistemática: A inclusão de ferramentas integradas de otimização de hiperparâmetros e prompts aborda o problema da configuração manual subótima, permitindo que os esquemas alcancem seu verdadeiro teto de desempenho.
Validação Empírica: Os autores reimplementaram três esquemas populares — Tree of Thoughts (ToT), Graph of Thoughts (GoT) e ProbTree — dentro do FoT para demonstrar sua universalidade e ganhos de eficiência.

Resultados Experimentais

Os autores avaliaram o FoT em cinco tarefas: Game of 24 (Go24), Sorting, Document Merging (DM), HotpotQA e MuSiQue.

Ganhos de Eficiência:
- Tempo de Execução: A execução paralela combinada com o cache persistente acelerou a execução de 1.9x a 35.4x, dependendo da tarefa e do esquema. A aceleração média em todas as tarefas foi de 10.7x em comparação com as implementações sequenciais de base.
- Custo: O cache reduziu os custos de inferência de 14% a 46% em tarefas com padrões recorrentes (Go24, DM, MuSiQue).
Impacto da Otimização:
- Usando as ferramentas de otimização do FoT, os autores melhoraram as pontuações das tarefas (precisão ou F1) enquanto simultaneamente reduziam os custos para todos os esquemas avaliados.
- Viabilidade da Otimização: O processo de otimização em si é intensivo em recursos. No entanto, com o cache, o custo da otimização foi reduzido para 9%–36% do custo sem o cache, e a duração foi reduzida por fatores de 8.7x a 50.2x. Isso demonstra que a otimização sistemática é frequentemente viável apenas quando apoiada por cache eficiente e paralelização.

Significância e Alegações

O artigo afirma que o FoT representa uma mudança dos fluxos de raciocínio estáticos e engenheirados manualmente para sistemas de raciocínio adaptativos e dinâmicos.

Adaptabilidade: Ao permitir que as estruturas de grafo evoluam, o FoT pavimenta o caminho para esquemas de raciocínio que podem lidar com tipos de problemas anteriormente não vistos ou altamente heterogêneos sem exigir reengenharia manual.
Eficiência como um Pré-requisito para Otimização: Os autores enfatizam que a configuração "eficiente por padrão" (paralelização + cache) não é meramente uma melhoria incremental, mas um pré-requisito para tornar viável a otimização sistemática de esquemas de raciocínio. Sem essas funcionalidades, o tempo e o orçamento necessários para ajustar prompts e hiperparâmetros são frequentemente proibitivos.
Generalização: O framework é projetado para ser aberto e modular, suportando qualquer operação definível em Python (chamadas de LLM, uso de ferramentas, execução de código), facilitando assim o desenvolvimento de futuros esquemas de raciocínio dinâmicos e eficientes.

Os autores concluem que, embora tenham implementado esquemas semiautomáticos e manuais para demonstrar o framework, o verdadeiro potencial do FoT reside em permitir esquemas totalmente automáticos que derivam dinamicamente estruturas de raciocínio para problemas complexos do mundo real.