💬 NLP

AdaReasoner: Dynamic Tool Orchestration for Iterative Visual Reasoning

O AdaReasoner é uma família de modelos multimodais que alcança o estado da arte em raciocínio visual e generalização para ferramentas não vistas ao aprender a orquestração de ferramentas como uma habilidade geral por meio de um pipeline de dados escalável, aprendizado por reforço Tool-GRPO e um mecanismo adaptativo para regulação dinâmica de ferramentas.

Autores originais: Mingyang Song, Haoyu Sun, Jiawei Gu, Linjie Li, Luxin Xu, Ranjay Krishna, Yu Cheng

Publicado 2026-01-29

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Mingyang Song, Haoyu Sun, Jiawei Gu, Linjie Li, Luxin Xu, Ranjay Krishna, Yu Cheng

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem um assistente brilhante, mas um pouco desastrado, que está tentando resolver um quebra-cabeça complexo, como navegar em um labirinto ou consertar um quadro quebrado. Às vezes, esse assistente fica travado porque não consegue ver os detalhes claramente ou esquece as regras do labirinto.

AdaReasoner é uma nova maneira de treinar esse assistente para que ele pare de tentar fazer tudo de cabeça e comece a saber exatamente quando pedir ajuda, qual ferramenta pedir e como usá-la.

Aqui está o detalhamento de como funciona, usando analogias simples:

1. O Problema: A Armadilha do "Fazer Tudo Sozinho"

Os modelos de IA atuais são como alunos que recebem a instrução de resolver um problema de matemática usando apenas o cérebro. Se o problema exigir uma calculadora, o aluno pode chutar a resposta ou tentar fazer a conta de cabeça e errar. Eles não sabem quando pegar a calculadora, ou podem pegar a errada (como uma régua em vez de uma calculadora).

2. A Solução: Uma "Orquestra de Ferramentas"

Os pesquisadores criaram o AdaReasoner, que trata as ferramentas (como uma lupa, um mapa ou uma calculadora) como instrumentos em uma orquestra. A IA não é mais apenas uma solista; ela é uma maestrina.

Ela sabe quando tocar: Ela aprende que, para algumas tarefas, precisa dar um zoom (uma ferramenta de "lupa"), mas para outras, precisa traçar uma linha (uma ferramenta de "régua").
Ela sabe quando parar: Se uma ferramenta não ajuda, ela aprende a deixá-la de lado e tentar uma abordagem diferente.
Ela se adapta a novos instrumentos: Mesmo que você dê à IA uma ferramenta totalmente nova que ela nunca viu antes, ela consegue descobrir como usá-la apenas lendo o manual de instruções (a descrição da ferramenta).

3. Como Eles Treinaram (A Receita de Três Passos)

Para ensinar essas habilidades à IA, os pesquisadores usaram um processo de treinamento de três etapas:

Passo 1: O "Ensaio Roteirizado" (Cold Start de Ferramenta)
Imagine um professor de teatro dando ao ator um roteiro perfeito para uma peça. A IA recebe exemplos de alta qualidade de como resolver problemas passo a passo, usando as ferramentas corretamente. Isso ensina os "movimentos" básicos e como segurar as ferramentas.
- Analogia: É como mostrar a um chef exatamente como picar uma cebola antes de deixá-lo cozinhar.
Passo 2: O Jogo de "Tentativa e Erro" (GRPO de Ferramenta)
Depois que a IA conhece o básico, eles a deixam jogar um jogo onde ela ganha pontos por resolver o quebra-cabeça.
- Se ela usa a ferramenta certa na hora certa, recebe uma grande recompensa.
- Se ela usa uma ferramenta que não ajuda, ou tenta adivinhar sem verificar, recebe uma recompensa menor ou uma penalidade.
- Analogia: Isso é como um videogame onde a IA aprende que usar um "jetpack" para atravessar um rio é ótimo, mas usar um "jetpack" para abrir uma porta é uma perda de tempo. Ela aprende a otimizar sua estratégia.
Passo 3: O Desafio do "Código Secreto" (Aprendizado Adaptativo)
Para garantir que a IA não esteja apenas memorizando os nomes das ferramentas (como memorizar que a "Ferramenta A" é sempre para medir), os pesquisadores mudaram os nomes e as descrições das ferramentas aleatoriamente durante o treinamento.
- Analogia: Imagine ensinar alguém a dirigir um carro, mas todos os dias você muda o nome do pedal do acelerador de "Acelerador" para "Ir", "Combustível" ou "X7a2". O aluno tem que aprender o que o pedal faz com base em sua função, não em seu nome. Isso garante que a IA possa lidar com qualquer ferramenta, mesmo as que ela nunca viu antes.

4. Os Resultados: Cérebro Pequeno, Grandes Habilidades

A parte mais emocionante do artigo é que eles pegaram um modelo de IA relativamente pequeno (um modelo "7B", que é como um estudante universitário inteligente) e deram a ele essas habilidades de uso de ferramentas.

O Resultado: Este modelo pequeno tornou-se tão bom no uso de ferramentas que superou modelos muito maiores e de "código fechado" (como GPT-5 e Claude Sonnet 4) em quebra-cabeças visuais difíceis.
A Analogia: É como dar a uma bicicleta um conjunto de marchas de alta tecnologia e um GPS. De repente, a bicicleta pode correr contra uma Ferrari porque a bicicleta sabe exatamente como navegar pelo terreno, enquanto a Ferrari está apenas dirigindo cegamente.

5. Exemplos do Mundo Real do Artigo

O artigo mostra a IA fazendo coisas como:

Navegar em um Labirinto: Em vez de adivinhar, ela usa uma ferramenta para encontrar os pontos de início e fim, e depois usa uma ferramenta de "busca de caminho" para desenhar a rota perfeita, evitando buracos.
Consertar um Quebra-Cabeça de Peças: Ela usa uma ferramenta para encontrar o ponto preto que falta em uma imagem e, em seguida, tenta inserir diferentes peças do quebra-cabeça até que uma se encaixe perfeitamente.
Ler um Website: Ela usa uma ferramenta de "recorte" para dar zoom em um botão específico e uma ferramenta de "OCR" (como um olho digital) para ler o texto nele, descobrindo exatamente como comprar algo.

Resumo

AdaReasoner ensina modelos de IA a pararem de tentar ser perfeitos em tudo internamente. Em vez disso, ensina-os a serem gerentes inteligentes que sabem quando chamar uma ferramenta especialista para fazer o trabalho pesado. Ao aprender a se adaptar a novas ferramentas e tarefas sobre a marcha, até mesmo uma pequena IA pode resolver problemas visuais complexos melhor do que sistemas muito maiores e mais caros.

Resumo Técnico: DAREASONER (AdaReasoner)

Declaração do Problema

Modelos de Linguagem de Grande Escala Multimodais (MLLMs) frequentemente enfrentam dificuldades em tarefas de raciocínio visual complexas que exigem percepção detalhada, planejamento de múltiplas etapas e verificação intermediária. Embora os humanos dependam de ferramentas externas para resolver problemas que vão além de suas capacidades cognitivas ou perceptivas imediatas, os MLLMs atuais carecem da habilidade de usar ferramentas de forma adaptativa. As abordagens existentes geralmente dependem de padrões de invocação rígidos e pré-definidos ou são limitadas a trajetórias de ferramenta única. Consequentemente, eles falham em aprender quando usar uma ferramenta, qual ferramenta selecionar ou como coordenar múltiplas ferramentas dinamicamente, especialmente quando confrontados com ferramentas inéditas ou distribuições de tarefas novas. O desafio central é permitir que os MLLMs tratem a seleção e a orquestração de ferramentas como uma habilidade de raciocínio geral, em vez de um comportamento específico para cada tarefa.

Metodologia

Os autores introduzem o AdaReasoner, um framework projetado para permitir o planejamento de ferramentas de múltiplos turnos de forma adaptativa. A metodologia é construída sobre três inovações principais:

1. Curadoria de Dados de Trajetória de Alta Qualidade (Tool Cold Start - TC)

Para estabelecer uma base robusta, os autores propõem um pipeline de curadoria de dados que sintetiza trajetórias de raciocínio de alta fidelidade e múltiplos turnos. Este processo envolve:

Design de Trajetória Abstrata: Projetar manualmente blueprints de resolução de problemas ideais para tarefas como Planejamento Espacial Visual (VSP), quebra-cabeças de Jigsaw e QA de GUI.
Integração de Cenários Complexos: Incorporar deliberadamente reflexão e retrocesso (onde o modelo corrige resultados subótimos) e cenários de falha explícita de ferramenta (onde as ferramentas retornam erros, forçando o modelo a confiar em suas capacidades intrínsecas).
Geração de CoT: Utilizar LLMs poderosos para gerar Cadeia de Pensamento (Chain-of-Thought - CoT) que conecte as chamadas de ferramentas, ensinando ao modelo não apenas o que chamar, mas por que e como raciocinar entre as etapas.

2. Tool-GRPO (Tool Group Relative Policy Optimization - TG)

O framework estende o algoritmo de Otimização de Política Relativa de Grupo (GRPO) para lidar com trajetórias de chamada de ferramentas de múltiplos turnos. A função de recompensa é projetada para otimizar o planejamento estratégico de longo horizonte:

Acúmulo de Recompensa de Múltiplos Turnos: A recompensa total ( $R_{total}$ ) combina uma Recompensa de Formato (aderência estrita à sintaxe), uma Recompunsa de Ferramenta (pontuação hierárquica baseada na correção de estrutura, nome e parâmetros) e uma Recompensa de Precisão (baseada na resposta final).
Recompensa Adaptativa para Uso de Ferramentas: Uma estrutura de recompensa assimétrica incentiva o raciocínio conciso. Se a previsão final estiver correta, o modelo é recompensado independentemente do uso da ferramenta. Se estiver incorreta, a recompensa depende da qualidade do uso da ferramenta, concedendo crédito parcial para o raciocínio baseado em ferramentas informativas, enquanto penaliza suposições sem suporte. Isso trata as ferramentas como um mecanismo de contingência sob incerteza, em vez de um passo obrigatório.

3. Aprendizado Adaptativo (ADL) para Generalização

Para evitar o overfitting a identificadores de ferramentas específicos e aumentar a generalização para ferramentas inéditas, os autores introduzem um mecanismo de aprendizado adaptativo:

Randomização ao Nível de Token: Nomes de ferramentas e nomes de parâmetros são substituídos por strings alfanuméricas aleatórias (ex: GetWeather $\rightarrow$ Func_X7a2). Isso força o modelo a inferir a funcionalidade apenas através de descrições semânticas e contexto.
Parafraseamento ao Nível Semântico: Descrições de ferramentas e argumentos são refraseadas usando um LLM (Gemini 2.5 Flash) para alterar a estrutura sintática preservando o significado funcional, garantindo que o modelo aprenda uma compreensão semântica robusta em vez de uma fraseologia específica.

Principais Contribuições

Um Método Abrangente para Modelos Aumentados por Ferramentas: O artigo propõe um pipeline unificado integrando uma receita de curadoria de dados para planejamento de múltiplos turnos, um framework de RL (Tool-GRPO) para interação e um método de aprendizado adaptativo para aumentar a generalizabilidade.
Família de Modelos AdaReasoner: A introdução de uma nova família de modelos de última geração capazes de planejamento de ferramentas complexas. Estes modelos exibem comportamentos auto-adaptativos, aprendendo a adotar autonomamente ferramentas benéficas, descartar as irrelevantes e modular a frequência de uso com base nas demandas da tarefa sem supervisão explícita para esses comportamentos específicos.
Desempenho e Generalização: O trabalho demonstra que modelos menores de código aberto (ex: 7 bilhões de parâmetros) podem alcançar desempenho competitivo ou superior a sistemas proprietários líderes (ex: GPT-5, Claude Sonnet 4) em tarefas de raciocínio estruturado. Estabelece que a orquestração eficaz de ferramentas pode deslocar o gargalo de desempenho da escala do modelo para a utilidade da ferramenta.

Resultados Experimentais

Os autores avaliaram o AdaReasoner em diversos benchmarks, incluindo Planejamento Espacial Visual (VSP, VSPO), quebra-cabeças de Jigsaw (Jigsaw-COCO, BLINK-J) e QA de GUI (GUIChat, WebMMU).

Ganhos de Desempenho: A variante de 7B do AdaReasoner alcançou uma melhoria média de +24,9% sobre seu modelo base nos benchmarks. Especificamente, atingiu 97,64% em VSP e 96,60% em Jigsaw, superando o GPT-5 (80,10% em Jigsaw) e o Claude Sonnet 4.
Uso Adaptativo de Ferramentas: Em estudos de ablação, o modelo demonstrou a capacidade de:
- Adotar Ferramentas Benéficas: Aumentar a frequência de invocação de ferramentas úteis (ex: A* para busca de caminho) quando introduzidas durante a inferência.
- Descartar Ferramentas Irrelevantes: Suprimir o uso de ferramentas que não contribuem para a tarefa (ex: A* para tarefas de verificação) após o treinamento de RL.
- Modular a Frequência: Ajustar dinamicamente o número de chamadas de ferramenta por amostra com base na complexidade da tarefa.
Generalização: Quando avaliado em definições de ferramentas inéditas (via randomização) e tarefas inéditas (transferência zero-shot), o AdaReasoner manteve alta precisão e taxas de sucesso no uso de ferramentas, enquanto outros métodos sofreram degradação significativa de desempenho.
Independência de Escala: A abordagem aumentada por ferramentas permitiu que modelos de 3B e 7B alcançassem precisão quase perfeita em VSP, sugerindo que a utilidade da ferramenta pode superar as limitações intrínsecas de escala.

Significância

O artigo argumenta que o principal gargalo no raciocínio multimodal está mudando da capacidade de raciocínio interno do modelo para a eficácia do seu planejamento de ferramentas. Ao tratar o uso de ferramentas como uma habilidade de raciocínio generalizável, em vez de uma capacidade fixa, o AdaReasoner permite que modelos menores de código aberto curem autonomamente estratégias de uso de ferramentas. Esta abordagem permite que os MLLMs lidem com problemas visuais complexos de múltiplos passos com um nível de adaptabilidade e robustez anteriormente visto apenas em sistemas proprietários maiores, preenchendo efetivamente a lacuna de capacidade entre modelos de código aberto e fechados em domínios de raciocínio estruturado.