ALRM: Agentic LLM for Robotic Manipulation

Resumo Técnico: ALRM (Agente de LLM para Manipulação Robótica)

Definição do Problema
Embora os Grandes Modelos de Linguagem (LLMs) tenham demonstrado capacidades avançadas de raciocínio e planejamento, sua integração em pipelines de controle robótico permanece limitada por duas restrições principais. Primeiro, abordagens anteriores baseadas em LLM carecem frequentemente de mecanismos de execução agênticos modulares, impedindo que os sistemas planejem, reflitam sobre resultados e revisem ações de maneira em malha fechada (closed-loop). Segundo, os benchmarks existentes para tarefas de manipulação robótica concentram-se predominantemente no controle de baixo nível, falhando em avaliar sistematicamente o raciocínio de múltiplos passos ou a robustez dos agentes contra variações linguísticas nas instruções das tarefas.

Metodologia: O Framework ALRM
Os autores propõem o ALRM (Agentic LLM for Robot Manipulation), um framework projetado para unir o raciocínio em linguagem natural com uma execução robótica confiável. A arquitetura é construída em torno de um loop de raciocínio no estilo ReAct e compreende três módulos principais:

1. Agente de Planejamento de Tarefas (Task Planner Agent): Gera ciclos iterativos de pensamento e ação para decompor solicitações de alto nível do usuário em subtarefas. Ele cria dinamicamente subtarefas baseadas em observações ambientais e feedback do executor.
2. Agente de Execução de Tarefas (Task Executor Agent): Converte subtarefas em linguagem natural em ações executáveis. Este agente opera em dois modos complementares:
   • Code-as-Policy (CaP): O LLM gera código Python que chama diretamente funções de controle disponíveis (ex: pegar, colocar, mover) em uma única execução. Este modo é mais rápido e suporta modelos sem capacidades de chamada de ferramentas (tool-calling), mas é frágil a erros de geração de código.
   • Tool-as-Policy (TaP): O LLM executa ações via chamadas de ferramentas aninhadas em etapas interativas. Este modo permite raciocínio intermediário e correção de erros (ex: referenciar um objeto incorreto), mas incorre em maior latência e depende da confiabilidade do modelo na chamada de ferramentas.
3. Servidor de API: Um servidor RESTful que faz a interface com o backend robótico (braço Interbotix wx250s no simulador Gazebo via ROS e MoveIt), lidando com consultas de percepção e comandos de movimento.

Principais Contribuições

• Framework ALRM: Um novo framework agêntico modular que suporta modos de execução CaP e TaP, permitindo planejamento iterativo e reflexão.
• Novo Benchmark: Um benchmark de simulação composto por 56 tarefas em três ambientes (Utensílios de cozinha, Caixas, Frutas). O benchmark apresenta três tarefas canônicas por ambiente, cada uma parafraseada em cinco variações cobrindo quatro categorias linguísticas: Léxica, Sintática, Semântica e Raciocínio de Alto Nível (HLR). Este design testa especificamente a capacidade do agente de lidar com instruções diversas e raciocínio complexo (ex: selecionar objetos com base em propriedades como "menor caloria" em vez de nomes explícitos).
• Avaliação Sistemática: Uma avaliação abrangente de dez LLMs (tanto de código fechado quanto de código aberto) em ambos os modos de execução, medindo taxas de sucesso e latência.
• Ambiente de Simulação: Um ambiente de simulação reutilizável baseado em Gazebo, integrado com ROS e MoveIt para suportar o implante e teste de manipulação dirigida por LLM.

Resultados Experimentais
Os autores avaliaram dez LLMs, incluindo GPT-5, Claude-4.1-Opus, DeepSeek-V3.1 e modelos de código aberto como Falcon-H1-7B e Llama-3.1-8B.

• Desempenho dos Modelos:
  • Código Fechado: O Claude-4.1-Opus emergiu como o melhor desempenho, alcançando taxas médias de sucesso de 93,5% no modo TaP e 92,6% no modo CaP.
  • Código Aberto: O Falcon-H1-7B foi o principal modelo de código aberto sob CaP, alcançando uma taxa de sucesso de 84,3% com latência significativamente menor (24,89s) em comparação com modelos maiores.
• Comparação de Modos: LLMs de grande escala geralmente alcançaram taxas de sucesso mais altas com TaP (alavancando o raciocínio aninhado), mas ao custo de maior latência. Por outro outro lado, modelos de pequena escala (até 8B de parâmetros) tiveram dificuldades com TaP devido à dificuldade em lidar com chamadas aninhadas, mas apresentaram desempenho competitivo com CaP.
• Categorias de Tarefas: Modelos de grande escala performaram consistentemente bem em todas as categorias linguísticas, incluindo raciocínio de alto nível. Modelos de pequena escala se destacaram em variações sintáticas, mas mostraram quedas significativas de desempenho em tarefas de raciocínio de alto nível, particularmente quando exigidos a gerar código (CaP) ou lidar com cadeias de ferramentas complexas (TaP).

Significância e Alegações
O artigo afirma que o ALRM fornece uma abordagem escalável, interpretável e modular para a manipulação robótica. Os resultados demonstram que os LLMs podem resolver tarefas robóticas abstratas e de alto nível de forma eficaz quando equipados com frameworks agênticos que suportam reflexão e revisão em malha fechada. Os autores destacam que, embora os modelos de código fechado liderem atualmente em desempenho, modelos específicos de código aberto (como o Falcon-H1-7B) oferecem uma alternativa viável de baixa latência para execução baseada em código. O trabalho ressalta a importância de avaliar agentes não apenas pela conclusão da tarefa, mas pela sua robustez à diversidade linguística e sua capacidade de raciocinar sobre propriedades de objetos.

Limitações e Direções Futuras
Os autores reconhecem que o desempenho do framework é dependente de engenharia de prompt e que o benchmark atual é limitado a três ambientes e tarefas de pegar e colocar (pick-and-place). Sugere-se como trabalho futuro expandir o benchmark para incluir navegação e tipos de tarefas mais diversos, bem como integrar componentes de percepção do mundo real para validar o desempenho fora da simulação.