Resumo Técnico: AgentPLM

1. Formulação do Problema

Os atuais Modelos de Linguagem de Proteínas (PLMs), como o ESM-2 e o ProtTrans, funcionam como "oráculos passivos". Eles geram sequências de proteínas em uma única passagem direta (forward pass) baseada na predição do próximo token treinada em dados evolutivos. Embora eficazes para a predição de fitness zero-shot, eles sofrem de uma limitação fundamental: carecem de mecanismos para consultar feedback biofísico externo durante a geração. Consequentemente, não conseguem redirecionar dinamicamente a sequência se um candidato violar a estabilidade termodinâmica, restrições estruturais ou especificidade de ligação. Esta "cegueira estrutural" e "cegueza epistática" (subestimação de dependências de resíduos de longo alcance) torna os PLMs frágeis para alvos de design fora da distribuição (out-of-distribution) onde os registros evolutivos oferecem orientação insuficiente.

O artigo enquadra o design de proteínas não como uma tarefa estática de geração de sequência, mas como um problema de otimização com restrições onde o objetivo é maximizar uma função de fitness $f(S)$ sujeita a restrições biofísicas $C$, estimadas via oráculos computacionais (ex: ESMFold, FoldX, AutoDock Vina).

2. Metodologia: AgentPLM

O AgentPLM transforma um PLM pré-treinado em um sistema agêntico capaz de intercalar a geração de sequências autorregressiva com chamadas de ferramentas estruturadas. O framework é modelado como um Processo de Decisão de Markov Parcialmente Observável (POMDP) e consiste em quatro componentes arquiteturais e algorítmicos principais:

A. Arquitetura

1. Vocabulário Expandido e Inicialização de Chamada de Ferramenta: O vocabulário padrão de aminoácidos é estendido com tokens para chamadas de ferramentas (um por oráculo) e um token de fim de sequência. Crucialmente, os tokens de ferramenta são inicializados semanticamente usando descrições em linguagem natural dos oráculos (ex: "predizer mudança na estabilidade termodinâmica") mapeadas através do espaço de embedding do ESM-2. Isso garante que os tokens de ferramenta residam no mesmo manifold representacional que os aminoácidos desde o início, reduzindo os passos de gradiente necessários para o aprendizado.
2. Codificador de Contexto de Ferramenta (TCE): Um codificador unificado projeta saídas heterogêneas de oráculos (ex: pontuações pLDDT por resíduo, escalar $\Delta\Delta G$, vetores de ligação) no espaço latente do modelo. Ele utiliza atenção cruzada (cross-attention) para integrar a saída do oráculo com o estado oculto atual do modelo.
3. Buffer de Memória de Trajetória (TMB): Para gerenciar o contexto de forma eficiente, o TMB mantém uma memória episódica comprimida de tamanho constante de todas as chamadas de ferramentas passadas. Ele injeta esta memória no fluxo residual do Transformer via um mecanismo de gating aprendido, permitindo que o modelo condicione gerações futuras ao histórico completo de interações com o oráculo sem custos quadráticos de atenção.
4. Decodificação Aumentada por Raciocínio (RAD): Esta é a política de inferência. Em cada etapa, o modelo seleciona um aminoácido ou uma chamada de ferramenta.
   • Backtracking Dinâmico: Se uma chamada de ferramenta for selecionada, o oráculo é invocado, o TCE/TMB atualiza o contexto e o modelo reavalia a posição atual sem avançar o índice da sequência.
   • Autoconsistência Estrutural (SSC): Um novo mecanismo de segurança força uma chamada de ferramenta se a crença interna do modelo sobre a sequência parcial for inconsistente com o potencial feedback do oráculo (baixo escore SSC), atuando como um passo ativo de resolução de incerteza.
   • Restrições de Orçamento: Para evitar loops degenerados, o RAD impõe um intervalo mínimo entre chamadas e um orçamento máximo de chamadas de ferramenta por sequência.

B. Objetivo de Treinamento: Otimização de Política de Agente Contrastiva (CAPO)

O artigo introduz o CAPO, uma extensão de nível de trajetória da Otimização de Preferência Direta (DPO).

• Construção de Dados: As trajetórias são geradas usando uma política de referência. Trajetórias "vencedoras" (sequências de alto fitness com uso coerente de ferramentas) são pareadas com trajetias "perdedoras" (uso de ferramentas de baixo fitness ou contraditórias).
• Função de Perda: O objetivo contrasta a log-probabilidade das trajetórias vencedoras contra as perdedoras, normalizadas por uma política de referência. Isso ensina o modelo quando invocar oráculos e como usar seu feedback, em vez de meramente imitar sequências de alto fitness.
• Perda Auxiliar: Uma perda de consistência de ferramenta penaliza escolhas de aminoácidos que contradizem sinais observados do oráculo, regularizando a política para alinhar-se com a realidade biofísica.

3. Principais Contribuições

1. Decodificação Aumentada por Raciocínio (RAD): Uma estratégia de decodificação que intercala a geração com chamadas de ferramentas, utilizando um Codificador de Contexto de Ferramenta e um Buffer de Memória de Trajetória treinados de ponta a ponta em objetivos de engenharia de proteínas.
2. Otimização de Política de Agente Contrastiva (CAPO): Um novo objetivo de treinamento que aprende o tempo e a utilidade do feedback do oráculo ao contrastar trajetórias de alto fitness com o uso coerente de ferramentas contra as de baixo fitness.
3. Desempenho de Estado da Arte: O framework demonstra que o raciocínio agêntico, em vez de apenas aumento de computação ou modelos maiores, impulsiona ganhos de desempenho em tarefas complexas de design de proteínas.

4. Resultados Experimentais

O AgentPLM foi avaliado em cinco tarefas de benchmark: Termoestabilidade (ThermoStab-75), Otimização de Anticorpos (AntibodyOpt-VH), Design de Enzimas (EnzymeDesign-EC3), Interação Proteína-Proteína (PPI-Interface) e Predição de Fitness Zero-Shot.

• Ganhos de Desempenho: O AgentPLM alcançou resultados de estado da arte em todas as tarefas. Notavelmente, melhorou a taxa de acerto (hit rate) dos top 10% de anticorpos em 2,79× em relação ao baseline passivo mais forte (ESM-2) e alcançou uma melhoria de 41% no $k_{cat}/K_m$ normalizado para design de enzimas sobre o segundo melhor baseline (ProtAgent).
• Evidência Mecanística:
  • Análise de Trajetória: A análise da densidade de chamadas de ferramentas revelou uma "divisão temporal de trabalho" aprendida: chamadas de ESMFold atingiram o pico cedo (compatibilidade de dobra), chamadas de FoldX atingiram o pico no meio da sequência (estabilidade em junções) e chamadas de AutoDock Vina atingiram o pico tardiamente (formação de interface de ligação). Isso espelha estratégias de raciocínio humano especialista.
  • Correção de Erro Online: A atribuição de gradiente integrada mostrou que, após uma chamada de FoldX desestabilizadora, a massa de atenção concentrou-se especificamente nos resíduos afetados (aumento de 1,8×), confirmando que o modelo redireciona ativamente a geração com base no feedback do oráculo sem necessidade de backtracking explícito.
• Estudos de Ablação: Remover o RAD reduziu o desempenho em ~30-46%, confirmando que o feedback online é o principal motor. Substituir o CAPO pelo Ajuste Fino Supervisionado (SFT) padrão reduziu o desempenho, provando que o objetivo contrastivo é essencial para aprender quando usar as ferramentas.

5. Significância e Alegações

O artigo alega que o AgentPLM aborda o descompasso fundamental entre a natureza estática dos atuais PLMs e a natureza iterativa e baseada em feedback da engenharia de proteínas especializada. Ao tratar o design de proteínas como um problema de decisão sequencial com feedback biofísico online, o AgentPLM alcança ganhos de desempenho que modelos passivos não conseguem replicar.

Os autores enfatizam que esses ganhos surgem de trajetórias de raciocínio qualitativamente diferentes, e não de computação adicional. O trabalho apoia a visão de que os paradigmas agênticos e generativos são complementares: o prior evolutivo de modelos como o ESM-2 é necessário, mas insuficiente para o design complexo, e o RAD fornece o refinamento iterativo necessário para satisfazer restrições simultâneas e não aditivas (termoestabilidade, solubilidade, ligação). O artigo conclui que este framework fornece um caminho para o design de proteínas robusto fora da distribuição, onde sinais evolutivos isolados são inadequados.