Resumo Técnico: Adaptador Consciente de Escala para Raciocínio de LLMs Fundamentado em Estrutura (Cuttlefish)

1. Declaração do Problema

Os Modelos de Linguagem de Grande Escala (LLMs) estão sendo cada vez mais aplicados para raciocinar sobre estruturas científicas 2D e 3D (moléculas, proteínas, ácidos nucleicos). No entanto, os métodos existentes enfrentam duas limitações críticas que impedem o raciocínio generalizado em nível atômico:

1. Gargalos de Comprimento Fixo (Escala Orçamentária): As arquiteturas atuais dependem tipicamente de conectores de consulta de comprimento fixo (por exemplo, estilo Q-Former) ou de tokenização baseada em sequência. Essas abordagens comprimem grafos estruturais de tamanho variável em um orçamento de tokens constante. À medida que a complexidade estrutural aumenta (por exemplo, proteínas ou ácidos nucleicos maiores), isso leva a uma supercomprimção de características geométricas, degradando o desempenho. Por outro lado, simplesmente aumentar o orçamento de tokens para todas as entradas leva a uma alocação ineficiente, diluindo a atenção em entidades pequenas.
2. Alucinações Estruturais: Modelos que dependem exclusivamente de entradas de sequência (por exemplo, SMILES, sequências de resíduos) carecem de fundamentação geométrica explícita. Sem evidências estruturais 3D verificáveis, os LLMs tendem a gerar racionalizações geométricas que não são inferidas pelo contexto de condicionamento, levando a alucinações sobre grupos funcionais, mecanismos ou interações de longo alcance.

O artigo argumenta que falta uma interface unificada para entidades heterogêneas em nível atômico, tornando necessária uma reavaliação de como a evidência estrutural é selecionada e exposta ao modelo de linguagem.

2. Metodologia: Cuttlefish

Os autores introduzem o Cuttlefish, um LLM multimodal unificado projetado para fundamentar o raciocínio linguístico em pistas geométricas, enquanto escala os tokens de modalidade com a complexidade estrutural. A arquitetura consiste em três componentes principais:

A. Codificador (EGNN Equivariante a SE(3))

As coordenadas atômicas e características de entrada são primeiro codificadas usando uma Rede Neural de Grafos Equivariante (EGNN). Isso garante que a representação seja invariante a rotações e translações, produzindo incorporações de modalidade em nível atômico. O codificador é pré-treinado por meio de uma tarefa de reconstrução mascarada (prevendo identidade do elemento, distâncias em pares e ruído direcional) para aprender relações espaciais.

B. Patching Consciente de Escala

Para abordar o gargalo de orçamento fixo, o Cuttlefish emprega um mecanismo de gate condicionado a instruções:

• Seleção de Âncora Baseada em Massa: Dada uma incorporação de instrução e incorporações de nós, um gate de pontuação calcula logits de relevância por nó. As âncoras são selecionadas adaptativamente com base em um limite de massa cumulativa ($\rho$). Isso garante que o número de tokens de consulta ($k_g$) escale com a complexidade estrutural da entidade, selecionando apenas os átomos mais relevantes para a instrução.
• Crescimento de Patch Suave: As âncoras selecionadas expandem-se em patches estruturais por meio de um mecanismo de atribuição suave. Isso funde a proximidade espacial (distância euclidiana) com viés semântico (relevância da instrução).
• Agrupamento Ponderado no Patch: As características dos nós dentro de cada patch são agregadas usando pesos de pertencimento para gerar tokens de consulta estrutural. Isso permite que o modelo preserve sinais geométricos de alta granularidade para regiões complexas, enquanto comprime áreas menos relevantes.

C. Adaptador de Fundamentação Geométrica

Para mitigar alucinações estruturais, os tokens adaptativos são refinados e injetados no LLM:

• Recuperação por Atenção Cruzada: Os tokens de patch passam por atenção cruzada com as incorporações completas de modalidade (todos os átomos) através de uma série de blocos de fusão. Isso permite que as consultas recuperem pistas geométricas de alta resolução abstraídas durante a fase de patching.
• Injeção: Os tokens de modalidade refinados são projetados no espaço de incorporação do LLM e inseridos em posições de marcador de lugar designadas dentro da sequência de instruções. Isso expõe pistas geométricas explícitas ao LLM, condicionando sua saída à estrutura verificável.

D. Protocolo de Treinamento

O modelo é treinado em três etapas:

1. Pré-treinamento do Codificador: A EGNN é pré-treinada em grafos espaciais em nível atômico.
2. Ajuste de Alinhamento de Modalidade: A EGNN e o LLM são congelados; apenas o conector (Patching e Adaptador) é otimizado no conjunto de dados GEO-AT (um novo conjunto de dados de instruções em nível atômico introduzido pelos autores).
3. Ajuste de Adaptação do LLM: O LLM é descongelado com uma taxa de aprendizado menor para acomodar a nova distribuição de injeção de modalidade, preservando ao mesmo tempo as capacidades gerais de linguagem.

3. Contribuições Principais

1. Patching Consciente de Escala: Um mecanismo de crescimento de patch de âncora condicionado a instruções que garante que a contagem de tokens de modalidade escale com a complexidade estrutural, mitigando efetivamente os gargalos de conectores de comprimento fixo.
2. Adaptador de Fundamentação Geométrica: Um módulo que injeta pistas geométricas verificáveis no LLM por meio de tokens de modalidade, condicionando explicitamente o modelo à geometria para reduzir alucinações estruturais.
3. Framework Cuttlefish: Um LLM consciente de estrutura unificado capaz de raciocinar sobre modalidades heterogêneas em nível atômico (moléculas, proteínas, DNA, RNA) com desempenho forte em benchmarks.
4. Conjunto de Dados GEO-AT: A introdução do primeiro conjunto de dados de instruções em nível atômico abrangendo moléculas, proteínas e ácidos nucleicos com coordenadas em nível atômico e anotações linguísticas.

4. Resultados Experimentais

Os experimentos foram conduzidos em benchmarks heterogêneos em nível atômico, incluindo Mol-Instructions, DNA-Chat e RNA-QA.

• Desempenho vs. LLMs Gerais: O Cuttlefish supera significativamente as bases de LLMs gerais (por exemplo, Llama-3, Qwen, Mistral) e variantes aprimoradas para raciocínio em todas as modalidades. Por exemplo, no benchmark GEO-AT, o Cuttlefish + Llama-3.1-8B alcançou uma pontuação média METEOR de 0,428 e BERTScore de 0,864, comparado a 0,186 e 0,694 para a base isolada.
• Desempenho vs. Bases Específicas de Modalidade: O Cuttlefish alcança o desempenho top-1 na maioria das tarefas, superando modelos especializados como Mol-Llama (moléculas), ProtChatGPT (proteínas) e ChatNT (ácidos nucleicos).
• Estabilidade de Escala: Ao contrário de conectores de comprimento fixo que degradam à medida que o tamanho da entidade aumenta, o Cuttlefish mantém qualidade de geração estável em diferentes contagens de nós de grafos (de moléculas pequenas a proteínas grandes), demonstrando características de escala favoráveis.
• Eficiência de Tokens: O Cuttlefish mantém um orçamento de tokens estrutural substancialmente menor comparado a bases de escala linear (por exemplo, ChatNT) enquanto preserva o desempenho, confirmando a eficiência da alocação adaptativa de tokens.
• Redução de Alucinações: Nas avaliações de alucinação (previsão de grupo funcional, explicação de mecanismo, interação de longo alcance), o Cuttlefish alcança as menores taxas de alucinação (por exemplo, 0,04 para grupos funcionais de proteínas vs. 0,10 para ProtChatGPT) e as maiores taxas de resposta.
• Robustez: O modelo demonstra degradação graciosa sob ruído de coordenadas e permanece eficaz mesmo quando estruturas experimentais são substituídas por previsões do AlphaFold2.

5. Significado e Alegações

O artigo alega que o Cuttlefish estabelece um framework unificado para raciocínio fundamentado em estrutura em todas as modalidades em nível atômico. Seu significado reside em abordar os desafios duplos de escalabilidade e fidelidade:

• Escalabilidade: Ao substituir conectores rígidos de comprimento fixo por Patching Consciente de Escala, a arquitetura contorna gargalos de informação, permitindo que o modelo lide com complexidade estrutural sem supercomprimção ou ineficiência de contexto.
• Fidelidade: Ao usar o Adaptador de Fundamentação Geométrica para injetar evidência geométrica explícita, o modelo reduz a incerteza irredutível (risco Bayesiano) associada a entradas apenas de sequência, suprimindo assim alucinações estruturais.

Os autores concluem que entradas apenas de sequência são insuficientes para compreensão condicionada à estrutura e que conectores de comprimento fixo impõem um gargalo fundamental para capturar semânticas dependentes de geometria. Eles postulam que o treinamento conjunto de modalidades com escala adaptativa de tokens é a chave para um raciocínio científico multimodal unificado e robusto. O trabalho destina-se a configurações gerais de modelagem científica, sem impactos sociais mais amplos além daqueles comuns à área de pesquisa.