Back to Basics: Improving Molecular Understanding in LLMs via SMILES-Graph Translation

Resumo Técnico: De Volta ao Básico: Melhorando a Compreensão Molecular em LLMs via Tradução SMILES–Grafo

Declaração do Problema
Apesar do forte desempenho dos Grandes Modelos de Linguagem (LLMs) em tarefas de compreensão e geração molecular, as abordagens atuais sofrem de uma falta de fundamentação estrutural confiável. O artigo identifica uma desconexão crítica: embora os modelos alcancem sucesso em tarefas de aplicação (downstream), eles falham em tarefas básicas de reconhecimento de estrutura, como contar átomos pesados ou ligações a partir de strings SMILES canônicas. Isso contradiz o princípio químico fundamental de que "a estrutura determina a função". Avaliações preliminares revelam que tanto LLMs generalistas (ex: GPT, Qwen) quanto LLMs moleculares especialistas (ex: MolT5, ChemLLM) apresentam um desempenho insatisfatório nessas tarefas fundamentais, sugerindo que falham em capturar a equivalência explícita entre o texto sequencial SMILES e o grafo molecular 2D subjacente. Os autores argumentam que os paradigmas atuais, que frequentemente saltam para o raciocínio de alto nível após o pré-treinamento de texto simples, carecem de interpretabilidade lógica e falham em estabelecer a cognição estrutural necessária para um raciocínio confiável.

Metodologia: O Framework MolBasic
Para abordar isso, os autores propõem o MolBasic, um framework "focado na estrutura" projetado para fundamentar a compreensão molecular na compreensão estrutural básica. A metodologia consiste em três componentes principais:

1. Benchmark de Compreensão Estrutural de Múltiplos Níveis (MSC):
   Os autores construíram um benchmark composto por oito tarefas organizadas em três níveis para avaliar e treinar a percepção de grafos 2D:

   • Nível de Nó: Contagem de átomos pesados e contagem específica de elementos.
   • Nível de Aresta: Contagem de ligações totais e contagem de tipos de ligações específicos.
   • Nível de Grafo: Conversão de fórmula molecular, reconhecimento de subestruturas e conversão bidirecional entre SMILES canônico e listas de adjacência de grafos textuais.
     A tarefa central é a conversão bidirecional SMILES–Grafo, que força o modelo a aprender a equivalência entre representações sequenciais e topológicas.

2. Framework de Aprendizado em Escada (Staircase Learning):
   O treinamento segue um caminho progressivo e linear ($v_{struct} \rightarrow v_{prop} \rightarrow v_{opt}$) que espelha o processo cognitivo dos químicos humanos. Esta abordagem estruturada em um DAG garante que as capacidades de raciocínio de nível superior sejam construídas sobre uma compreensão estrutural confiável:

   • Estágio 1 (Compreensão Estrutural): Estabelecimento da percepção fundamental de grafos.
   • Estágio 2 (Predição de Propriedades Estruturais): Derivação de propriedades (ex: LogP, MW) a partir de características estruturais.
   • Estágio 3 (Otimização Molecular Objetiva): Modificação de moléculas para alcançar propriedades desejadas.
     Este aprendizado de currículo evita a interferência de tarefas complexas no aprendizado fundamental.

3. Supervisão de Cadeia de Pensamento (Chain-of-Thought - CoT):
   Para aumentar a precisão e a interpretabilidade, o framework emprega uma estratégia de treinamento de dois estágios para cada tarefa usando ajuste fino (fine-tuning) de LoRA:

   • Estágio 1 (Aprendizado de Resposta): O modelo aprende a prever a resposta correta ($a$) para estabelecer âncoras de conhecimento de domínio.
   • Estágio 2 (Aprendizado de Raciocínio): O modelo aprende a resposta completa contendo uma Cadeia de Pensamento ($z$) destilada de modelos de raciocínio fortes (especificamente GPT-5).
     O objetivo de treinamento modela conjuntamente o processo de raciocínio e o resultado final: $P_\theta(a, z | S, q) = P_\theta(z | S, q) \cdot P_\theta(a | S, z, q)$. A CoT inclui resultados intermediários determinísticos para tarefas de regressão (ex: parsing explícito de átomos) e um pipeline de "análise–estratégia–verificação" para tarefas de otimização.

Resultados Principais
Experimentos foram conduzidos no dataset PubChemSTM e em vários benchmarks de aplicação, comparando o MolBasic contra LLMs generalistas, LLMs moleculares especialistas e modelos tradicionais de deep learning.

• Compreensão Estrutural: O MolBasic alcançou melhorias substanciais em todas as tarefas de MSC. Notavelmente, atingiu 94,65% de precisão na conversão SMILES-para-Grafo e 85,66% em Grafo-para-SMILES, enquanto todos os modelos de base (incluindo LLMs especializados) tiveram desempenho próximo de zero nessas tarefas de conversão bidirecional.
• Predição de Propriedades: Na predição de propriedades estruturais (MW, LogP, TPSA, etc.), o MolBasic obteve o melhor desempenho entre os métodos baseados em LLM, com correlações de Pearson excedendo 0,97 para a maioria das propriedades e Erros Médios Absolutos (MAE) comparáveis ou superiores aos modelos específicos da tarefa, como o Chemprop.
• Otimização Molecular: Na tarefa de aumentar o LogP, o MolBasic alcançou o maior aumento de LogP (2,27) entre os modelos baseados em LLM, mantendo alta validade (98,7%) e diversidade (0,86).
• Estudos de Ablação:
  • Remover o estágio de compreensão estrutural ("w/o Struct") levou a uma degradação monotônica no desempenho das tarefas subsequentes, confirmando que a percepção estrutural é uma base necessária.
  • Randomizar a ordem de treinamento ("Mixed SFT") resultou em um desempenho inferior ao da abordagem em escada, indicando que a ordenação progressiva é crítica para evitar a interferência de tarefas.
  • Remover a supervisão de CoT ("w/o CoT") causou quedas consistentes de desempenho, destacando a necessidade de orientação explícita de raciocínio intermediário.

Significância e Alegações
O artigo alega que a falta de compreensão estrutural básica é um gargalo fundamental nos atuais LLMs moleculares. Ao "voltar ao básico" e priorizar o alinhamento do texto sequencial com estruturas de grafos topológicos, o MolBasic permite que os modelos realizem raciocínios moleculares confiáveis, interpretáveis e generalizáveis. Os autores afirmam que seu paradigma focado na estrutura resolve a contradição entre o sucesso em aplicações e a falha estrutural, fornecendo uma base robusta para futuras aplicações de "IA química". O trabalho enfatiza que, sem perceber acuradamente os grafos moleculares, as tarefas de raciocínio de nível superior são inerentemente não confiáveis.

Limitações
Os autores reconhecem que o design atual da escada modela o raciocínio como uma cadeia linear. À medida que as tarefas se afastam do estágio inicial de compreensão estrutural, a influência direta da percepção estrutural pode enfraquecer, resultando em melhorias menos pronunciadas na otimização em comparação com a predição de propriedades. Eles sugerem que trabalhos futuros devem explorar frameworks de raciocínio não lineares mais flexíveis que permitam aos LLMs utilizar explicitamente a estrutura molecular como base para diversas tarefas sem a interferência observada no treinamento de tarefas mistas.