Resumo Técnico: OCOO-T – Um Modelo de Célula Virtual Simples e Escalável

Definição do Problema

Prever respostas transcricionais de células únicas a perturbações genéticas, químicas e de citocinas é um desafio central na biologia computacional, com implicações críticas para a descoberta de fármacos e a elucidação de redes de regulação gênica. Uma dificuldade fundamental neste domínio é a ausência de correspondências reais ao nível celular antes e depois da perturbação; o sequenciamento de RNA de célula única é destrutivo, o que significa que os modelos não podem aprender mapeamentos determinísticos de célula para célula. Em vez disso, a tarefa é inerentemente distributiva, exigindo que os modelos capturem mudanças populacionais nos perfis de expressão gênica.

As abordagens existentes enfrentam trade-offs significativos:

• Modelos de predição ponto a ponto (ex: scGPT) frequentemente falham em capturar mudanças de distribuição ao nível populacional.
• Modelos de espaço latente (ex: scGen, CPA, Squidiff) dependem de autoencoders variacionais (VAEs) auxiliares para comprimir perfis de alta dimensão, introduzindo complexidade arquitetônica, potenciais gargalos de informação e impedindo a otimização de ponta a ponta no espaço de expressão original.
• Modelos de correspondência de distribuição (ex: STATE, PerturbDiff) abordam a natureza não pareada dos dados, mas frequentemente enfrentam dificuldades de escalabilidade. O PerturbDiff, por exemplo, depende de embeddings de média de kernel em um Espaço de Hilbert Reproduzível (RKHS), que degrada estatisticamente ao escalar para perfis transcriptômicos longos (milhares de genes).
• Limitações de perfis longos: A maioria dos modelos restringe as entradas a genes altamente variáveis (HVGs, ~2.000–5.000) devido à complexidade computacional quadrática da autoatenção, excluindo genes de baixa abundância e vias críticas.

Metodologia: OCOO-T

O OCOO-T é introduzido como um modelo de Célula Virtual (AIVC) minimalista, baseado em flow-matching, projetado para prever respostas a perturbações transcricionais diretamente no espaço contínuo de expressão gênica, contornando encoders auxiliares e espaços latentes especializados.

Arquitetura Central

O modelo utiliza uma pilha Transformer vanilla operando sobre perfis contínuos de expressão gênica. Os componentes arquitetônicos principais incluem:

• Codificação de Valor Contínuo: Ao contrário de modelos que utilizam agrupamento (binning) discreto, o OCOO-T projeta valores de expressão contínuos ruidosos ($z_t$) diretamente na dimensão oculta via um MLP, preservando a precisão numérica.
• Embeddings de Identidade Gênica: Embeddings de modelos de linguagem de proteínas pré-treinados (ex: ESM2) são usados como priors semânticos para os tokens gênicos, injetados junto aos valores de expressão.
• Mecanismos de Condicionamento:
  • Normalização de Camada Adaptativa (AdaLN): A identidade da perturbação, dosagem, linhagem celular e informações de lote são agregadas em um vetor de condição que modula os blocos Transformer via AdaLN.
  • Tokens de Contexto Interno (In-Context Tokens): Tokens aprendíveis são prefixados à sequência em camadas intermediárias para carregar explicitamente informações específicas da condição, aumentando a capacidade do modelo de lidar com cenários complexos de dupla condição.
  • Injeção de Contexto Implícito: Para cenários onde as linhagens celulares alvo não são vistas, o modelo pode aceitar o perfil médio de uma população de controle como um contexto de entrada, resumindo características distributivas sem a necessidade de embeddings categóricos aprendidos.
• Patching e Depatching: Para lidar com perfis transcriptômicos longos (ex: ~18.000 genes), o modelo emprega uma estratégia de patching onde os tokens gênicos são agrupados em patches contíguos antes do processamento pelo Transformer e posteriormente "desagrupados" (depatched) para a resolução de nível gênico. Isso reduz o comprimento efetivo da atenção de $O(G)$ para $O(G/s)$ sem alterar o backbone.

Estrutura Generativa

O OCOO-T formula a predição da resposta à perturbação como um processo de denoising contínuo no tempo condicional usando Rectified Flow:

• Treinamento: Uma interpolação linear é definida entre o ruído Gaussiano puro e o perfil de expressão perturbado alvo. O modelo aprende a prever o campo de velocidade ($v = x - \epsilon$) desta trajetória.
• Função de Perda: O modelo é treinado com uma perda de predição de velocidade ($v$-loss), que empiricamente produz melhor qualidade de geração ao dar maior peso às contribuições de passos de tempo de grande-$t$ (próximos a amostras limpas).
• Inferência: O campo de velocidade previsto é integrado via um solver de ODE (Euler ou Heun) para gerar o perfil perturbado a partir do ruído.
• Guia (Guidance): Durante a inferência, uma estratégia de Guia de Classificador Sem Classe (Classifier-Free Guidance - CFG) dual é empregada para equilibrar a aderência tanto à condição de perturbação quanto à de linhagem celular, aumentando a fidelidade.

Principais Contribuições

1. Design Minimalista: O OCOO-T demonstra que uma predição eficaz de resposta à perturbação pode ser alcançada sem módulos auxiliares complexos de alinhamento de distribuição ou autoencoders pré-treinados. Ele depende apenas de um backbone Transformer simples condicionado por covariáveis.
2. Modelagem Contínua Direta: Ao operar diretamente em perfis contínuos de expressão gênica, o modelo evita os gargalos de informação e os desconexos de otimização associados à compressão de espaço latente.
3. Escalabilidade para Perfis Longos: O mecanismo de patching/depatching permite a modelagem eficiente de entradas de transcriptoma completo (ex: 18.080 genes), superando a barreira de complexidade quadrática da autoatenção padrão.
4. Condicionamento Flexível: O modelo suporta tanto embeddings de covariáveis explícitos (para linhagens celulares conhecidas) quanto condicionamento de nível populacional implícito via perfis de controle médios (para contextos não vistos ou mais granulares).

Resultados Experimentais

O OCOO-T foi avaliado em três benchmarks principais: Tahoe100M (perturbações químicas), Replogle-Nadig (perturbações genéticas) e PBMC (estimulação por citocinas).

• Desempenho Geral: O OCOO-T alcançou desempenho de estado da arte em diversos benchmarks, incluindo reconstrução de nível de expressão (MSE, MAE), discriminação de perturbação (PDS) e recuperação de expressão diferencial (DEOver, DEPrec, DirAgr).
  • No Tahoe100M, alcançou o melhor PDCorr (0,952) e o menor erro de reconstrução entre todos os baselines.
  • No Replogle-Nadig, igualou ou excedeu o desempenho do STATE (um forte baseline de nível populacional) em PDCorr e obteve os escores mais fortes de recuperação de expressão diferencial.
  • No PBMC, demonstrou capacidade superior em recuperar a direcionalidade transcricional induzida por citocinas e estruturas de resposta diferencial.
• Escalabilidade de Perfil Longo: Experimentos no benchmark Replogle-Nadig usando 18.080 genes mostraram que o patching (com tamanhos 8, 16, 32) manteve um desempenho comparável ao modelo de painel curto (2.000 HVGs), validando a eficiência da estratégia de patching.
• Estratégia de Condicionamento: Embora os embeddings de linhagem celular aprendidos tenham gerado o pico de desempenho em contextos conhecidos, o uso de perfis de células de controle médios como contexto implícito proporcionou predições robustas para contextos não vistos, destacando um trade-off prático entre aplicabilidade e escores de benchmark máximos.

Significância e Alegações

O artigo postula que a simplicidade arquitetônica é suficiente para uma predição de resposta à perturbação de alta fidelidade quando o objetivo de denoising e os esquemas de condicionamento são adequadamente projetados. Ao alavancar a simplicidade do denoising baseado em Transformer para ômicas de célula única, o OCOO-T fornece um framework eficaz e escalável para simulação celular in-silico.

Os autores enfatizam que sua abordagem evita as barreiras estatísticas dos métodos baseados em kernel em altas dimensões e a complexidade arquitetônica das pipelines de dois estágios de VAE. No entanto, eles reconhecem modestamente que, embora o modelo tenha um bom desempenho em benchmarks padronizados, lacunas permanecem entre as avaliações atuais e a utilidade biológica no mundo real. Eles observam que as métricas existentes podem não capturar totalmente a relevância biológica downstream (ex: consistência de vias) e que trabalhos futuros são necessários para testar a generalização em configurações fora da distribuição (intervenções, laboratórios e protocolos não vistos).