STAR-GO: Improving Protein Function Prediction by Learning to Hierarchically Integrate Ontology-Informed Semantic Embeddings

Resumen Técnico: STAR-GO

1. El Problema

La predicción precisa de la función de las proteínas es fundamental para la investigación biológica y el descubrimiento terapéutico. Sin embargo, existe una brecha significativa entre la rápida expansión de los datos de secuencias de proteínas (más de 190 millones en UniProt) y las anotaciones funcionales experimentales (menos del 1% están anotadas).
Los enfoques computacionales actuales intentan llenar este vacío asociando proteínas con términos de la Ontología de Genes (GO). No obstante, los modelos existentes presentan limitaciones críticas:

• Tratamiento independiente de etiquetas: Muchos modelos tratan los términos GO como etiquetas independientes, ignorando su naturaleza de Grafo Acíclico Dirigido (DAG) y las relaciones jerárquicas ricas entre ellos.
• Falta de generalización Zero-Shot: Los modelos suelen fallar al predecir funciones asociadas a términos GO que no se vieron durante el entrenamiento o que se introducen en futuras actualizaciones de la ontología.
• Desconexión modal: Las soluciones actuales a menudo priorizan una modalidad (texto o estructura) sobre la otra, o no optimizan conjuntamente las representaciones semánticas y estructurales dentro de un marco de aprendizaje jerárquico.

2. Metodología

El artículo propone STAR-GO, un marco basado en Transformers diseñado para integrar características semánticas y estructurales de los términos GO para mejorar la predicción de funciones en configuración zero-shot.

La arquitectura consta de dos componentes principales:

• A. Módulo de Incrustación (Embedding) de GO:

  • Entrada Semántica: Utiliza un codificador de oraciones (SBERT-BioBERT) para obtener representaciones textuales de las definiciones de los términos GO.
  • Regularización Estructural: Estas incrustaciones textuales se alimentan en un autoencoder entrenado con supervisión multi-tarea. El decodificador del autoencoder intenta recuperar tres cosas simultáneamente:
    1. El conjunto de términos ancestros (jerarquía).
    2. La sub-ontología a la que pertenece (MF, BP, CC).
    3. La identidad del término.
  • Objetivo: Este proceso refina las incrustaciones textuales para preservar tanto la similitud semántica como las dependencias jerárquicas, superando las limitaciones de métodos anteriores que usaban vectores one-hot (como anc2Vec).

• B. Arquitectura Transformer (Codificador-Decoder):

  • Codificador: Procesa las secuencias de proteínas utilizando incrustaciones de un modelo de lenguaje preentrenado (ProtT5).
  • Decodificador Jerárquico: Es el núcleo innovador. Los términos GO se ordenan en el decodificador siguiendo un orden topológico (de ancestros a descendientes).
    • Utiliza atención causal (máscara triangular inferior) para asegurar que cada término solo pueda atender a sus ancestros en la jerarquía, propagando información de funciones generales a específicas.
    • Utiliza atención cruzada para vincular las representaciones de los términos GO con las incrustaciones de residuos de la proteína, permitiendo que el modelo identifique qué residuos son relevantes para una función específica.

3. Contribuciones Clave

1. Integración Conjunta Semántica-Estructural: STAR-GO es el primer marco que optimiza conjuntamente las incrustaciones semánticas (texto) y estructurales (grafo) de GO dentro de un sistema de decodificación jerárquica, capturando dependencias funcionales a través de niveles de la ontología.
2. Capacidad Zero-Shot sin Reentrenamiento: A diferencia de métodos que requieren reentrenar incrustaciones cuando se añaden nuevos términos GO, STAR-GO puede generar incrustaciones para términos nuevos directamente a partir de sus definiciones textuales, manteniendo la compatibilidad con las actualizaciones de la ontología.
3. Mecanismo de Decodificación Jerárquica: La introducción de un orden topológico en el decodificador actúa como un sesgo inductivo fuerte, mejorando la generalización al propagar información desde términos generales hacia los específicos.
4. Interpretabilidad: El modelo permite rastrear la atención hacia residuos específicos de la proteína, demostrando que el modelo aprende mapeos generalizables entre la semántica del término y las características de la secuencia, incluso para funciones no vistas.

4. Resultados

El modelo fue evaluado en el conjunto de datos de DeepFRI y comparado con el estado del arte (DeepGOZero, DeepGO-SE, TransFew, PFresGO, etc.).

• Rendimiento General: STAR-GO logra un rendimiento competitivo, superando o igualando a los mejores modelos en todas las ontologías (Función Molecular - MF, Proceso Biológico - BP, Componente Celular - CC). Destaca especialmente en métricas AUC (Área bajo la curva), indicando una fuerte discriminabilidad a nivel de término.
• Generalización Zero-Shot: En la evaluación de zero-shot (donde 16 términos GO fueron excluidos del entrenamiento), las variantes de STAR-GO superaron consistentemente a los modelos baselines en 13 de 16 casos.
  • La variante combinada (STARST) mantuvo un rendimiento estable.
  • La variante puramente textual (START) mostró un rendimiento excepcional en términos de MF y BP, destacando la importancia de las definiciones textuales para la transferencia a conceptos nuevos.
• Estudios de Ablación:
  • Se demostró que eliminar la jerarquía en el decodificador o usar incrustaciones desde cero (sin pre-entrenamiento) degrada significativamente el rendimiento.
  • La combinación de texto y estructura ofrece el mejor equilibrio, aunque en algunos casos específicos una sola modalidad puede ser superior, sugiriendo que capturan aspectos complementarios de la similitud funcional.
• Interpretabilidad: En un análisis de casos de uso zero-shot (factores de transcripción de unión a ADN), la atención del modelo se concentró correctamente en residuos de contacto con el ADN validados experimentalmente (BioLiP), confirmando que el modelo aprende señales biológicas significativas sin haber visto esos términos antes.

5. Significado e Impacto

STAR-GO representa un avance significativo hacia modelos de predicción de funciones generalizables y resilientes a la evolución continua de las ontologías biológicas.

• Adaptabilidad: Al depender de definiciones textuales para generar incrustaciones, el modelo no queda obsoleto cuando la GO se actualiza, eliminando la necesidad de costosos ciclos de reentrenamiento.
• Comprensión Profunda: La integración exitosa de la estructura del grafo y el significado semántico demuestra que la riqueza de la ontología GO puede ser explotada computacionalmente para inferir funciones complejas.
• Aplicabilidad: Este enfoque abre la puerta a la predicción de funciones para proteínas de organismos no modelados o para nuevas familias de proteínas donde las anotaciones experimentales son inexistentes, acelerando el descubrimiento biológico.

El código y los modelos preentrenados están disponibles públicamente en GitHub, facilitando la adopción por parte de la comunidad científica.