📄 bioengineering

RNASeek: A Cross-Phyla Generative Foundation Model for Multipurpose RNA Modeling and Reinforcement Learning-Based Design

RNASeek es un modelo fundacional generativo de 1.600 millones de parámetros que aprovecha el aprendizaje por refuerzo para unificar la representación de secuencias de ARN, la predicción funcional y el diseño de novo, generando con éxito ribozimas y 3' UTRs validadas experimentalmente con un rendimiento mejorado.

Autores originales: Chen, S., Fernandes, N., Li, W. V., Wang, L., Jia, Z., Xiang, J. S.

Publicado 2026-09-28

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Chen, S., Fernandes, N., Li, W. V., Wang, L., Jia, Z., Xiang, J. S.

Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ⚕️ Esta es una explicación generada por IA de un preprint que no ha sido revisado por pares. No es consejo médico. No tome decisiones de salud basándose en este contenido. Leer descargo de responsabilidad completo

Dentro de cada célula viva, tiene lugar una conversación vasta e intrincada, no con palabras, sino con moléculas. En el corazón de este diálogo se encuentra el ARN, una molécula versátil que actúa tanto como mensajera como reguladora, transportando instrucciones desde el plano genético y decidiendo cómo se ejecutan dichas instrucciones. Durante décadas, los científicos han comprendido que el orden específico de las letras en una cadena de ARN determina su forma y función, de manera muy similar a como la disposición de las letras en una oración determina su significado. Sin embargo, predecir exactamente cómo se comportará una nueva secuencia de letras ha sido un desafío formidable. Las reglas son complejas, involucrando interacciones de largo alcance y matices estructurales sutiles que son difíciles de mapear a mano. Ahora, los investigadores han desarrollado una nueva herramienta que aprende estas reglas leyendo la literatura biológica de la vida misma, lo que les permite no solo predecir cómo se comportará el ARN, sino también diseñar moléculas completamente nuevas con propiedades específicas y deseadas.

El equipo detrás de este trabajo, liderado por investigadores de la Universidad de California, Riverside y la Universidad de Columbia, creó un programa informático masivo al que llaman RNASeek. Piensen en este programa como un estudiante que ha leído todos los libros de una biblioteca que contiene las instrucciones genéticas de más de cien especies diferentes, desde plantas y animales hasta hongos y virus. A diferencia de las herramientas anteriores que fueron diseñadas para resolver un solo rompecabezas específico, RNASeek fue construido para comprender el lenguaje general del ARN. Fue entrenado con un conjunto de datos que comprende aproximadamente 150 mil millones de piezas de información genética, aprendiendo a reconocer patrones en cómo diferentes organismos construyen su ARN. El programa también aprendió a leer instrucciones en lenguaje natural, lo que significa que un científico simplemente puede decirle qué es lo que quiere, como "crear una secuencia de ARN estable" o "diseñar una molécula que se corte a sí misma", y el modelo intentará generar una solución.

Para probar si este estudiante digital había aprendido realmente el lenguaje, los investigadores primero le pidieron que predijera el comportamiento de las ribozimas. Estas son moléculas de ARN que actúan como enzimas, capaces de cortarse a sí mismas o a otras moléculas. El equipo proporcionó al modelo miles de secuencias de ribozimas conocidas y sus velocidades de corte medidas. RNASeek aprendió con éxito a predecir qué secuencias cortarían rápido y cuáles lento, identificando características sutiles que contribuyen a la velocidad, como la flexibilidad de ciertos bucles en la estructura de la molécula. El modelo funcionó tan bien como, o mejor que, muchas herramientas especializadas diseñadas específicamente para esta tarea, demostrando que había captado los principios subyacentes de cómo la estructura del ARN dicta la función.

Animados por este éxito, los investigadores llevaron al modelo más allá, pidiéndole que diseñara nuevas secuencias de ARN desde cero. Se centraron en un tipo diferente de ARN que se encuentra en la región 3' no traducida, una sección de la molécula que ayuda a determinar cuánto tiempo sobrevive el ARN dentro de una célula. Una vida útil más larga significa que la célula produce más de la proteína que el ARN codifica, lo cual es crucial para terapias como las vacunas de ARNm. Los investigadores utilizaron una técnica llamada aprendizaje por refuerzo, un método donde el programa informático juega un juego de ensayo y error. Generó miles de secuencias candidatas, y una parte separada del modelo actuó como juez, calificándolas según la estabilidad que se predecía para ellas. El programa luego ajustó su estrategia para generar mejores candidatos, aprendiendo gradualmente a producir secuencias que fueran altamente estables.

Los resultados fueron sorprendentes. Las secuencias diseñadas por RNASeek no eran solo combinaciones aleatorias de letras; contenían patrones específicos, como una abundancia de adenina y uracilo, que se sabe ayudan a estabilizar el ARN. Cuando los investigadores probaron estos diseños generados por computadora en un entorno de laboratorio, encontraron que las nuevas secuencias funcionaban excepcionalmente bien. Algunas de las moléculas diseñadas eran incluso más estables que las mejores sec sequences encontradas en la naturaleza o aquellas creadas por otras herramientas de inteligencia artificial. Crucialmente, cuando los investigadores mezclaron las letras de estos diseños exitosos, desordenando su orden pero manteniendo los mismos ingredientes, la estabilidad desapareció. Esto confirmó que el éxito provenía de la disposición específica de las letras, no solo de la composición química, probando que el modelo había aprendido la verdadera sintaxis del lenguaje.

El estudio también demostró que el modelo podía seguir instrucciones complejas. Los científicos podían pedir al programa que generara una secuencia de ARN estable que incluyera un motivo específico para la clonación o que excluyera un patrón particular que pudiera causar problemas. El modelo cumplió con éxito estas restricciones mientras seguía optimizando la estabilidad. Esta capacidad de seguir comandos de lenguaje natural y producir partes biológicas funcionales sugiere una nueva forma de ingeniería de la vida. En lugar de depender de ciclos lentos y costosos de ensayo y error en el laboratorio, los científicos ahora pueden usar un sistema unificado para predecir cómo se comportará el ARN y diseñar nuevas moléculas para satisfacer necesidades precisas. El trabajo establece que un único modelo a gran escala puede cerrar la brecha entre la comprensión de los datos biológicos y la creación de nuevas herramientas biológicas funcionales, abriendo la puerta a un diseño más eficiente de terapias y herramientas de investigación.

Resumen Técnico: RNASeek

Planteamiento del Problema
Si bien los modelos de lenguaje de gran tamaño (LLM) han revolucionado el procesamiento del lenguaje natural y el diseño de proteínas, un marco general que conecte los modelos fundacionales de ARN con el diseño de secuencias funcionales sigue siendo limitado. Los modelos de ARN existentes están diseñados principalmente para el aprendizaje de representaciones y la predicción downstream, en lugar de la generación de secuencias condicionada por instrucciones y guiada por recompensas experimentales cuantitativas. Además, el aprendizaje por refuerzo (RL) efectivo para el diseño de ARN requiere señales de recompensa densas y cuantitativas que mapeen la variación de la secuencia con los resultados funcionales a través de diversos espacios de secuencias, una capacidad que suele faltar en los flujos de trabajo actuales de diseño de ARN regulatorio.

Metodología
Los autores presentan RNASeek, un modelo fundacional generativo de 1.6 mil millones de parámetros construido sobre una arquitectura DeepSeek (específicamente un transformador de solo decodificador basado en Qwen2.5) y entrenado en un corpus transcriptómico transfilogenético.

Arquitectura y Tokenización: RNASeek utiliza un vocabulario de tokens unificado que comprende:
1. Tokens de nucleótidos (A, U, C, G).
2. Tokens de estructura secundaria de ARN predicha (notación dot-bracket).
3. Tokens de marcado genómico (p. ej., |u5u|, |u3u|, |s|, |t|, |i|) para definir regiones funcionales.
4. Tokens de lenguaje natural (12,000 tokens derivados de PubMed/PMC) para instrucciones de tareas.
  Esta estrategia híbrida permite al modelo aceptar comandos de tareas al estilo del lenguaje natural (p. ej., `$predict_efficiency`) junto con datos de secuencias, lo que permite una predicción y un diseño condicional flexibles sin necesidad de reentrenar el tokenizador para cada tarea.
Preentrenamiento: El modelo fue preentrenado con aproximadamente $1.5 \times 10^{11}$ tokens de ARNm de más de 100 especies diversas (plantas, animales, hongos, virus) y 2 mil millones de tokens de lenguaje natural. La ventana de contexto de entrenamiento fue de 32,768 tokens. Aproximadamente el 50% de las secuencias fueron aumentadas con estructura secundaria predicha (RNAfold) para aprender las dependencias estructura-secuencia.
Ajuste Supervisado (Predicción): El backbone preentrenado fue ajustado mediante una cabeza de regresión para predecir:
- Actividad de autoclivaje de ribozimas: Utilizando datos de ensayos de reporteros de paralelo masivo (MPRA) de librerías de ribozimas hammerhead (variantes de c-di-GMP y de Loop I/II aleatorizadas).
- Estabilidad de ARNm viral: Utilizando datos de MPRA donde se insertaron fragmentos de ARN viral en 3′ UTRs.
  Los valores objetivo fueron transformados utilizando z-scores de logaritmo más uno para estabilizar la varianza.
Aprendizaje por Refuerzo (Diseño): Para pasar de la predicción al diseño, los autores emplearon Optimización de Política Relativa de Grupo (GRPO).
- Modelo de Recompensa: Los modelos de regresión ajustados sirvieron como funciones de recompensa (prediciendo la eficiencia de la ribozima o la estabilidad del 3′ UTR).
- Optimización de la Política: El backbone generativo fue actualizado para maximizar las recompensas mientras se adhería a las restricciones especificadas por el usuario (p. ej., inclusión/exclusión de motivos IUPAC, restricciones de longitud) codificadas en prompts de lenguaje natural.
- Recompensa Compuesta: La recompensa final combinó la puntuación del modelo de regresión (40%) con una puntuación de sintaxis/estructura (60%) para asegurar una composición de nucleótidos válida, marcadores correctos y la adherencia a las restricciones IUPAC.

Contribuciones Clave

Marco Unificado: RNASeek establece un único backbone autorregresivo capaz tanto de la predicción funcional cuantitativa como de la generación de secuencias de novo controlable, cerrando la brecha entre el aprendizaje de representaciones y el diseño generativo.
Generalización Transfilogenética: Al entrenarse en un corpus diverso que abarca múltiples reinos y virus, el modelo captura características de transcripción específicas de cada especie y límites de intrón-exón en un entorno zero-shot.
Generación Condicionada por Instrucciones: La integración de tokens de lenguaje natural permite a los usuarios especificar objetivos de diseño complejos (p. ej., "excluir motivo X, incluir motivo Y") sin cambios arquitectónicos.
Optimización impulsada por RL: La aplicación de GRPO al diseño de ARN demuestra una vía práctica para optimizar secuencias hacia propiedades biológicas deseadas (estabilidad, actividad catalítica) mientras se satisfacen estrictas restricciones composicionales.

Resultados

Capacidades Zero-Shot: Las incrustaciones (embeddings) preentrenadas mostraron una clara separación de especies en proyecciones UMAP y lograron la predicción de límites de intrones zero-shot con una perplejidad de ~323, lo que representa una mejora de ~37 veces sobre un selector de tokens uniforme.
Desempeño Predictivo:
- Ribozimas: RNASeek alcanzó una correlación de Pearson de validación de $r = 0.628$ en la eficiencia de la ribozima, superando a la mayoría de los modelos fundacionales comparados (incluyendo RNA-FM, Nucleotide Transformer y varios modelos tipo BERT) y superando a un baseline personalizado de LSTM.
- Estabilidad: Para la estabilidad del 3′ UTR viral, RNASeek alcanzó una correlación de Spearman de $r = 0.342$ , compitiendo con modelos de alto nivel como UTR-BERT-6mer y RiNALMo-micro.
Diseño Generativo:
- 3′ UTRs: La generación guiada por GRPO produjo secuencias con una estabilidad predicha significativamente mayor que las secuencias aleatorias, los 3′ UTRs humanos naturales y las secuencias generadas por ChatGPT-5 o GEMORNA.
- Validación Experimental (Estabilidad): Cuatro candidatos de 3′ UTR generados por RNASeek fueron validados experimentalmente mediante un ensayo de reportero de luciferasa dual. Todos los candidatos mostraron un aumento en la expresión del reportero en comparación con los controles negativos. Notablemente, RNASeek527 exhibió una actividad significativamente mayor que todas las secuencias de GEMORNA probadas y superó el desempeño de la mejor secuencia (K4) del conjunto de datos de entrenamiento original.
- Ribozimas: Las ribozimas generadas por GRPO mostraron una actividad predicha mayor que los controles aleatorios (shuffled) y los datos de laboratorio (wet-lab). La validación experimental confirmó que las ribozimas seleccionadas generadas por RNASeek alcanzaron niveles de actividad de autoclivaje de tipo silvestre (wild-type) en células.
Perspectivas Mecanísticas: El análisis de las secuencias generadas reveló que las ribozimas de alta eficiencia favorecían bucles flexibles de bajo contenido GC con alta probabilidad de no apareamiento. Para los 3′ UTRs, el modelo aprendió a desplegar una sintaxis rica en AU y sesgos de nucleótidos posicionales específicos para mejorar la estabilidad, de forma distinta al simple intercambio de composición (shuffling).

Significancia
El artículo afirma que RNASeek proporciona una estrategia general para la ingeniería de ARN regulatorios con propiedades deseadas al conectar el ARN aprendido con el diseño de secuencias de novo controlable. Demuestra que las arquitecturas de modelos de lenguaje de gran tamaño y los métodos de optimización de política (GRPO) desarrollados para el lenguaje natural pueden adaptarse con éxito al diseño de secuencias biológicas. Este trabajo establece un marco unificado de preentrenamiento–predicción–optimización que reduce la dependencia de la experimentación repetida en laboratorio para el cribado de secuencias. Aunque los autores señalan limitaciones respecto a la especificidad del tipo celular y el potencial de sesgo del modelo de recompensa, postulan que este enfoque ofrece una base escalable para futuras tareas que incluyen la predicción de la actividad enzimática, el modelado de splicing y el diseño de terapias de ARN.

Más como este