MOMO: Mars Orbital Model Foundation Model for Mars Orbital Applications

Resumen Técnico: MOMO - Modelo Fundacional para Aplicaciones Orbitales en Marte

1. Planteamiento del Problema

A pesar del avance significativo de los Modelos Fundacionales (FMs) en la observación terrestre (EO), no existía ningún modelo fundacional específico para la teledetección de Marte. Los enfoques actuales presentan varias limitaciones:

• Dependencia de modelos genéricos: Los investigadores suelen utilizar modelos pre-entrenados en ImageNet o en datos de observación terrestre, los cuales no capturan adecuadamente las condiciones atmosféricas, de iluminación, materiales de superficie y características de los sensores de Marte.
• Diversidad de sensores y resoluciones: Los satélites de Marte (como HiRISE, CTX y THEMIS) operan con resoluciones muy dispares (desde 0.25 m/píxel hasta 100 m/píxel) y cubren diferentes áreas del planeta. Combinar estos datos heterogéneos en un solo conjunto de entrenamiento es difícil debido a la falta de superposición espacial y temporal.
• Costo computacional: Entrenar un modelo único desde cero para todos los sensores requiere recursos masivos y no es escalable si se añaden nuevos sensores en el futuro.

2. Metodología

MOMO introduce un enfoque innovador basado en la fusión de modelos (model merging) en lugar de la combinación directa de datos heterogéneos. La metodología se divide en tres pilares principales:

• Entrenamiento Independiente por Sensor:

  • Se entrenan modelos individuales (basados en Masked Autoencoders - MAE) para cada uno de los tres sensores clave: HiRISE (0.25 m/píxel), CTX (5 m/píxel) y THEMIS (100 m/píxel).
  • Se utiliza un corpus de aproximadamente 12 millones de muestras curadas, muestreadas estratificadamente según el mapa geológico de Marte (GMoM) para garantizar representatividad geográfica y geológica.
  • Función de Pérdida Mejorada: Se propone una función de pérdida compuesta que combina:
    1. Error Cuadrático Medio (MSE) para la fidelidad de píxeles.
    2. Pérdida perceptual (LPIPS) y similitud estructural (SSIM) para preservar detalles geomorfológicos.
    3. Pérdida de gradiente ($L_{grad}$) para asegurar la continuidad de bordes y estructuras (cráteres, deslizamientos).

• Estrategia de Selección de Checkpoints: Validación Loss Igual (EVL):

  • En lugar de fusionar los modelos en sus últimos checkpoints (que pueden estar sobreajustados o en diferentes etapas de convergencia), MOMO propone la estrategia Equal Validation Loss (EVL).
  • Esta estrategia alinea los checkpoints de los diferentes sensores basándose en la similitud de su pérdida de validación.
  • Se selecciona la tupla de checkpoints (uno por sensor) donde las pérdidas de validación son mutuamente cercanas y están lo más cerca posible de los puntos de parada temprana (early-stopping) de cada modelo individual. Esto asegura que los modelos se fusionen en un estado de convergencia compatible y estable.

• Fusión del Modelo:

  • Una vez seleccionados los checkpoints óptimos, se fusionan utilizando aritmética de tareas (task arithmetic), sumando directamente los parámetros de los modelos para crear una representación unificada.

3. Contribuciones Clave

1. Primer Modelo Fundacional para Marte: MOMO es el primer FM sistemáticamente desarrollado, analizado y evaluado específicamente para aplicaciones orbitales en Marte.
2. Arquitectura Multi-Sensor y Multi-Resolución: Logra integrar datos de sensores con resoluciones que varían en 400x (de 0.25m a 100m) mediante fusión de modelos, evitando la necesidad de un entrenamiento conjunto masivo.
3. Estrategia EVL: Introduce una técnica novedosa de selección de checkpoints basada en la alineación de pérdidas de validación, demostrando ser superior a las estrategias tradicionales de "último epoch" o "parada temprana" para la fusión de modelos.
4. Recursos Abiertos: Se liberan los pesos del modelo, el código de pre-entrenamiento, los datos y el código de evaluación en GitHub.

4. Resultados y Evaluación

El modelo se evaluó en 9 tareas descendentes del benchmark Mars-Bench, que incluyen clasificación y segmentación de características geológicas (cráteres, deslizamientos, rocas, etc.).

• Rendimiento General: MOMO superó consistentemente a:
  • Modelos pre-entrenados en ImageNet.
  • Modelos fundacionales de observación terrestre (SatMAE, CROMA, Prithvi, TerraFM).
  • Modelos pre-entrenados específicamente para un solo sensor.
  • Enfoques de fusión de datos directos (Data Merge).
• Mejoras Específicas:
  • Segmentación: Mostró mejoras significativas y consistentes, especialmente en tareas de localización precisa como la detección de rocas (Boulder), donde superó a la línea base de ImageNet en un ~4% de mIoU.
  • Clasificación: Superó a ImageNet en un promedio del ~1.25% en F1-score en tareas de clasificación.
• Comparación de Estrategias de Fusión: La estrategia EVL demostró ser más estable y generalizable que fusionar checkpoints al azar o al final del entrenamiento, como se visualizó en los paisajes de pérdida (loss landscapes), donde EVL encontró un "valle" de pérdida más bajo y estable.

5. Significado e Impacto

• Eficiencia y Escalabilidad: El enfoque de MOMO permite integrar nuevos sensores en el futuro simplemente pre-entrenando un modelo para ese nuevo sensor y fusionándolo con los existentes, sin necesidad de re-entrenar todo el sistema desde cero.
• Ciencia Planetaria: Proporciona a los científicos planetarios una herramienta de bajo costo para entrenar modelos en tareas personalizadas, mejorando la detección de características finas (como bordes de cráteres o deslizamientos de tierra) que los modelos genéricos no capturan bien.
• Aplicaciones Reales: El modelo ya ha demostrado su utilidad en la generación de mapas globales de características geológicas en regiones no vistas durante el entrenamiento, y supera al modelo actualmente desplegado en el Sistema de Datos Planetarios (PDS) de la NASA para la búsqueda de imágenes basada en contenido.

En conclusión, MOMO establece un nuevo estándar para la inteligencia artificial en la exploración planetaria, demostrando que la fusión de modelos mediante una selección óptima de checkpoints es una vía efectiva para construir modelos fundacionales robustos para datos multi-resolución y multi-sensor.