Tighnari v2: Mitigating Label Noise and Distribution Shift in Multimodal Plant Distribution Prediction via Mixture of Experts and Weakly Supervised Learning

Resumen Técnico: Tighnari v2: Mitigación de Ruido de Etiquetas y Desplazamiento de Distribución en la Predicción Multimodal de la Distribución de Plantas

1. El Problema

La predicción de la distribución de especies vegetales es fundamental para la conservación de la biodiversidad, pero enfrenta desafíos críticos debido a la naturaleza de los datos de observación:

• Datos de Presencia-Ausencia (PA): Son precisos y libres de ruido, pero costosos de obtener y escasos en cantidad.
• Datos de Solo Presencia (PO): Son abundantes y cubren grandes áreas, pero sufren de un ruido de etiquetas severo en las muestras negativas (los ciudadanos suelen registrar lo que ven, pero ignoran o no reconocen las especies comunes o presentes, lo que genera falsos negativos).
• Desplazamiento de Distribución (Distribution Shift): Existe una diferencia geográfica significativa entre los datos de entrenamiento y los de prueba (especialmente en escenarios out-of-distribution o OOD), lo que degrada el rendimiento de los modelos tradicionales.

2. Metodología Propuesta

Los autores proponen un marco de fusión multimodal que aprovecha las fortalezas de ambos tipos de datos mediante las siguientes innovaciones:

A. Estrategia de Pseudo-etiquetado Débilmente Supervisado:
Para mitigar el ruido en los datos PO, proponen un método de agregación basado en la cobertura geográfica de las imágenes satelitales. Si se agrupan las etiquetas de múltiples muestras PO dentro de un mismo parche de imagen (640m x 640m), el conjunto resultante se comporta de forma similar a un muestreo profesional (PA), reduciendo el ruido de las etiquetas negativas sin introducir ruido en las positivas.

B. Arquitectura de Red Neuronal Multimodal:
El modelo utiliza un enfoque de fusión de tres modalidades:

• Imágenes Satelitales: Utiliza un Swin Transformer Base para extraer características de alta resolución.
• Series Temporales (Bioclimáticas/Landsat): Emplea un Temporal Swin Transformer para capturar transiciones estacionales.
• Datos Tabulares (Climáticos/Ambientales): Utiliza la red TabM (basada en BatchEnsemble) para mejorar la representación de características tabulares.
• Fusión: Introducen un mecanismo de atención cruzada tri-modal serial apilable (stackable serial tri-modal cross-attention). A diferencia de la atención paralela, este proceso iterativo permite que las modalidades más dominantes guíen la atención de las demás, capturando dependencias de orden superior.

C. Función de Pérdida Asimétrica (ASL):
Sustituyen la pérdida de entropía cruzada binaria (BCE) por la Asymmetric Loss (ASL). Esto permite tratar de forma diferenciada los ejemplos difíciles y, crucialmente, mitigar el impacto de las etiquetas negativas ruidosas mediante el "recorte" (clipping) de la pérdida en muestras negativas con baja probabilidad.

D. Paradigma de Mezcla de Expertos (MoE):
Para manejar el desplazamiento geográfico, implementan un enfoque de "dividir y conquistar":

• Entrenan modelos separados para muestras que están cerca de datos PA conocidos (in-distribution) y para aquellas en regiones nuevas (out-of-distribution).
• Para el escenario OOD, utilizan un entrenamiento de dos etapas: primero mezclando PA con PO pseudo-etiquetado para aprender la diversidad de especies, y luego un ajuste fino (fine-tuning) con datos PA limpios para evitar el olvido catastrófico.

3. Contribuciones Clave

1. Regla de pseudo-etiquetado geográfico: Reduce la escasez de etiquetas y el ruido negativo de forma eficiente.
2. Módulo de atención cruzada serial: Mejora la capacidad de fusión de modalidades heterogéneas.
3. Estrategia de entrenamiento de dos etapas: Equilibra el aprendizaje de especies raras (vía PO) con la precisión de especies comunes (vía PA).
4. Arquitectura MoE para biodiversidad: Resuelve el problema del desplazamiento de distribución geográfica mediante la especialización de modelos.

4. Resultados

Los experimentos realizados en el conjunto de datos GeoLifeCLEF 2025 demostraron:

• Rendimiento Superior: El modelo alcanzó el tercer lugar en la competencia GeoLifeCLEF 2025, destacando especialmente en escenarios con muestras de prueba geográficamente fuera de la distribución de entrenamiento (OOD).
• Superación de Benchmarks: El enfoque MoE superó incluso la puntuación del segundo lugar del leaderboard de GeoLifeCLEF 2024 (donde la distribución era idéntica).
• Eficacia de Componentes: Las pruebas de ablación confirmaron que el Swin Transformer Base, el Temporal Swin Transformer y el mecanismo de atención serial son componentes críticos para el éxito del modelo.

5. Significado e Impacto

Este trabajo es significativo porque ofrece una solución robusta para el uso de ciencia ciudadana (datos PO) en modelos ecológicos de alta precisión. Al demostrar que es posible integrar datos masivos pero ruidosos con datos científicos precisos pero escasos, el modelo Tighnari v2 abre nuevas vías para el monitoreo de la biodiversidad a escala global, permitiendo predicciones más fiables incluso en regiones donde la investigación profesional es limitada.