Wildfire Spread Scenarios: Increasing Sample Diversity of Segmentation Diffusion Models with Training-Free Methods

Resumen Técnico: Diversificación de Muestras en Modelos de Difusión para Segmentación Ambigua

1. El Problema

La predicción de fenómenos inciertos, como la propagación de incendios forestales, el diagnóstico médico o la conducción autónoma, requiere modelos capaces de anticipar múltiples resultados plausibles, no solo el más probable. Los modelos de difusión son ideales para aprender estas distribuciones multimodales. Sin embargo, un desafío crítico es la ineficiencia computacional al muestrear de estos modelos.

El muestreo "ingenuo" (naive sampling) a menudo genera muchas muestras redundantes, requiriendo cientos de intentos para encontrar modos de baja probabilidad que, sin embargo, son operativamente relevantes (por ejemplo, un escenario de incendio poco probable pero catastrófico). En tareas de segmentación ambigua, donde una sola entrada puede tener múltiples máscaras de segmentación válidas (debido a la incertidumbre epistémica o a la naturaleza del fenómeno), es crucial identificar eficientemente esta diversidad sin sacrificar la calidad de la imagen ni incurrir en costos computacionales excesivos.

2. Metodología

Los autores proponen y evalúan métodos de muestreo libres de entrenamiento (training-free) para aumentar la diversidad de las predicciones en modelos de difusión entrenados para segmentación binaria. En lugar de reentrenar el modelo, adaptan técnicas existentes de generación de imágenes naturales y proponen nuevas estrategias:

• Marco Base: Utilizan el marco de difusión EDM (Elucidating the Design Space of Diffusion-Based Generative Models) para generar máscaras de segmentación condicionadas a una imagen de entrada.
• Adaptación a Segmentación Binaria: Reconocen que las máscaras binarias (0 o 1) carecen de características de alta frecuencia complejas, lo que significa que la diversidad se determina principalmente en las etapas iniciales de alto ruido del proceso de denoising.

Técnicas Evaluadas:

1. Guía de Partículas (Particle Guidance - PG):

   • Calcula un término de guía basado en las distancias L2 entre las predicciones sin ruido de las muestras dentro de un lote.
   • Empuja las muestras para repelerlas entre sí, maximizando la diversidad.
   • Limitación: Puede degradar la calidad de la imagen si empuja las muestras hacia subespacios no aprendidos por el modelo. Se aplica principalmente en los primeros pasos de muestreo.

2. SPELL (SParse repELLency):

   • Utiliza un concepto de "escudo" (shield radius). Si dos muestras están demasiado cerca (dentro de un radio $r$), se repelen lo suficiente para mantener esa distancia, pero no más.
   • A diferencia de PG, no repela indiscriminadamente a todas las muestras cercanas.
   • Se aplica solo en las regiones de alto ruido para permitir que la función de puntuación (score function) corrija posibles errores de calidad al final del proceso.
   • Contribución clave: El radio del escudo ($r$) puede derivarse directamente de las estadísticas del conjunto de datos (distancia mínima entre objetivos únicos), reduciendo la necesidad de búsqueda de hiperparámetros.

3. Poda Basada en Agrupamiento (Clustering-based Pruning):

   • Propuesta original de los autores.
   • Genera un lote grande inicial de ruido, realiza un solo paso de denoising y agrupa las muestras usando k-medians (con distancia de Chamfer).
   • Se descartan las muestras redundantes, conservando solo los centroides (medias) de los clústeres para completar el proceso de denoising.
   • Ventaja: Evita modificar la trayectoria de muestreo, preservando la calidad de la imagen, a cambio de un mayor costo computacional inicial.

4. Diversidad Inter-lote (Inter-batch Diversity):

   • Se introduce un "banco de memoria" que almacena muestras generadas previamente para el mismo input.
   • Tanto PG como SPELL se modifican para repeler las muestras actuales no solo entre sí, sino también contra las muestras almacenadas en la memoria, asegurando diversidad a lo largo de múltiples lotes.

3. Conjuntos de Datos

El estudio se valida en tres dominios con ambigüedad inherente:

1. MMFire (Nuevo): Un dataset de simulación de incendios forestales generado con el simulador Simfire. Para cada condición inicial, se generan 8 futuros posibles variando la dirección del viento. Se impone una distribución de probabilidad sesgada para hacer difícil encontrar todos los modos.
2. Cityscapes (Modificado): Se convierte el dataset de segmentación semántica en una tarea binaria multimodal. Se invierten aleatoriamente clases (carretera, acera, vegetación, coche) con probabilidades fijas, creando 16 modos posibles por imagen.
3. LIDC: Dataset médico de tomografías computarizadas de pulmones con anotaciones de cuatro expertos, donde las discrepancias representan incertidumbre real.

4. Resultados Clave

Los experimentos comparan los métodos propuestos contra el muestreo ingenuo y el Probabilistic U-Net (el estado del arte previo para segmentación ambigua). La métrica principal es el IoU de Húngaro Emparejado (HM IoU)*, que mide tanto la calidad como la diversidad (evitando duplicados).

• Mejoras en Diversidad y Calidad:

  • En MMFire, los métodos de diversidad aumentaron el HM IoU* en hasta un 7.5% sobre el muestreo ingenuo.
  • En Cityscapes, la mejora fue aún más drástica, alcanzando un 16.4% de aumento.
  • SPELL demostró ser el método más robusto, especialmente en MMFire, superando a la Guía de Partículas y al muestreo ingenuo con un mejor equilibrio calidad-diversidad.
  • La Guía de Partículas funcionó muy bien en Cityscapes, aunque con una ligera pérdida de calidad de imagen en comparación con SPELL.

• Eficiencia:

  • Los métodos libres de entrenamiento logran una mayor diversidad con el mismo número de muestras que el muestreo ingenuo, evitando la necesidad de generar cientos de muestras redundantes.
  • La poda por agrupamiento ofrece alta fidelidad pero con un costo computacional mayor, siendo útil cuando la calidad es prioritaria sobre la velocidad.

• Hallazgos sobre Hiperparámetros:

  • Se demostró que el radio del escudo en SPELL puede calcularse analíticamente a partir de los datos de entrenamiento, eliminando la necesidad de búsquedas exhaustivas.
  • Limitar la aplicación de SPELL a las etapas de alto ruido (primeros pasos) es crucial para mantener la calidad de la imagen en máscaras binarias.

5. Contribuciones y Significancia

• Nueva Metodología para Incertidumbre: Proporciona un marco práctico para utilizar modelos de difusión en escenarios donde es vital anticipar un espectro de futuros posibles, no solo el promedio.
• Dataset MMFire: Introduce un nuevo benchmark específico para la propagación de incendios con múltiples resultados simulados, llenando un vacío en la literatura.
• Validación de Métodos Libres de Entrenamiento: Demuestra que adaptar técnicas de generación de imágenes naturales (PG, SPELL) a la segmentación binaria es efectivo y eficiente, superando a arquitecturas diseñadas específicamente para incertidumbre como el Probabilistic U-Net en escenarios con distribuciones altamente sesgadas.
• Impacto Operativo: Estos métodos permiten a los sistemas de apoyo a la decisión (ej. gestión de desastres) explorar escenarios de baja probabilidad pero alto impacto de manera eficiente, mejorando la preparación y respuesta ante desastres como incendios forestales.

En conclusión, el trabajo establece que la diversidad sesgada (diversity-biasing) mediante métodos de muestreo inteligentes es una vía superior para la segmentación ambigua, ofreciendo una base sólida para sistemas de IA más robustos en entornos inciertos.