Resumen Técnico: Hacia la Equidad bajo Sesgo de Etiquetas en Segmentación de Imágenes

Definición del Problema

El sesgo algorítmico en la IA a menudo se manifiesta como disparidades de rendimiento entre subgrupos demográficos. Aunque el sesgo de etiquetas —errores de etiquetas condicionales a grupos sistemáticos— está bien estudiado en clasificación, sigue siendo poco explorado en la segmentación de imágenes. En dominios críticos para la seguridad como la imagenología médica, las anotaciones sesgadas (por ejemplo, la sub o sobre-segmentación sistemática de tumores para poblaciones de pacientes específicas) pueden propagarse directamente a las decisiones clínicas.

Un desafío crítico es que las métricas estándar de segmentación (Dice, IoU) condensan errores espaciales complejos en escalares únicos, a menudo enmascarando la naturaleza direccional del sesgo. Además, detectar y mitigar este sesgo generalmente requiere acceso a etiquetas de verdad fundamental limpias y sin sesgo, las cuales rara vez están disponibles en escenarios del mundo real donde los protocolos de anotación son inherentemente subjetivos y susceptibles a distorsiones específicas de demografía. Las herramientas de mitigación existentes a menudo asumen etiquetas limpias o estructuras de sesgo conocidas, dejando un vacío para abordar el sesgo de etiquetas cuando las etiquetas verdaderas son desconocidas.

Metodología

El artículo propone un marco centrado en los datos para auditar y mitigar el sesgo de etiquetas en segmentación sin requerir verdad fundamental limpia. El enfoque consta de dos etapas principales:

1. Auditoría mediante Aprendizaje Confiable (CL) Adaptado

Los autores adaptan el Aprendizaje Confiable (CL), tradicionalmente utilizado para la auditoría de conjuntos de datos en clasificación, a la tarea de predicción densa de segmentación.

• Mecanismo: En lugar de diagnosticar el modelo, el marco trata al conjunto de datos como el sujeto del juicio. Un modelo de segmentación sirve como proxy para estimar las etiquetas verdaderas no observadas ($y_{true}$) generando predicciones confiables ($\hat{y}$) mediante validación cruzada de K-folds.
• Estimación de Distribución Conjunta: El método calcula una matriz de distribución conjunta a nivel de píxel $Q(y_{obs}, \hat{y})$, donde $y_{obs}$ es la etiqueta observada (potencialmente sesgada). Esta matriz aísla las entradas fuera de la diagonal que representan errores donde la etiqueta observada difiere de la predicción confiable del modelo.
• Métricas Direcionales: Para superar las limitaciones de Dice/IoU, el marco proyecta $Q$ sobre dos ejes direccionales:
  • Tasa de Omisión (OmR): Píxeles observados como fondo pero predichos confiablemente como primer plano (sub-segmentación).
  • Tasa de Comisión (CoR): Píxeles observados como primer plano pero predichos confiablemente como fondo (sobre-segmentación).
• Indicadores de Sesgo: El marco emplea pruebas estadísticas para distinguir el sesgo sistemático del ruido aleatorio:
  • Prueba de Independencia Chi-cuadrado: Verifica si los tipos de error son independientes del subgrupo.
  • Riesgo Relativo (RR): Cuantifica la probabilidad de que un grupo sesgado exhiba errores en comparación con un grupo limpio.
  • Puntaje de Simetría (S): Mide si la distribución de errores es proporcional al tamaño del grupo (un S alto implica ruido uniforme; un S bajo implica sesgo).

2. Mitigación mediante Decodificación Condicionada a Subgrupos

Los autores observan que el sesgo de etiquetas induce separabilidad en el espacio de características, donde el codificador aprende a distinguir subgrupos basándose en los patrones de anotación corruptos en lugar de solo en características visuales. En lugar de suprimir esta separabilidad (como lo hacen los métodos tradicionales basados en invarianza), el marco la aprovecha.

• Decodificador Condicionado a Subgrupos: El método inyecta condicionamiento de subgrupo aprendible en la tubería codificador-decodificador utilizando Modulación Lineal Específica de Características (FiLM). Durante el entrenamiento, parámetros específicos del subgrupo modulan las características del codificador.
• Estrategia de Inferencia: En la inferencia, el modelo se fuerza a condicionar en el grupo de referencia "limpio" ($g_c$) para todas las entradas, independientemente de la identidad real del subgrupo. Esto suprime sistemáticamente el sesgo de anotación aprendido.
• Enmascaramiento Asimétrico de Bordes: Para evitar que el modelo aprenda los estilos de bordes sesgados, la supervisión fina de bordes se enruta exclusivamente desde las anotaciones del subgrupo limpio, mientras que la masa interna del objeto se aprovecha de todas las muestras.
• Auto-Condicionamiento (Variante No Supervisada): Cuando el subgrupo sesgado es desconocido, una fase de calentamiento identifica al grupo "limpio" como aquel con la pérdida media más baja (atractores de pérdida estables), permitiendo que el sistema transicione automáticamente a una pérdida asimétrica.

Contribuciones Clave

1. Adaptación del Aprendizaje Confiable a la Segmentación: El artículo introduce un marco para detectar el sesgo de etiquetas directamente en los datos de entrenamiento sin verdad fundamental limpia, utilizando métricas direccionales (tasas de omisión/comisión) que las métricas de superposición estándar no logran capturar.
2. Evidencia Empírica de Separabilidad en el Espacio de Características: El estudio demuestra que el sesgo de etiquetas aumenta la separabilidad de los subgrupos en el espacio latente del codificador. Crucialmente, argumenta que esta separabilidad es un artefacto de la entrada corrupta y puede aprovecharse constructivamente para la mitigación en lugar de ser suprimida.
3. Estrategia de Mitigación de Sesgo: Se propone una nueva estrategia de decodificación condicionada a subgrupos que logra un rendimiento equitativo sin etiquetas limpias, superando las líneas base de equidad existentes (Desviación Adversarial, Alineación Invariante de Dominio, Regularización de Equidad) que no abordan la causa raíz del sesgo de anotación.

Resultados

El marco fue evaluado en tres conjuntos de datos:

• CelebAMask-HQ: Sesgo demográfico controlado (erosión/dilatación aplicada a máscaras de mujeres/hombres).
• PhC-U373: Sesgo de estilo de anotación semi-sintético (bordes detallados vs. toscos).
• ISIC Skin Lesions: Sesgo clínico del mundo real (sobre-anotación sistemática en tonos de piel claros).

Hallazgos Clave:

• Detección: Las métricas estándar (Dice/IoU) a menudo fallan en detectar el sesgo o proporcionan diagnósticos de equidad invertidos (por ejemplo, el grupo con el Dice observado más alto fue en realidad el más afectado por errores de anotación). En contraste, la auditoría CL identificó correctamente el subgrupo sesgado y la naturaleza de los errores (omisión vs. comisión) en todos los conjuntos de datos, incluso sin etiquetas limpias.
• Mitigación: Los métodos tradicionales basados en invarianza (Adversarial, MMD, CORAL) arrojaron mejoras insignificantes, ya que suprimen la señal demográfica sin corregir el estilo de anotación subyacente. El enfoque propuesto de decodificación condicionada a subgrupos redujo significativamente las brechas de rendimiento (por ejemplo, reduciendo la brecha de Dice de ~12% a ~0.3% en CelebAMask-HQ con un 100% de sesgo) y restauró la simetría en las tasas de error.
• Separabilidad de Características: Los experimentos confirmaron que a medida que aumenta el sesgo de etiquetas, la separabilidad de subgrupos en el espacio de características aumenta monótonamente, validando la hipótesis de que el sesgo corrompe el espacio de representación.

Significado y Afirmaciones

El artículo afirma abordar una brecha crítica en la equidad algorítmica para la segmentación al cambiar el enfoque de la equidad centrada en el modelo (asumiendo datos limpios) a la auditoría de sesgo centrada en los datos. Argumenta que:

• Las métricas estándar son insuficientes para la evaluación de equidad en segmentación porque enmascaran la naturaleza direccional de los errores de anotación.
• El sesgo de etiquetas no es meramente ruido aleatorio, sino una corrupción geométrica sistemática y condicional a grupos que altera el espacio de representación de la red.
• Aprovechar constructivamente la separabilidad de subgrupos mediante decodificación condicional es una estrategia más efectiva para la mitigación que intentar imponer invarianza, lo cual puede llevar a una "nivelación hacia abajo" del rendimiento.
• El marco propuesto permite la detección y mitigación confiable de sesgos en escenarios del mundo real donde no está disponible la verdad fundamental limpia, ofreciendo un enfoque principiado para auditar tuberías de anotación en aplicaciones críticas para la seguridad.

Los autores reconocen limitaciones, señalando que la auditoría es vulnerable a un sesgo uniforme extremo (100%) donde la discrepancia entre las etiquetas observadas y predichas disminuye, y que la estrategia de mitigación depende del supuesto de que al menos un subgrupo conserva etiquetas relativamente libres de sesgo. Se sugiere trabajo futuro para extender el marco a operaciones morfológicas no uniformes y otras tareas de predicción densa.