Riepilogo Tecnico: Verso l'Equità in Presenza di Bias nelle Etichette nella Segmentazione di Immagini

Definizione del Problema

Il bias algoritmico nell'intelligenza artificiale si manifesta spesso come disparità di prestazioni tra sottogruppi demografici. Sebbene il bias nelle etichette – errori sistematici nelle etichette condizionati al gruppo – sia ben studiato nella classificazione, rimane poco esplorato nella segmentazione di immagini. In domini critici per la sicurezza come l'imaging medico, annotazioni distorte (ad esempio, sotto- o sovrasegmentazione sistematica dei tumori per specifiche popolazioni di pazienti) possono propagarsi direttamente nelle decisioni cliniche.

Una sfida critica è che le metriche standard di segmentazione (Dice, IoU) condensano errori spaziali complessi in singoli scalari, spesso mascherando la natura direzionale del bias. Inoltre, il rilevamento e la mitigazione di tale bias richiedono tipicamente l'accesso a etichette di verità fondamentale (ground-truth) pulite e non distorte, che raramente sono disponibili in scenari reali dove i protocolli di annotazione sono intrinsecamente soggettivi e suscettibili a distorsioni specifiche per gruppo demografico. Gli strumenti di mitigazione esistenti spesso presuppongono etichette pulite o strutture di bias note, lasciando un vuoto per l'affronto del bias nelle etichette quando le etichette vere sono sconosciute.

Metodologia

Il documento propone un framework incentrato sui dati per l'audit e la mitigazione del bias nelle etichette nella segmentazione senza richiedere una verità fondamentale pulita. L'approccio consta di due fasi principali:

1. Audit tramite Apprendimento Convincente (Confident Learning - CL) Adattato

Gli autori adattano l'Apprendimento Convincente (CL), tradizionalmente utilizzato per l'audit dei dataset nella classificazione, al compito di previsione densa della segmentazione.

• Meccanismo: Invece di diagnosticare il modello, il framework tratta il dataset come soggetto del processo. Un modello di segmentazione funge da proxy per stimare le etichette vere non osservate ($y_{true}$) generando previsioni convincenti ($\hat{y}$) tramite validazione incrociata K-fold.
• Stima della Distribuzione Congiunta: Il metodo calcola una matrice di distribuzione congiunta a livello di pixel $Q(y_{obs}, \hat{y})$, dove $y_{obs}$ è l'etichetta osservata (potenzialmente distorta). Questa matrice isola le voci fuori diagonale che rappresentano errori in cui l'etichetta osservata differisce dalla previsione convincente del modello.
• Metriche Direzionali: Per superare i limiti di Dice/IoU, il framework proietta $Q$ su due assi direzionali:
  • Tasso di Omissione (OmR): Pixel osservati come sfondo ma previsti con convinzione come primo piano (sottosegmentazione).
  • Tasso di Commissione (CoR): Pixel osservati come primo piano ma previsti con convinzione come sfondo (sovrasegmentazione).
• Indicatori di Bias: Il framework impiega test statistici per distinguere il bias sistematico dal rumore casuale:
  • Test di Indipendenza Chi-quadro: Verifica se i tipi di errore sono indipendenti dal sottogruppo.
  • Rischio Relativo (RR): Quantifica la probabilità che un gruppo distorto presenti errori rispetto a un gruppo pulito.
  • Punteggio di Simmetria (S): Misura se la distribuzione degli errori è proporzionale alla dimensione del gruppo (un S alto implica rumore uniforme; un S basso implica bias).

2. Mitigazione tramite Decodifica Condizionata al Sottogruppo

Gli autori osservano che il bias nelle etichette induce separabilità nello spazio delle caratteristiche, dove il codificatore impara a distinguere i sottogruppi basandosi sui pattern di annotazione corrotti piuttosto che solo sulle caratteristiche visive. Piuttosto che sopprimere questa separabilità (come fanno i metodi tradizionali basati sull'invarianza), il framework la sfrutta.

• Decodificatore Condizionato al Sottogruppo: Il metodo inietta condizionamento del sottogruppo apprendibile nella pipeline codificatore-decodificatore utilizzando la Modulazione Lineare Specifica per Caratteristiche (FiLM). Durante l'addestramento, parametri specifici del sottogruppo modulano le caratteristiche del codificatore.
• Strategia di Inferenza: All'inferenza, il modello è costretto a condizionarsi sul gruppo di riferimento "pulito" ($g_c$) per tutti gli input, indipendentemente dall'identità reale del sottogruppo. Questo sopprime sistematicamente il bias di annotazione appreso.
• Mascheramento Asimmetrico dei Confini: Per impedire al modello di apprendere gli stili di confine distorti, la supervisione fine dei confini è instradata esclusivamente dalle annotazioni del sottogruppo pulito, mentre la massa interna dell'oggetto è sfruttata da tutti i campioni.
• Auto-Condizionamento (Variante Non Supervisionata): Quando il sottogruppo distorto è sconosciuto, una fase di riscaldamento identifica il gruppo "pulito" come quello con la perdita media più bassa (attrattori di perdita stabili), permettendo al sistema di passare automaticamente a una perdita asimmetrica.

Contributi Chiave

1. Adattamento dell'Apprendimento Convincente alla Segmentazione: Il documento introduce un framework per rilevare il bias nelle etichette direttamente nei dati di addestramento senza verità fondamentale pulita, utilizzando metriche direzionali (tassi di omissione/commissione) che le metriche di sovrapposizione standard non riescono a catturare.
2. Evidenza Empirica della Separabilità nello Spazio delle Caratteristiche: Lo studio dimostra che il bias nelle etichette aumenta la separabilità dei sottogruppi nello spazio latente del codificatore. Crucialmente, sostiene che questa separabilità è un artefatto dell'input corrotto e può essere sfruttata costruttivamente per la mitigazione piuttosto che essere soppressa.
3. Strategia di Mitigazione del Bias: Viene proposta una nuova strategia di decodifica condizionata al sottogruppo che ottiene prestazioni eque senza etichette pulite, superando le baseline di equità esistenti (Debiasing Avversario, Allineamento Invariante al Dominio, Regularizzazione dell'Equità) che non affrontano la causa radice del bias di annotazione.

Risultati

Il framework è stato valutato su tre dataset:

• CelebAMask-HQ: Bias demografico controllato (erosione/dilatazione applicata alle maschere femminili/maschili).
• PhC-U373: Bias di stile di annotazione semi-sintetico (confini dettagliati vs. grossolani).
• ISIC Skin Lesions: Bias clinico reale (sovra-annotazione sistematica su toni di pelle chiari).

Risultati Chiave:

• Rilevamento: Le metriche standard (Dice/IoU) spesso falliscono nel rilevare il bias o forniscono diagnosi di equità invertite (ad esempio, il gruppo con il Dice osservato più alto era in realtà il più colpito dagli errori di annotazione). Al contrario, l'audit CL ha correttamente identificato il sottogruppo distorto e la natura degli errori (omissione vs. commissione) su tutti i dataset, anche senza etichette pulite.
• Mitigazione: I metodi tradizionali basati sull'invarianza (Avversario, MMD, CORAL) hanno prodotto miglioramenti trascurabili, poiché sopprimono il segnale demografico senza correggere lo stile di annotazione sottostante. L'approccio proposto condizionato al sottogruppo ha ridotto significativamente i divari di prestazioni (ad esempio, riducendo il divario di Dice da ~12% a ~0.3% su CelebAMask-HQ al 100% di bias) e ha ripristinato la simmetria nei tassi di errore.
• Separabilità delle Caratteristiche: Gli esperimenti hanno confermato che all'aumentare del bias nelle etichette, la separabilità dei sottogruppi nello spazio delle caratteristiche aumenta monotonicamente, validando l'ipotesi che il bias corrompa lo spazio di rappresentazione.

Significato e Affermazioni

Il documento afferma di colmare una lacuna critica nell'equità algoritmica per la segmentazione spostando l'attenzione dall'equità centrata sul modello (presumendo dati puliti) all'audit del bias centrato sui dati. Sostiene che:

• Le metriche standard sono insufficienti per la valutazione dell'equità nella segmentazione perché mascherano la natura direzionale degli errori di annotazione.
• Il bias nelle etichette non è semplicemente rumore casuale, ma una corruzione geometrica sistematica e condizionata al gruppo che altera lo spazio di rappresentazione della rete.
• Sfruttare costruttivamente la separabilità dei sottogruppi tramite decodifica condizionata è una strategia di mitigazione più efficace rispetto al tentativo di imporre l'invarianza, che può portare a un "abbassamento" delle prestazioni.
• Il framework proposto consente il rilevamento e la mitigazione affidabili del bias in scenari reali dove la verità fondamentale pulita non è disponibile, offrendo un approccio principiato all'audit delle pipeline di annotazione in applicazioni critiche per la sicurezza.

Gli autori riconoscono le limitazioni, notando che l'audit è vulnerabile a un bias uniforme estremo (100%) dove il disaccordo tra etichette osservate e previste diminuisce, e che la strategia di mitigazione si basa sull'assunzione che almeno un sottogruppo mantenga etichette relativamente non distorte. Si suggerisce un lavoro futuro per estendere il framework a operazioni morfologiche non uniformi e ad altri compiti di previsione densa.