Resumo Técnico: Rumo à Equidade sob Viés de Rótulo em Segmentação de Imagens

Definição do Problema

O viés algorítmico na IA frequentemente se manifesta como disparidades de desempenho entre subgrupos demográficos. Embora o viés de rótulo — erros de rótulo sistemáticos condicionados ao grupo — seja bem estudado em classificação, permanece pouco explorado em segmentação de imagens. Em domínios críticos para a segurança, como imagens médicas, anotações enviesadas (por exemplo, sub ou supersegmentação sistemática de tumores para populações específicas de pacientes) podem propagar-se diretamente para decisões clínicas.

Um desafio crítico é que as métricas padrão de segmentação (Dice, IoU) condensam erros espaciais complexos em escalares únicos, frequentemente mascarando a natureza direcional do viés. Além disso, detectar e mitigar esse viés geralmente requer acesso a rótulos de verdade fundamental limpos e não enviesados, que raramente estão disponíveis em cenários do mundo real, onde os protocolos de anotação são inerentemente subjetivos e suscetíveis a distorções específicas de grupos demográficos. Ferramentas existentes de mitigação frequentemente assumem rótulos limpos ou estruturas de viés conhecidas, deixando uma lacuna para o tratamento do viés de rótulo quando os rótulos verdadeiros são desconhecidos.

Metodologia

O artigo propõe uma estrutura centrada nos dados para auditoria e mitigação de viés de rótulo em segmentação sem exigir verdade fundamental limpa. A abordagem consiste em duas etapas principais:

1. Auditoria via Aprendizado Confiável Adaptado (CL)

Os autores adaptam o Aprendizado Confiável (CL), tradicionalmente utilizado para auditoria de conjuntos de dados em classificação, para a tarefa de predição densa de segmentação.

• Mecanismo: Em vez de diagnosticar o modelo, a estrutura trata o conjunto de dados como o sujeito do julgamento. Um modelo de segmentação serve como proxy para estimar rótulos verdadeiros não observados ($y_{true}$) gerando predições confiáveis ($\hat{y}$) via validação cruzada K-fold.
• Estimativa de Distribuição Conjunta: O método computa uma matriz de distribuição conjunta em nível de pixel $Q(y_{obs}, \hat{y})$, onde $y_{obs}$ é o rótulo observado (potencialmente enviesado). Esta matriz isola entradas fora da diagonal representando erros onde o rótulo observado difere da predição confiável do modelo.
• Métricas Direcionais: Para superar as limitações do Dice/IoU, a estrutura projeta $Q$ em dois eixos direcionais:
  • Taxa de Omissão (OmR): Pixels observados como fundo mas confidentemente preditos como primeiro plano (subsegmentação).
  • Taxa de Comissão (CoR): Pixels observados como primeiro plano mas confidentemente preditos como fundo (supersegmentação).
• Indicadores de Viés: A estrutura emprega testes estatísticos para distinguir viés sistemático de ruído aleatório:
  • Teste de Independência Qui-quadrado: Verifica se os tipos de erro são independentes do subgrupo.
  • Risco Relativo (RR): Quantifica a probabilidade de um grupo enviesado exibir erros em comparação com um grupo limpo.
  • Pontuação de Simetria (S): Mede se a distribuição de erros é proporcional ao tamanho do grupo (S alto implica ruído uniforme; S baixo implica viés).

2. Mitigação via Decodificação Condicionada ao Subgrupo

Os autores observam que o viés de rótulo induz separabilidade no espaço de características, onde o codificador aprende a distinguir subgrupos com base nos padrões de anotação corrompidos em vez de apenas nas características visuais. Em vez de suprimir essa separabilidade (como fazem os métodos tradicionais baseados invariância), a estrutura a aproveita.

• Decodificador Condicionado ao Subgrupo: O método injeta condicionamento de subgrupo aprendível no pipeline codificador-decodificador usando Modulação Linear Específica de Características (FiLM). Durante o treinamento, parâmetros específicos do subgrupo modulam as características do codificador.
• Estratégia de Inferência: Na inferência, o modelo é forçado a condicionar-se ao grupo de referência "limpo" ($g_c$) para todas as entradas, independentemente da identidade real do subgrupo. Isso suprime sistematicamente o viés de anotação aprendido.
• Mascaramento Assimétrico de Fronteiras: Para impedir que o modelo aprenda os estilos de fronteira enviesados, a supervisão de fronteira de alta granularidade é roteada exclusivamente a partir das anotações do subgrupo limpo, enquanto a massa interna do objeto é aproveitada de todas as amostras.
• Auto-Condicionamento (Variante Não Supervisionada): Quando o subgrupo enviesado é desconhecido, uma fase de aquecimento identifica o grupo "limpo" como aquele com a menor perda média (atratores de perda estáveis), permitindo que o sistema transite automaticamente para uma perda assimétrica.

Contribuições Principais

1. Adaptação do Aprendizado Confiável para Segmentação: O artigo introduz uma estrutura para detectar viés de rótulo diretamente nos dados de treinamento sem verdade fundamental limpa, utilizando métricas direcionais (Taxas de Omissão/Comissão) que as métricas de sobreposição padrão falham em capturar.
2. Evidência Empírica de Separabilidade no Espaço de Características: O estudo demonstra que o viés de rótulo aumenta a separabilidade dos subgrupos no espaço latente do codificador. Crucialmente, argumenta que essa separabilidade é um artefato da entrada corrompida e pode ser construtivamente aproveitada para mitigação em vez de supressão.
3. Estratégia de Mitigação de Viés: Propõe-se uma nova estratégia de decodificação condicionada ao subgrupo que alcança desempenho equitativo sem rótulos limpos, superando as linhas de base de equidade existentes (Desenviesamento Adversarial, Alinhamento Invariante de Domínio, Regularização de Equidade) que falham em abordar a causa raiz do viés de anotação.

Resultados

A estrutura foi avaliada em três conjuntos de dados:

• CelebAMask-HQ: Viés demográfico controlado (erosão/dilatação aplicada às máscaras femininas/masculinas).
• PhC-U373: Viés de estilo de anotação semi-sintético (fronteiras detalhadas vs. grosseiras).
• ISIC Skin Lesions: Viés clínico do mundo real (sobreanotação sistemática em tons de pele claros).

Principais Descobertas:

• Detecção: Métricas padrão (Dice/IoU) frequentemente falham em detectar viés ou fornecem diagnósticos de equidade invertidos (por exemplo, o grupo com o maior Dice observado foi na verdade o mais afetado por erros de anotação). Em contraste, a auditoria CL identificou corretamente o subgrupo enviesado e a natureza dos erros (omissão vs. comissão) em todos os conjuntos de dados, mesmo sem rótulos limpos.
• Mitigação: Métodos tradicionais baseados em invariância (Adversarial, MMD, CORAL) produziram melhorias negligenciáveis, pois suprimem o sinal demográfico sem corrigir o estilo de anotação subjacente. A abordagem proposta condicionada ao subgrupo reduziu significativamente as lacunas de desempenho (por exemplo, reduzindo a lacuna de Dice de ~12% para ~0,3% no CelebAMask-HQ com 100% de viés) e restaurou a simetria nas taxas de erro.
• Separabilidade de Características: Experimentos confirmaram que, à medida que o viés de rótulo aumenta, a separabilidade dos subgrupos no espaço de características aumenta monotonicamente, validando a hipótese de que o viés corrompe o espaço de representação.

Significado e Alegações

O artigo afirma abordar uma lacuna crítica na equidade algorítmica para segmentação ao deslocar o foco da equidade centrada no modelo (assumindo dados limpos) para a auditoria de viés centrada nos dados. Argumenta-se que:

• As métricas padrão são insuficientes para avaliação de equidade em segmentação porque mascaram a natureza direcional dos erros de anotação.
• O viés de rótulo não é meramente ruído aleatório, mas uma corrupção geométrica sistemática e condicionada ao grupo que altera o espaço de representação da rede.
• Aproveitar construtivamente a separabilidade do subgrupo via decodificação condicional é uma estratégia mais eficaz para mitigação do que tentar impor invariância, o que pode levar a uma "nivelamento por baixo" do desempenho.
• A estrutura proposta permite a detecção e mitigação confiáveis de viés em cenários do mundo real onde a verdade fundamental limpa não está disponível, oferecendo uma abordagem principista para auditar pipelines de anotação em aplicações críticas para a segurança.

Os autores reconhecem limitações, observando que a auditoria é vulnerável a viés uniforme extremo (100%) onde o desacordo entre rótulos observados e preditos diminui, e que a estratégia de mitigação depende da suposição de que pelo menos um subgrupo mantém rótulos relativamente não enviesados. Sugere-se trabalho futuro para estender a estrutura para operações morfológicas não uniformes e outras tarefas de predição densa.