Position: Beyond Sensitive Attributes, ML Fairness Should Quantify Structural Injustice via Social Determinants

Resumo Técnico: Além dos Atributos Sensíveis, a Equidade em ML Deve Quantificar a Injustiça Estrutural via Determinantes Sociais

Definição do Problema
A pesquisa atual de equidade algorítmica operacionaliza predominantemente a injustiça como discriminação ao longo de atributos sensíveis (ex: raça, sexo, gênero). Embora essa abordagem aborde o viés ao nível individual, os autores argumentam que ela falha em capturar a injustiça estrutural: inequidades sistêmicas instanciadas através de determinantes sociais. Os determinantes sociais são variáveis contextuais (ex: privação de vizinhança, financiamento escolar, exposição ambiental) que moldam oportunidades e resultados, mas que são definidas ao nível de lugares, instituições ou políticas, e não de indivíduos. Os paradigmas técnicos predominantes frequentemente tratam esses fatores contextuais como ruído a ser normalizado ou os descartam inteiramente durante o processamento de dados, tornando assim a injustiça estrutural invisível. Consequentemente, estratégias de mitigação focadas apenas em atributos sensíveis podem inadvertidamente introduzir novas formas de injustiça estrutural ou falhar em abordar as causas raízes da disparidade.

Metodologia
O artigo emprega uma abordagem multifacetada combinando análise conceitual, modelagem teórica e validação empírica:

1. Estrutura Conceitual: Os autores definem Atributos Sensíveis como características individuais intrínsecas e protegidas, e Determinantes Sociais como variáveis de nível de contexto que satisfazem três critérios: (1) definidas ao nível do contexto (ex: vizinhança), (2) caracterizadas por conteúdo sócio-estrutural (moldado por política ou alocação de recursos) e (3) envolvendo estratificação exógena (agrupamentos não derivados de traços individuais).
2. Modelagem Teórica: Um modelo estilizado de admissão universitária é construído para analisar a tensão entre a mitigação centrada em atributos sensíveis (ex: cotas) e a justiça estrutural. O modelo incorpora a composição demográfica específica da região e a dominância estocástica na preparação acadêmica para derivar condições de forma fechada sob as quais as estratégias de mitigação criam ônus indesejados.
3. Análise Empírica (Dados do Censo): Os autores vinculam as Áreas de Microdados de Uso Público (PUMAs) do Censo dos EUA com o Índice de Privação de Área (ADI). Eles visualizam distribuições de renda para grupos demográficos específicos (ex: mulheres negras) através de níveis variados de privação de área para demonstrar como os determinantes sociais criam heterogeneidade dentro de grupos sensíveis.
4. Análise Empírica (Saúde): Utilizando registros desidentificados da OSF HealthCare (aproximadamente 54.000 registros de mamografia), os autores analisam padrões de rastreamento de câncer de mama. Eles comparam idades de rastreamento entre regiões "ricas" e "pobres" (definidas pelo ADI) e realizam uma simulação semissintética para avaliar como intervenções de política visando determinantes sociais (ex: melhorar os padrões de rastreamento em regiões pobres) afetam as taxas de detecção precoce.
5. Crítica Técnica: O artigo revisa as estruturas de equidade causal existentes, demonstrando sua incompatibilidade com estruturas de nível comunitário. Argumenta-se que grafos causais de nível individual não podem representar adequadamente as influências bidirecionais entre indivíduos e suas comunidades ou a natureza agregada dos determinantes sociais.

Principais Contribuições

• Reenquadramento da Equidade: O artigo propõe uma mudança de auditar a injustiça meramente como discriminação ao longo de atributos sensíveis para quantificar a injusta estrutural via determinantes sociais.
• Paradoxo Teórico: Através do modelo de admissão universitária, os autores demonstram um achado contraintuitivo: a mitigação centrada em atributos sensíveis (como cotas) tem menor probabilidade de desfavorecer indivíduos não protegidos em contextos severamente injustos, mas torna-se cada vez mais propensa a gerar novas formas de injustiça estrutural à medida que as condições melhoram. Especificamente, tais estratégias podem impor limiares competitivos mais altos para candidatos não protegidos de regiões desfavorecidas que enfrentam barreções contextuais semelhantes às dos grupos protegidos.
• Evidência Empírica de Heterogeneidade: A análise dos dados do Censo e de saúde revela que indivíduos com atributos sensíveis idênticos experimentam resultados vastamente diferentes baseados em seus determinantes sociais (ex: a renda mediana para mulheres negras varia significamente por ADI; as idades de rastreamento para mulheres brancas variam em mais de 3 anos entre regiões ricas e pobres).
• Crítica aos Paradigmas Atuais: Os autores mostram que os benchmarks padrão (ex: Adult, Folktables) frequentemente descartam variáveis relacionadas ao endereço, e que modelos causais tipicamente operam no nível individual, falhando em capturar forças estruturais de nível comunitário.
• Pilares Acionáveis: O artigo delineia três pilares para trabalhos futuros: (1) Governança de Dados (uso de agregados contextuais com preservação de privacidade), (2) Design de Métricas (métricas de equidade dinâmicas e adaptáveis ao contexto, como "Paridade de Determinante Social"), e (3) Modelagem Causal (modelos de múltiplas camadas tratando determinantes sociais como alavancas de intervenção explícitas).

Resultados

• Teóricos: O Teorema 4.5 estabelece que a admissão baseada em cotas pode desfavorecer candidatos não pertencentes a Minorias Sub-representadas (URM) de regiões pobres mais do que candidatos URM de regiões ricas, particularmente à medida que a injustiça estrutural melhora e a lacuna na preparação acadêmica diminui.
• Empíricos (Censo): As distribuições de renda para mulheres negras são fortemente enviesadas para rendas mais baixas em PUMAs de alto ADI (alta privação) em comparação com PUMAs de baixo ADI, apesar de atributos sensíveis idênticos.
• Empíricos (Saúde): Mesmo dentro de um sistema de saúde unificado com diretrizes uniformes, a idade mediana do primeiro rastreamento de câncer de mama para mulheres brancas difere em quase 5 anos entre regiões ricas e pobres. Simulações semissintéticas mostram que adotar padrões de rastreamento "melhorados" (imitando regiões ricas) em regiões pobres aumenta as detecções precoces de ~1.367 para ~1.461 por 10.000 rastreamentos, demonstrando que intervenções estruturais produzem ganhos não triviais.
• Técnicos: Impor a Paridade Demográfica (DP) enquanto se incluem determinantes sociais como atributos não reduz consistentemente a disparidade e pode, por vezes, piorar as violações observadas quando os resultados são estratificados por determinantes sociais.

Significância e Alegações
O artigo afirma que o campo da equidade em ML deve ir além da "não-discriminação" (focando em atributos sensíveis) para abordar a "justiça estrutural". Os autores argumentam que, sem auditar e quantificar a injustiça estrutural via determinantes sociais, as estratégias de mitigação correm o risco de serem superficiais ou até contraproducentes. Eles sustentam que os determinantes sociais não são apenas "outro" atributo sensível ou um proxy para um, mas representam alavancas estruturais fundamentais que requerem abordagens técnicas distintas, incluindo novos frameworks de governança de dados, métricas dinâmicas e modelos causais capazes de lidar com interações de nível comunitário. O objetivo final é permitir intervenções de políticas que sejam melhor informadas pelos drivers sistêmicos da desigualdade, em vez de apenas pelos resultados demográficos.