Resumo Técnico: Melhoria Relativa Maximin como um Problema de Barganha

1. Formulação do Problema

O artigo aborda o desafio de implantar um único preditor unificado em múltiplas subpopulações (grupos), onde a otimização para um grupo frequentemente degrada o desempenho de outros. As abordagens existentes, como a minimização do risco do pior grupo (Group DRO) ou a minimização do arrependimento do pior grupo (Minimax Regret), baseiam-se em comparações absolutas de risco ou arrependimento entre grupos.

Os autores argumentam que os critérios absolutos falham quando os grupos diferem em previsibilidade inerente (o "potencial de melhoria" disponível de um preditor de linha de base para um preditor ótimo). Se o Grupo A tem um grande potencial de melhoria e o Grupo B tem um pequeno potencial, uma abordagem de arrependimento minimax absoluto pode alocar quase toda a capacidade do modelo ao Grupo A para minimizar seu arrependimento absoluto, potencialmente deixando o desempenho do Grupo B pior do que o da linha de base. Isso ocorre porque uma unidade de redução de risco absoluto não é igualmente significativa entre grupos com diferentes razões sinal-ruído.

2. Metodologia: Aprendizado Justo como um Problema de Barganha

O Framework de Barganha

Os autores reformulam a justiça de grupo como um problema de barganha cooperativa entre subpopulações.

• Jogadores: As subpopulações (grupos).
• Ponto de Desacordo ($d$): O risco incorrido por um preditor de linha de base $f_0$ (por exemplo, a média incondicional em regressão ou a classe majoritária em classificação). Isso representa o resultado se os grupos falharem em cooperar.
• Ponto Ideal ($u^{max}$): O risco incorrido pelo preditor ótimo do grupo $f^*_g$ para cada grupo.
• Conjunto Viável: O conjunto de vetores de risco alcançáveis $\mathcal{R}(\mathcal{F})$ induzidos pela classe de funções $\mathcal{F}$.

A otimização busca um compromisso onde os grupos sacrificam parte de seu desempenho individual ótimo para alcançar uma solução mutuamente aceitável.

Critério de Melhoria Relativa

O artigo propõe a Melhoria Relativa ($\rho_g$) como a métrica de justiça. Para um grupo $g$, ela é definida como a razão da redução de risco real alcançada por um preditor $f$ em relação à redução de risco máxima possível (a lacuna entre a linha de base e o ótimo do grupo):

$$\rho_g(f) = \frac{R_g(f_0) - R_g(f)}{R_g(f_0) - R_g(f^*_g)}$$

O objetivo de aprendizado proposto é a Melhoria Relativa Maximin (MMRI):
$$f_{RI} = \arg \max_{f \in \mathcal{F}} \min_{g \in \mathcal{G}} \rho_g(f)$$

Conexão Teórica: Solução de Kalai–Smorodinsky

Os autores estabelecem que o critério MMRI corresponde exatamente à solução de barganha Kalai–Smorodinsky (KS) (Kalai & Smorodinsky, 1975).

• Interpretação Geométrica: No espaço de utilidade (onde a utilidade é o risco negativo), a solução KS é o ponto único na fronteira de Pareto que equaliza os ganhos relativos a partir do ponto de desacordo para todos os jogadores.
• Justificativa Axiomática: A solução KS é caracterizada unicamente por quatro axiomas:
  1. Otimalidade de Pareto (PO): Nenhum grupo pode ser melhorado sem prejudicar outro.
  2. Simetria (SYM): Grupos com conjuntos viáveis e pontos de desacordo idênticos são tratados de forma igual.
  3. Invariância de Escala (SI): A solução é invariante a transformações afins da escala de utilidade (crucial quando os grupos têm diferentes previsibilidades de linha de base).
  4. Monotonicidade Individual (IM): Se o conjunto viável se expande (mais opções disponíveis) mantendo os ótimos dos outros grupos fixos, nenhum grupo deve ser prejudicado.

O artigo prova que, para $m=2$ grupos, o MMRI satisfaz todos os quatro axiomas. Para $m > 2$, utiliza o refinamento leximin (maximin lexicográfico) para garantir unicidade e otimalidade de Pareto, satisfazendo versões modificadas desses axiomas.

Comparação com Métodos Existentes

O artigo mapeia métodos de otimização robusta existentes para outras soluções de barganha clássicas:

• Group DRO (Minimax Risk): Corresponde a uma solução Rawlsiana (maximizando a utilidade absoluta mínima).
• Maximin Explained Variance: Corresponde a uma solução Igualitária (equalizando ganhos absolutos a partir do ponto de desacordo).
• Minimax Regret: Corresponde a uma solução de Perda Igual (Equal Loss) (equalizando desvios absolutos do ponto ideal).

Ao contrário do MMRI, esses métodos geralmente carecem de Invariância de Escala, levando aos modos de falha observados quando há heterogeneidade de previsibilidade entre os grupos.

Bem-Postura e Convergência

Os autores verificam que o problema de aprendizado induz um problema de barganha bem-postado ao estabelecer condições sob as quais o conjunto de risco viável $\mathcal{R}(\mathcal{F})$ é compacto e seu envelope convexo não contém pontos Pareto otimizáveis não realizáveis. Essas condições ocorrem para:

• Configurações paramétricas (espaço de parâmetros convexo e compacto, perda convexa contínua).
• Configurações não paramétricas de RKHS (classe de funções convexa e compacta, mapas de avaliação contínuos).

Além disso, o artigo estabelece uma garantia de convergência de amostra finita de $O(1/\sqrt{n})$ para o estimador empírico de melhoria relativa maximin, correspondendo às taxas de métodos baseados em arrependimento sob condições de regularidade padrão (perda Lipschitz, condições de entropia).

3. Principais Contribuições

1. Melhoria Relativa como um Critério de Justiça: Propõe uma métrica que normaliza a redução de risco pelo potencial de melhoria específico do grupo, garantindo a comparabilidade entre grupos com diferentes previsibilidades inerentes.
2. Framework de Barganha Unificado: Demonstra que métodos de justiça robusta existentes (Group DRO, Minimax Regrit, etc.) são equivalentes a soluções de barganha clássicas específicas, permitendo uma comparação axiomática de seus compromissos normativos.
3. Caracterização Axiomática: Prova que a Melhoria Relativa Maximin é a solução única que satisfaz a Otimalidade de Pareto, Simetria, Invariância de Escala e Monotonicidade Individual (ou seus refinamentos leximin para $m>2$).
4. Garantia de Não-Dano: Mostra que, se o preditor de linha de base estiver dentro da classe de funções ($f_0 \in \mathcal{F}$), a solução MMRI garante que nenhum grupo tenha um desempenho pior do que a linha de base (Racionalidade Individual), uma propriedade que o Minimax Regret viola.
5. Garantias de Amostra Finita: Fornece taxas de convergência para o estimador empírico.

4. Resultados Empíricos

Os autores avaliam o método usando dados do American Community Survey (ACS) de 2018, prevendo o log-transformado da renda através de 50 estados dos EUA com partições binárias (sexo, raça) e várias características (idade, educação, estado civil, status de composição familiar).

• Observação de Assimetria: O estudo descobre que a previsibilidade diferencial é generalizada. A "razão de lacuna" (razão entre potenciais melhorias) varia de 0,04 a 3,48. Em 73% das configurações, a assimetria é de moderada a extrema; na partição de raça, 86% dos estados mostram assimetria extrema para o status de composição familiar.
• Comparação de Desempenho:
  • Minimax Regret (MMR): Em casos de alta assimetria (ex: Dakota do Norte, partição de raça, característica de idade), o MMR aloca quase toda a capacidade do modelo ao grupo com maior potencial de melhoria, resultando no desempenho do outro grupo sendo pior do que a linha de base (ex: -74% de melhoria relativa).
  • Maximin Relative Improvement (MMRI): Consistentemente equaliza a melhoria relativa entre os grupos (ex: alcançando 57% para ambos os grupos no exemplo de Dakota do Norte), evitando o "dano" ao grupo menos previsível.
  • Outros Métodos: Group DRO e Maximin Explained Variance também se desviam da linha de melhoria relativa igual em cenários assimétricos.

5. Significância e Alegações

O artigo afirma que interpretar a justiça como um problema de barganha fornece uma base normativa e axiomática para a seleção de critérios de justiça.

• Invariância de Escala é Crítica: Os autores argumentam que, quando os grupos diferem em previsibilidade inerente, critérios invariantes de escala (como KS/Melhoria Relativa) são necessários para evitar a extração desigual de frações do sinal disponível.
• Guia de Decisão: O framework não pretende que um critério seja universalmente superior. Em vez disso, serve como um guia de decisão: os praticantes devem identificar quais axiomas (ex: Invariância de Escala vs. Monotonicidade Forte) são mais relevantes para seu contexto. Se os grupos possuem previsibilidade heterogênea, as propriedades axiomáticas do MMRI o tornam a escolha natural.
• Ponte Teórica: O trabalho une a teoria dos jogos cooperativos e o aprendizado justo, provando que suposições padrão de aprendizado (compactação, convexidade) são suficientes para importar soluções de barganha clássicas para o aprendizado de máquina sem escolhas de penalidade ad-hoc.

Os autores mencionam limitações, incluindo a complexidade computacional de encontrar soluções leximin para muitos grupos e os desafios de estender o framework para regimes de superparametrização onde a convexidade estrita e os controles de complexidade padrão podem falhar.