Beyond Rational Illusion: Behaviorally Realistic Strategic Classification

Resumo Técnico: Além da Ilusão Racional: Classificação Estratégica Comportamentalmente Realista

1. Definição do Problema: A Limitação da Racionalidade na Classificação Estratégica

A Classificação Estratégica (SC - Strategic Classification) aborda a interação entre tomadores de decisão e agentes que manipulam suas características observáveis para garantir resultados favoráveis. Os modelos de SC existentes baseiam-se na suposição do agente racional, postulando que os agentes modificam características se, e somente se, o benefício esperado superar estritamente o custo (uma função de melhor resposta).

Os autores argumentam que essa suposição é uma "ilusão racional" que falha em capturar a tomada de decisão do mundo real, a qual é sistematicamente moldada por vieses cognitivos. O artigo identifica uma lacuna onde os modelos de SC padrão não conseguem dar conta de agentes que se desviam da maximização racional da utilidade devido a fatores psicológicos. Esse descompasso leva a dois modos de falha específicos nos classificadores implantados:

• Sobre-defesa (Over-defense): O classificador desloca sua fronteira de decisão para combater manipulações que os agentes, devido a vieses como a aversão à perda ou viés de referência, nunca realizariam. Isso resulta em falsos negativos (rejeição de instâncias positivas genuínas).
• Sub-defesa (Under-defense): O classificador falha em antecipar manipulações que os agentes realizam de forma mais agressiva do que os modelos racionais preveem (por exemplo, devido à distorção de probabilidade ou superestimação de sucesso), levando a falsos positivos.

O artigo formaliza um novo cenário de problema: a Classificação Estratégica Comportamentalmente Realista (BR-SC), onde as manipulações dos agentes são impulsionadas por vieses psicológicos em vez de uma pura otimização racional.

2. Metodologia: O Framework Estratégico Guiado pela Perspectiva (Pro-SF)

Para abordar a BR-SC, os autores propõem o Pro-SF, um framework fundamentado na Teoria da Perspectiva (Prospect Theory; Kahneman & Tversky, 2013). Em vez de uma função de utilidade padrão, o Pro-SF modela o comportamento do agente usando uma função de utilidade baseada na perspectiva que integra três mecanismos psicológicos principais:

1. Aversão à Perda: Os agentes percebem perdas (esforço/custo) de forma mais intensa do que ganhos equivalentes. O framework utiliza uma função de valor assimétrica onde o peso percebido do custo é amplificado ($\kappa > 1$), fazendo com que os agentes potencialmente abandonem manipulações benéficas que realizariam sob um modelo racional.
2. Viés de Referência: Os agentes avaliam resultados em relação a um ponto de referência subjetivo ($r$) em vez de um limiar absoluto. Isso é modelado via um operador de quantização, reconhecendo que os agentes frequentemente possuem autoavaliações de granularidade grossa (por exemplo, estimando uma faixa de pontuação em vez de um valor preciso).
3. Distorção de Probabilidade: Os agentes distorcem probabilidades objetivas, tipicamente sobrevalorizando pequenas probabilidades de sucesso e subvalorizando as grandes. Isso é modelado usando uma função de ponderação de probabilidade ($w(p)$) com formato de S inverso, levando os agentes a "apostar" em oportunidades improváveis ou a julgar erroneamente o esforço necessário para cruzar um limiar.

A Mecânica do Framework:

• Modelo do Agente: A característica manipulada ótima $x'$ é determinada pela maximização da utilidade baseada na perspectiva $U_P$, que combina a probabilidade distorcida de aceitação, o valor assimétrico de ganhos/perdas em relação a um ponto de referência e o custo da manipulação.
• Aprendizado do Classificador: O tomador de decisão treina um classificador para minimizar a perda esperada contra a função de manipulação comportamentalmente realista $b_P(x)$, em vez da melhor resposta racional $b_R(x)$.
• Aprendizado de Parâmetros: Os parâmetros comportamentais ($\alpha, \beta, \kappa, \gamma$) são inferidos a partir de pares de dados observados de características originais e manipuladas usando estimativa de máxima verossimilhança.

O framework é analisado como um jogo de Stackelberg, no qual os autores provam a existência, estabilidade local e unicidade local do equilíbrio sob condições padrão de compacidade.

3. Principais Contribuições

• Formalização do Problema: O artigo introduz e define a BR-SC, caracterizando formalmente as limitações da suposição do agente racional e identificando a sobre-defesa e a sub-defesa como os principais modos de falha resultantes do descompasso comportamental.
• Proposta de Framework: Propõe o Pro-SF, o primeiro framework principista para integrar aversão à perda, viés de referência e distorção de probabilidade no jogo de Stackelberg de classificação estratégica.
• Validação Empírica: Experimentos extensos em conjuntos de dados sintéticos e do mundo real (Credit, Adult, Diabetes, German, Spam) demonstram que o Pro-SF alcança um desempenho robusto através de diversos regimes comportamentais (populações totalmente racionais, não racionais e mistas), superando os modelos baseados em racionalidade em cenários não racionais, enquanto mantém competitividade em cenários racionais.

4. Resultados Experimentais

• Desempenho: Em cenários comportamentais não racionais e mistos, o Pro-SF supera consistentemente os modelos baseados em racionalidade em todos os conjuntos de dados. Por exemplo, no conjunto de dados Credit, o Pro-SF alcançou 82,41% de acurácia sob manipulação não racional, comparado a 69,54% para o modelo baseado em racionalidade.
• Estudos de Ablação: A remoção de qualquer componente comportamental individual (aversão à perda, viés de referência ou distorção de probabilidade) degrada o desempenho. O viés de referência foi considerado o mais crítico para prevenir a sobre-defesa, enquanto a distorção de probabilidade e a aversão à perda foram cruciais para mitigar a sub-defesa.
• Sensibilidade: O framework demonstra robustez a variações nos hiperparâmetros (ex: coeficiente de aversão à perda $\kappa$, distorção de probabilidade $\gamma$), indicando que não depende de configurações de ajuste fino para funcionar efetivamente.

5. Significância e Alegações

O artigo alega que a suposição do agente racional, embora matematicamente conveniente, frequentemente "colapsa em configurações do mundo real". Ao unir aprendizado de máquina e economia comportamental, o Pro-SF oferece uma abordagem mais confiável para a implantação de classificadores estratégicos em domínios como contratação, análise de crédito e admissão universitária.

Os autores posicionam seu trabalho como um refinamento necessário da SC para lidar com os "comportamentos não racionais" que caracterizam os agentes do mundo real. Eles afirmam que o Pro-SF fornece uma "abordagem fundamentada no comportamento" que garante robustez não apenas contra o jogo estratégico, mas contra os vieses psicológicos específicos que impulsionam tal jogo. O artigo conclui observando que trabalhos futuros estenderão este framework para cenários de implantação mais ricos e diversos, mas não propõe atualmente novas aplicações específicas além dos domínios existentes de SC.