💻 computer science

Fairness Dynamics in Digital Economy Platforms with Biased Ratings

Este artigo utiliza um modelo de teoria dos jogos evolutiva para demonstrar que, embora exista um trade-off entre a experiência do usuário e a equidade em plataformas digitais com sistemas de avaliação enviesados, intervenções proativas que ajustam a demografia dos resultados de busca podem reduzir significativamente a discriminação contra grupos marginalizados com impacto mínimo na qualidade do serviço percebida pelos usuários.

Autores originais: J. Martin Smit, Fernando P. Santos

Publicado 2026-02-19

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: J. Martin Smit, Fernando P. Santos

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está em um grande mercado digital, como um aplicativo de entregas ou de hospedagem (tipo Airbnb ou Uber). Neste mercado, existem dois grupos principais: os clientes (que querem um serviço) e os prestadores de serviço (que querem trabalhar).

O problema é que, como ninguém se conhece, todos dependem de avaliações (estrelas, notas) para saber quem é bom e quem é ruim. É como se fosse um sistema de "reputação".

Agora, imagine que, infelizmente, parte dos clientes tem um preconceito invisível. Eles não sabem dizer por que estão com preconceito, mas tendem a dar notas piores para prestadores de um grupo específico (por exemplo, pessoas de uma certa etnia ou origem), mesmo quando o serviço foi excelente.

Este artigo, escrito por Martin Smit e Fernando Santos, é como um laboratório de simulação para entender o que acontece quando esse preconceito existe e como a "chefia" do aplicativo (os criadores do algoritmo) pode consertar as coisas sem estragar a experiência de ninguém.

Aqui está a explicação simples, usando analogias:

1. O Problema: A "Bola de Neve" do Preconceito

Pense no sistema de avaliações como uma bola de neve.

Se um prestador de serviço do grupo marginalizado (vamos chamá-los de "Grupo A") faz um ótimo trabalho, mas o cliente, por preconceito, dá uma nota baixa, a "bola de neve" desse prestador começa a ficar suja.
Como a nota está baixa, o aplicativo mostra esse prestador menos vezes para outros clientes.
Se ele aparece menos, ele ganha menos dinheiro.
Sem dinheiro e sem chances, ele pode desistir de fazer um trabalho de qualidade ou sair do mercado.
Enquanto isso, o "Grupo B" (o grupo majoritário) continua recebendo notas boas, aparecendo sempre no topo da lista e lucrando.

O resultado? O aplicativo fica "justo" na teoria (todos têm as mesmas regras), mas na prática, o preconceito dos clientes cria uma desigualdade enorme.

2. O Dilema do Gerente do Mercado (O Trade-off)

Os autores criaram um modelo matemático (um jogo) para ver o que acontece se o gerente do aplicativo tentar mudar as regras. Eles descobriram um dilema difícil:

Cenário A (Foco total no Cliente): O aplicativo mostra apenas os prestadores com as melhores notas.
- Resultado: Os clientes ficam felizes, porque quase sempre pegam alguém com nota alta. Mas, como o Grupo A tem notas injustamente baixas por causa do preconceito, eles quase nunca aparecem. A injustiça aumenta.
Cenário B (Foco total na Igualdade): O aplicativo força a mostrar o mesmo número de pessoas de cada grupo, ignorando as notas.
- Resultado: A justiça melhora para os prestadores, mas os clientes podem acabar pegando alguém com nota baixa (pior serviço), porque o algoritmo não está priorizando a qualidade.

Parece que você tem que escolher: ou clientes felizes com serviço bom, ou prestadores felizes com oportunidades iguais.

3. A Solução Mágica: O "Empurrãozinho" Inteligente

A grande descoberta do artigo é que não é preciso escolher um ou outro. Existe uma terceira via.

Imagine que o aplicativo tem um botão de "Prioridade de Grupo".

O aplicativo pode continuar mostrando as melhores notas (para agradar os clientes), mas, dentro dessa lista de "melhores", ele pode garantir que uma certa quantidade de vagas seja reservada para o Grupo A, mesmo que suas notas sejam ligeiramente piores devido ao preconceito.

A Analogia do "Pote de Bolinhas":
Pense que o aplicativo tem um pote com bolinhas coloridas (prestadores).

As bolinhas brancas (Grupo B) têm muitas estrelas douradas (notas altas).
As bolinhas pretas (Grupo A) deveriam ter estrelas douradas também, mas os clientes estão jogando areia nelas, fazendo parecer que têm estrelas prateadas.
Se o aplicativo apenas pegar as bolinhas com mais estrelas, ele pega só as brancas.
A Solução: O aplicativo pega as bolinhas brancas com estrelas douradas, mas também garante que, a cada 10 bolinhas mostradas, 3 sejam pretas, mesmo que elas tenham um pouco de areia.

4. O Que os Resultados Mostram?

Os autores testaram isso em seu modelo e descobriram coisas incríveis:

É possível ter os dois: Ao dar um pequeno "empurrão" para o grupo discriminado (priorizando-os um pouco na lista de busca), a justiça melhora drasticamente, mas os clientes quase nem percebem a diferença. O serviço continua bom.
Funciona mesmo sem saber o tamanho do preconceito: Às vezes, o aplicativo não sabe exatamente quanto de preconceito existe (se é 10% ou 50%). Mesmo assim, tentar corrigir o sistema (dar o empurrãozinho) funciona melhor do que não fazer nada. É como dirigir com neblina: é melhor usar os faróis de nevoeiro (ajustar o algoritmo) do que fechar os olhos e esperar que tudo fique bem.
O Perigo de Não Fazer Nada: Se o aplicativo ignorar o preconceito e apenas seguir as notas "cegas", ele acaba perpetuando a injustiça. O sistema se torna um ciclo vicioso onde o grupo marginalizado nunca tem chance de provar seu valor.

Conclusão Simples

Este artigo diz para os criadores de aplicativos: "Não tenham medo de ajustar o algoritmo para ser mais justo."

Muitas vezes, achamos que tratar todos "igualmente" (mostrar apenas a nota) é justo. Mas, quando um grupo já começa a desvantagem (por causa do preconceito dos clientes), tratar todos iguais só piora a desigualdade.

A solução é ser proativo: o aplicativo deve usar sua inteligência para garantir que o grupo marginalizado tenha uma chance justa de aparecer, mesmo que as notas estejam "sujas" pelo preconceito. Isso cria um mercado onde todos podem trabalhar bem, e os clientes continuam recebendo bons serviços. É um ganho para todos.

Resumo Técnico: Dinâmicas de Justiça em Plataformas da Economia Digital com Avaliações Viesadas

1. Problema Investigado

A economia de serviços digitais depende de plataformas que conectam provedores de serviços e consumidores, muitas vezes em interações de curto prazo entre estranhos. Para estabelecer confiança, essas plataformas utilizam sistemas de avaliação (reputação). No entanto, o artigo identifica um problema crítico: esses sistemas de avaliação perpetuam vieses negativos contra grupos marginalizados.

Evidências empíricas (como em Airbnb, Uber e eBay) mostram que nomes ou características associadas a grupos minoritários resultam em menores taxas de aceitação, preços mais baixos e maior cancelamento. O problema central abordado é: como projetar algoritmos de recomendação que mitiguem essa discriminação sem comprometer os incentivos para a qualidade do serviço ou a experiência do usuário?

O desafio reside no trade-off (compromisso) entre:

Experiência do Usuário (UX): Priorizar provedores com altas avaliações (que tendem a ser majoritários devido ao viés).
Justiça (Fairness): Garantir que grupos marginalizados recebam oportunidades justas, apesar de suas avaliações serem sistematicamente distorcidas por preconceitos dos usuários.

2. Metodologia

Os autores propõem um modelo de Teoria dos Jogos Evolutiva (EGT) para simular a dinâmica estratégica em plataformas digitais.

Estrutura do Modelo:
- População: Divide-se em dois grupos de provedores: Dominante ( $D$ ) e Marginalizado ( $M$ ). Os usuários são modelados como uma população infinita.
- Processo de Interação:
  1. Recomendação: A plataforma exibe uma lista de $k$ provedores. O algoritmo pode priorizar provedores com boa avaliação ( $k_G$ ) e/ou especificamente do grupo marginalizado ( $k_M$ ).
  2. Seleção: O usuário escolhe um provedor com base na avaliação (Boa $G$ ou Ruim $B$ ) e na sensibilidade ao rating ( $\gamma$ ).
  3. Interação: O provedor escolhe entre alto esforço ( $H$ , custo $c$ , benefício $b$ ) ou baixo esforço ( $L$ , custo 0, benefício $b$ ).
  4. Relato (Feedback): O usuário reporta a interação. Aqui entra o viés de avaliação ( $\epsilon$ ): existe uma probabilidade $\epsilon$ de um provedor marginalizado que realizou alto esforço ( $H$ ) ser erroneamente relatado como tendo baixo esforço ( $L$ ), resultando em uma avaliação "Ruim".
- Dinâmica Populacional: Utiliza-se um processo de Moran estocástico. Os provedores adaptam suas estratégias ( $H$ ou $L$ ) com base na utilidade esperada (probabilidade de ser escolhido $\times$ payoff da interação). A evolução da população é governada por imitação de estratégias mais bem-sucedidas e mutação.
Métricas de Avaliação:
- Cooperação: Medida pela proporção de tempo que a população passa em estados onde a maioria dos provedores joga $H$ .
- Experiência do Usuário (UX): Probabilidade de o usuário encontrar um provedor de alto esforço.
- Razão de Paridade Demográfica (DPR): Métrica de justiça que compara a utilidade média do grupo melhor posicionado com a do grupo pior posicionado.
- Fronteira de Pareto: Análise de otimização multiobjetivo entre UX e DPR.

3. Principais Contribuições

Modelagem Formal: Desenvolvimento de um modelo de teoria dos jogos evolutiva que captura como diferentes grupos respondem a sistemas de recomendação sob viés de avaliação.
Condição Necessária para Cooperação: Identificação numérica das condições sob as quais uma plataforma consegue incentivar o comportamento de alto esforço em ambos os grupos, apesar do viés.
Análise do Trade-off: Demonstração de que, sob a restrição de tratar todos os provedores igualmente (sem priorização demográfica ativa), existe um conflito inevitável entre maximizar a experiência do usuário e garantir justiça entre grupos.
Solução Algorítmica: Evidência de que a priorização algorítmica de grupos marginalizados ( $k_M > 0$ ) elimina esse trade-off, permitindo alta justiça sem prejudicar significativamente a experiência do usuário.
Robustez à Incerteza: Demonstração de que intervenções de justiça são benéficas mesmo quando a magnitude exata do viés ( $\epsilon$ ) é desconhecida ou incerta.

4. Resultados Chave

O Dilema da Igualdade Formal ( $k_M = 0$ ): Quando a plataforma não prioriza explicitamente o grupo marginalizado, ela enfrenta uma fronteira de Pareto. Aumentar a priorização de provedores bem avaliados ( $k_G$ ) melhora a UX, mas reduz a demanda pelos provedores marginalizados (cuja reputação é artificialmente baixa devido ao viés $\epsilon$ ), piorando a DPR.
O Poder da Priorização Algorítmica ( $k_M > 0$ ): Ao introduzir um parâmetro $k_M$ $k_{M}$ (garantindo que uma fração dos resultados de busca sejam do grupo marginalizado), o trade-off desaparece.
- Ajustar $k_M$ para corrigir o viés aumenta drasticamente a DPR (justiça).
- O impacto na UX é mínimo, pois o número total de provedores de "alto esforço" mostrados ao usuário permanece alto; apenas a composição demográfica muda.
Incerteza e Viés: Mesmo quando a plataforma não conhece o valor exato de $\epsilon$ (o nível de preconceito dos usuários), a estratégia de definir $k_M > 0$ (especialmente otimizando para o pior caso) resulta em melhores outcomes de justiça do que manter $k_M = 0$ . A intervenção é "sem risco" (risk-free) em termos de perda de eficiência.
Equilíbrio de Cooperação: Sem incentivos adequados (como $k_G$ alto e $k_M$ ajustado), o sistema pode entrar em um equilíbrio onde apenas o grupo dominante coopera, enquanto o grupo marginalizado desiste de oferecer alto esforço devido à falta de retorno.

5. Significado e Implicações

O trabalho oferece uma base teórica robusta para o design de plataformas digitais mais justas:

Design Proativo: A neutralidade do algoritmo (tratar todos da mesma forma) não garante justiça quando os dados de entrada (avaliações) são enviesados. O design deve ser proativo na correção de vieses.
Políticas de Ação Afirmativa Algorítmica: A priorização de grupos sub-representados nos resultados de busca não é apenas uma questão de "correção política", mas uma estratégia economicamente eficiente para manter a cooperação e a qualidade do serviço em todo o ecossistema.
Resiliência: As intervenções sugeridas são robustas mesmo na ausência de dados precisos sobre a magnitude do preconceito, o que é comum na prática devido à falta de transparência e dados demográficos detalhados.

Em suma, o artigo conclui que a proatividade no design anti-discriminatório é essencial para sustentar a cooperação e a equidade em economias de plataforma, transformando o que seria um trade-off entre eficiência e justiça em uma oportunidade de otimização simultânea.