Fairness Across Fields: Comparing Software Engineering and Human Sciences Perspectives
Este estudo compara as perspectivas de engenharia de software e ciências humanas sobre justiça, demonstrando que a abordagem da engenharia foca em definições formais e estatísticas, enquanto as humanidades enfatizam desigualdades estruturais e relações de poder, concluindo que integrar essas visões é essencial para um desenvolvimento tecnológico ético e socialmente responsável.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine que a "justiça" (ou fairness, em inglês) é como uma receita de bolo.
Este artigo é uma conversa entre dois chefs muito diferentes tentando entender como fazer esse bolo ficar justo para todos que vão comê-lo.
Os dois Chefes:
- O Engenheiro de Software: Ele é o chef que ama números, balanças digitais e fórmulas exatas. Para ele, um bolo é justo se, ao cortar as fatias, todos os grupos de pessoas receberem exatamente a mesma quantidade de açúcar e farinha. Ele quer medir tudo com uma régua.
- O Cientista das Humanidades: Ele é o chef que ama a história, a cultura e a política. Para ele, perguntar se a fatia tem o mesmo tamanho não é suficiente. Ele pergunta: "De onde veio o açúcar? Quem plantou o trigo? Por que alguns grupos nunca tiveram acesso à cozinha antes?" Para ele, a justiça não é só sobre o tamanho da fatia, mas sobre o contexto de quem está comendo e quem cozinhou.
O que os pesquisadores descobriram?
Os autores do estudo (Lucas e Ronnie) olharam para 45 receitas de "bolo justo" usadas pelos engenheiros e 25 receitas usadas pelos cientistas das humanidades. Eles compararam as duas listas e encontraram algumas diferenças gigantescas:
1. A Visão do Engenheiro: "A Matemática da Igualdade"
Para o engenheiro, a justiça é um problema técnico.
- A Analogia: Imagine que você tem uma máquina que distribui bolos. Se a máquina der 50% de bolos para homens e 50% para mulheres, ela é justa.
- O Foco: Eles criam métricas (fórmulas matemáticas) para garantir que não haja "vieses" (tortuosidades) nos dados. Eles querem que o sistema seja verificável, como um teste de laboratório.
- O Problema: Eles muitas vezes esquecem que o bolo não nasce no vácuo. Se a máquina usa dados de uma sociedade onde alguns grupos já foram historicamente excluídos, a máquina pode estar distribuindo "fatias iguais" de um bolo que, na verdade, já estava envenenado pela desigualdade social. O engenheiro ajusta a máquina, mas não questiona por que o bolo é assim.
2. A Visão das Humanidades: "A História do Bolo"
Para o cientista das humanidades, a justiça é um problema social e político.
- A Analogia: Eles olham para a cozinha inteira. Eles perguntam: "Por que a máquina foi construída em um bairro rico enquanto o bairro pobre não tem forno? Quem decidiu quais ingredientes são 'padrão'?"
- O Foco: Eles veem a injustiça como algo enraizado no poder, na história colonial e nas estruturas sociais. Não adianta apenas ajustar a máquina; é preciso mudar quem tem o poder de decidir a receita.
- O Problema: Às vezes, eles dizem que algumas máquinas (como sistemas de vigilância) são tão injustas por natureza que não devem ser construídas de jeito nenhum, não importa o quanto você tente "ajustar" a receita.
O Grande Choque de Realidade (O Exemplo do Uber)
O artigo usa um exemplo poderoso para mostrar onde a visão do engenheiro falha:
Imagine um aplicativo de táxi (como o Uber) que usa um algoritmo para enviar motoristas para certas áreas.
- Visão do Engenheiro: "O algoritmo é justo! Ele distribuiu as corridas de forma igualitária entre todos os motoristas, sem discriminar ninguém."
- Visão das Humanidades: "Esse algoritmo é injusto! Ele enviou motoristas para áreas controladas por milícias, onde eles foram assassinados. O algoritmo não 'viu' a violência local, a história da cidade ou o perigo real. Ele só viu números."
Aqui está o ponto crucial: A matemática disse que era justo, mas a realidade humana disse que foi trágico.
A Conclusão: Precisamos dos Dois Chefes
O estudo conclui que a Engenharia de Software está muito focada em "consertar a máquina" (ajustar os dados, criar métricas), mas está esquecendo de olhar para o "chão da fábrica" (a sociedade, a história, o poder).
Para criar tecnologias realmente justas, precisamos:
- Não parar nos números: Não basta dizer que o sistema é "estatisticamente justo".
- Entender o contexto: Precisamos perguntar como a tecnologia afeta a vida real das pessoas, especialmente as mais vulneráveis.
- Incluir mais vozes: Não deixar apenas os programadores decidirem a receita. Precisamos de sociólogos, advogados e das próprias comunidades afetadas.
Resumo em uma frase:
A tecnologia atual tenta consertar a injustiça apenas ajustando a receita (os dados), mas as humanidades nos lembram que, às vezes, o problema não é a receita, mas sim quem tem o controle da cozinha e quem nunca pôde entrar nela. Para ter um bolo verdadeiramente justo, precisamos dos dois chefs trabalhando juntos.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.