Algorithmic neutrality

Problema
Os algoritmos governam cada vez mais aspectos críticos da vida humana, provocando um amplo discurso sobre a equidade algorítmica. No entanto, o conceito de neutralidade algorítmica tem sido amplamente negligenciado, apesar de sua centralidade para a forma como a indústria tecnológica, o público e os formuladores de políticas compreendem o mundo digital. Gigantes da tecnologia (ex: Google, Meta, Twitter) frequentemente invocam a neutralidade como um escudo contra críticas e um ideal a ser perseguido, enquanto críticos argumentam que nenhum algoritmo é moralmente neutro. O artigo identifica uma falta de estudo sistemático em relação à definição, possibilidade e significância normativa da neutralidade algorítmica. Especificamente, o autor questiona: O que é neutralidade algorítmica? Ela é possível? E qual é a sua significância normativa?

Metodologia
O artigo emprega uma análise conceitual fundamentada na filosofia da tecnologia e da ética. O autor procede através das seguintes etapas metodológicas:

1. Abordagem de Estudo de Caso: A análise foca primariamente em mecanismos de busca como um estudo de caso paradigmático antes de generalizar para sistemas algorítmicos de forma ampla.
2. Definição Conceitual: O autor define neutralidade adaptando o framework da "neutralidade na ciência". Assim como a neutralidade científica exige que valores não epistêmicos (ex: interesses financeiros, ideologias políticas) não desempenhem papel nas práticas científicas principais (que visam à verdade), a neutralidade algorítmica é definida em termos do objetivo de um sistema.
3. Argumentação via Multidimensionalidade: O autor argumenta que os objetivos de muitos sistemas algorítmicos (como "relevância" na busca ou "qualificação" na contratação) são conceitos multidimensionais. Baseando-se na literatura sobre incomensurabilidade (ex: Sen, Parfit), o autor postula que, quando um conceito possui múltiplas dimensões sem um peso privilegiado, o objetivo subdetermina o resultado do sistema.
4. Distinção de Papéis: A análise distingue dois papéis que valores externos podem desempenhar: sobrepor-se a um objetivo (ranquear um resultado menos relevante em uma posição superior) e suplementar um objetivo (desempatar ou ponderar dimensões quando o próprio objetivo é insuficiente).

Principais Contribuições

1. Definição de Neutralidade Algorítmica: O artigo caracteriza a neutralidade algorítmica não como uma ausência de valores, mas como uma relação específica entre o objetivo de um sistema e valores externos. Um sistema algorítmico é neutro apenas se valores externos ao seu objetivo não desempenharem papel na forma como ele entrega resultados. Para mecanismos de busca, onde o objetivo é a relevância, a neutralidade exige que nenhum valor além da relevância influencie o ranqueamento.
2. A Tese da Impossibilidade: O autor demonstra que a neutralidade algorítmica é impossível para mecanismos de busca e para a maioria dos sistemas algorítmicos poderosos. Como objetivos como "relevância" ou "qualificação" são multidimensionais, eles subdeterminam como ranquear ou classificar itens. Em casos de incomensurabilidade (onde duas opções não são estritamente melhores ou piores que outras em todas as dimensões), valores externos devem desempenhar um papel para desempate. Portanto, valores externos necessariamente suplementam o objetivo.
3. Reavaliação Normativa: O artigo argumenta que a neutralidade é um falso ideal e um escudo falho.
   • Falso Ideal: A neutralidade não é inerentemente boa nem má. A significância normativa não reside em saber se um sistema é neutro, mas em quais valores externos desempenham um papel e qual papel eles desempenham (sobreposição vs. suplementação).
   • Escudo Falho: É conceitualmente incoerente para empresas alegarem neutralidade como defesa, pois a verdadeira neutralidade é impossível. Além disso, mesmo que um sistema seja "localmente neutro" (ex: neutro em relação a valores políticos), ele ainda pode prejudicar certos grupos devido à necessidade de ponderação de objetivos multidimensionais (ex: a ponderação de "saliência" pode prejudicar entidades menores).
4. Refinando o Viés: O artigo distingue entre viés de sobreposição (valores externos sobrepõem-se ao objetivo) e viés de suplementação (valores externos suplementam o objetivo). Enquanto o viés de sobreposição é evitável e frequentemente objetável, o viés de suplementação é inevitável. No entanto, as reclamações sobre quais valores suplementam o objetivo permanecem válidas e necessárias.

Resultados

• A Neutralidade da Busca é Impossível: Devido à natureza multidimensional da relevância, os mecanismos de busca não podem ranquear páginas baseando-se apenas na relevância. Eles devem inevitavelmente usar valores externos para ponderar dimensões (ex: saliência, temática) quando as páginas são incomparáveis.
• Neutralidade Global vs. Local: A "neutralidade global" (nenhum valor de qualquer tipo desempenhando um papel) é impossível. A "neutralidade local" (nenhum valor de um tipo específico, como ideologia política, desempenhando um papel) é possível, mas insuficiente para abordar todas as queixas de injustiça, já que a ponderação necessária de dimensões ainda pode produzir impactos díspares.
• Mudança Normativa: O debate deve mudar de "O algoritmo é neutro?" para "Quais valores devem desempenhar um papel, e como?". Por exemplo, pode ser normativamente bom que um mecanismo de busca sobreponha a relevância para proteger crianças (suprimindo pornografia infantil) ou que suplemente a relevância para promover a justiça social (ranqueando negócios de minorias de forma mais alta em cenários de empate). Por outro lado, é frequentemente injusto para um monopólio sobrepor a relevância com interesses financeiros.

Significância
O artigo afirma que a neutralidade algorítmica é um falso ideal e um escudo falho.

• Como um falso ideal, buscar a neutralidade por si só cega os stakeholders para as questões normativas reais: determinar quais valores devem guiar os resultados algorítmicos e até que ponto o objetivo primário do sistema vale a pena ser perseguido.
• Como um escudo falho, é uma defesa vazia para empresas de tecnologia alegarem neutralidade quando acusadas de irregularidades, porque (1) a verdadeira neutralidade é conceitualmente impossível para esses sistemas, e (2) a neutralidade em si não é inerentemente virtuosa. O artigo conclui que o foco deve se mover para longe do binário neutralidade/não-neutralidade em direção a uma análise matizada dos papéis específicos que valores externos desempenham na tomada de decisão algorítmica.