AI Pluralism and the Worlds It Misses

Resumo Técnico: Pluralismo de IA e os Mundos que Ela Ignora

Definição do Problema
Os marcos atuais para o pluralismo de IA concentram-se primordialmente no pluralismo de valores: a representação de diversas preferências, valores ou resultados dos usuários. O artigo argumenta que esse enquadramento é incompleto porque os sistemas de IA também impõem ontologias — compromissos representacionais práticos que definem quais entidades existem, como elas se relacionam, o que constitui evidência e o que conta como um resultado válido.

O modo de falha central identificado é o achatamento ontológico. Isso ocorre quando significados situados, contestados, historicamente específicos e incorporados (o "mundo da vida" ou lifeworld) são convertidos em categorias técnicas restritas, proxies, regras de agregação ou alvos de benchmarking tratados como neutros e difíceis de contestar. Embora métodos pluralistas possam gerar com sucesso saídas diversas ou agregar feedback, eles frequentemente operam sobre ontologias fixas, onde as definições das categorias e as regras de agregação permanecem fora da autoridade dos atores afetados. Isso resulta em um "pluralismo de resultados" (respostas diversas) coexistindo com um "monismo ontológico" (uma forma única e fixa de definir o mundo).

Metodologia
Este artigo emprega uma síntese conceitual e qualitativa delimitada, em vez de uma revisão sistemática ou um novo experimento controlado. A metodologia consiste em três componentes primários:

1. Mapeamento Conceitual: Uma amostragem teórica proposital de literatura abrangendo pluralismo de valores, alinhamento pluralista, IA participativa, justiça processual, estudos de ciência e tecnologia (STS) e pesquisa de accountability.
2. Entrevistas com Especialistas: 11 entrevistas confidenciais semiestruturadas com especialistas em direito, ética e IA. Estas foram utilizadas para o refinamento de construtos (ex: distinguir autoridade processual de inclusão epistêmica) em vez de inferência estatística ou alegações de prevalência.
3. Análise de Casos: Análise secundária de três manuscritos complementares focados em sistemas urbanos, de espaços públicos e baseados em visão:
   • Caso A: Um conjunto de dados de geração de espaço público pluralista usando Otimização de Preferência Direta (DPO) com critérios definidos pela comunidade.
   • Caso B: Um modelo de inclusividade de paisagem urbana participativo usando dados de entrevistas e grupos focais para modelagem preditiva.
   • Caso C: Uma avaliação de confiabilidade de modelos de linguagem-visão urbanos contra anotações humanas.

A análise utiliza uma matriz de cinco códigos (ponto de entrada ontológico, tratamento de discordância, autoridade/recurso, limitação de proxy, continuidade do ciclo de vida) para identificar mecanismos de achatamento ao longo do ciclo de vida da IA (enquadramento do problema, geração de dados, rotulagem, treinamento, avaliação, implantação e desativação).

Principais Contribuições
O artigo apresenta três contribuições distintas:

1. Definição de Achatamento Ontológico: Define isso como um modo de falha específico onde entradas ou saídas pluralistas coexistem com ontologias fixas. Distingue o achatamento de viés, erro de classificação ou falha de proxy ao questionar se o próprio espaço de rótulos possui autoridade injustificada e se os atores afetados têm legitimidade para contestar os compromissos representacionais.
2. Distinção entre Pluralismo de Resultado e Processual:
   • Pluralismo de Resultado: Sistemas que produzem, direcionam ou aproximam resultados diversos.
   • Pluralismo Processual: Sistemas onde os atores afetados possuem legitimidade sobre o enquadramento do problema, categorias, evidências, agregação, avaliação e revisão.
     O artigo argumenta que o pluralismo de resultado é insuficiente se o pluralismo processual estiver ausente.
3. Governança do Ciclo de Vida Pluralista (PLG): Um esboço preliminar de auditoria qualitativa (não um instrumento de pontuação validado) para documentar cinco dimensões de uma IA pluralista:
   • Abertura Ontológica: A capacidade de contestar categorias, proxies e métricas.
   • Inclusão Epistêmica: A admissibilidade de múltiplas formas de conhecimento (incluindo experiência vivida) como evidência.
   • Autoridade Processual: Participação que inclui direitos de decisão (ex: veto, pausa, revisão vinculativa) em vez de apenas contribuição consultiva.
   • Pluralismo de Avaliação: A preservação de dados de discordância, neutralidade, abstenção e confiabilidade em vez de sua erradicação.
   • Accountability do Ciclo de Vida: A persistência dos compromissos pluralistas através da implantação, monitoramento, revisão e desativação.

Resultados e Achados Empíricos
A análise dos três casos ilustra como métodos pluralistas podem melhorar o comportamento do modelo, mas ainda assim comprimir categorias antes que os atores afetados tenham legitimidade processual:

• Caso A (Generativo): Embora conceitos comunitários tenham sido usados, o objetivo de DPO converteu julgamentos multicritério em preferências binárias pareadas via votação majoritária. Comparações neutras (indicando ambiguidade ou compensações/trade-offs) foram preservadas, mas tratadas como um alvo residual em vez de um estado válido do mundo, ilustrando uma "compressão processual".
• Caso B (Preditivo): Rótulos participativos foram usados para treinar um modelo, mas os mapas de calor resultantes correram o risco de substituir significados situados (ex: acessibilidade, pertencimento) por estéticas visíveis. A estrutura de governança carecia de autoridade para que as comunidades revisassemsem a resolução do mapa ou proibissem usos punitivos.
• Caso C (Avaliação): O benchmark reportou confiabilidade e abstenção, mas rótulos de consenso ainda poderiam ocultar semânticas instáveis. O estudo observou que dimensões mais próximas de atributos visíveis eram mais fáceis de medir do que dimensões de apreciação, e que um $\alpha$ de Krippendorff negativo indicou uma discordância sistemática que deveria impedir o tratamento dessas dimensões como verdade fundamental (ground truth) estável.

A síntese conclui que o pluralismo é mais frágil onde um mundo da vida se torna um objeto técnico. Se um sistema começa com rótulos fixos, a participação posterior pode apenas preencher valores para esses rótulos.

Significância e Alegações
O artigo afirma que o pluralismo de IA deve abordar o pluralismo ontológico juntamente com o pluralismo de valores. Argumenta que a pesquisa atual de alinhamento frequentemente agrega julgamentos heterogêneos em um único sinal de treinamento ou trata a discordância como ruído, falhando em preservar formas contestáveis de construção de mundo.

A significância do trabalho reside em deslocar o foco de "quantas saídas existem" para "quem define a ontologia". Postula que a abstração legítima é possível apenas quando a compressão é delimitada, documentada, revisável e proporcional, e quando os atores afetados retêm o direito de contestar o próprio esquema. O artigo não pretende fornecer um instrumento validado para pontuar sistemas de IA; em vez disso, oferece um quadro para tornar explícitos as evidências e as condições de governança da IA pluralista, argumentando que, sem legitimidade processual sobre a ontologia, a IA pluralista corre o risco de reproduzir uma visão de mundo monista sob o disfarce da diversidade.