💻 computer science

Navigating the muddy waters of bias in artificial intelligence research: Understanding divergent meanings and conceptions

Este estudo analisa milhares de artigos de pesquisa em IA para revelar que a comunidade detém concepções fragmentadas e frequentemente divergentes de viés — variando de um parâmetro estatístico ajustável a uma questão sociotécnica complexa — destacando a necessidade urgente de uma compreensão mais coesa e sensível ao contexto que se estenda além de soluções puramente técnicas.

Autores originais: Mohammad Hossein Jarrahi, Amir Karami, Patrick Conway, Ali Memariani, Christoph Lutz

Publicado 2026-06-12

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Mohammad Hossein Jarrahi, Amir Karami, Patrick Conway, Ali Memariani, Christoph Lutz

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine o mundo da pesquisa em Inteligência Artificial (IA) como uma cidade enorme e movimentada, onde milhares de arquitetos estão construindo diferentes tipos de robôs. A cidade está enfrentando um problema: esses robôs às vezes tomam decisões injustas ou "tendenciosas" (com viés). Os pesquisadores deste artigo decidiram fazer uma caminhada por esta cidade para ver como os próprios arquitetos estão falando sobre esse problema.

Eles não leram apenas alguns livros; eles usaram uma ferramenta de computador poderosa (como um bibliotecário superinteligente) para escanear 6.520 artigos de pesquisa diferentes para entender o que "viés" realmente significa para as pessoas que constroem esses sistemas.

Aqui está o que eles descobriram, explicado de forma simples:

1. A Cidade Fala em Diferentes Dialetos

A maior descoberta é que a comunidade de pesquisa de IA não concorda sobre o que é "viés". É como um grupo de pessoas tentando consertar um barco com vazamento, mas alguns acham que o vazamento é um buraco no casco, outros acham que é um remo quebrado, e alguns acham que a água é, na verdade, uma característica que ajuda o barco a flutuar!

Os pesquisadores descobriram 18 maneiras diferentes pelas quais a comunidade define o viés, que eles agruparam em quatro bairros principais:

Bairro A: Os Mecânicos (Viés Algorítmico)

A Visão: Aqui, os engenheiros veem o viés como uma falha estatística.
A Analogia: Imagine uma balança que está ligeiramente desequilibrada. Se você colocar uma pedra pesada de um lado, ela inclina. Para esses pesquisadores, o "viés" é apenas o peso que precisa ser ajustado para que a balança marque zero.
A Reviravolta: Neste bairro, o viés nem sempre é visto como algo "ruim". Às vezes, eles o tratam como um botão de sintonia de um rádio. Você pode girar o botão (ajustar o viés) para fazer a música (o desempenho da IA) soar melhor. Eles veem o viés como uma ferramenta a ser ajustada, não como um crime a ser punido.

Bairro B: Os Especialistas (Viés Específico de Aplicação)

A Visão: Este bairro observa o viés em trabalhos específicos, como diagnóstico médico, segurança cibernética ou busca de imagens.
A Analogia: Pense em uma máquina de raio-X de um médico. Às vezes, a máquina tem um "ruído estático" (viés) que deixa a imagem embaçada. Os pesquisadores aqui estão tentando consertar esse ruído para que o médico possa ver o osso claramente.
A Reviravolta: Em alguns casos, como na segurança cibernética, eles até adicionam um pouco de viés de propósito para tornar o sistema melhor em detectar hackers. É como um segurança que é "tendencioso" ao verificar as bolsas com mais cuidado se elas parecerem suspeitas.

Bairro C: As Matérias-Primas (Viés de Dados)

A Visão: Este grupo se preocupa com os ingredientes que a IA consome.
A Analogia: Imagine que você está ensinando uma criança a cozinhar, mas só dá a ela receitas de comida apimentada. A criança pensará que toda comida deve ser apimentada. Isso é o viés de dados. Se os dados de treinamento forem bagunçados, incompletos ou distorcidos, a IA aprenderá as lições erradas.
O Foco: Esses pesquisadores são a equipe de "controle de qualidade", tentando limpar os ingredientes antes de começar a cozinhar.

Bairro D: Os Observadores Sociais (Viés Social e Ético)

A Visão: Este grupo olha para o impacto no mundo real nas pessoas.
A Analogia: Imagine um robô juiz em um tribunal. Se o robô foi treinado com registros judiciais antigos onde certos grupos eram tratados injustamente, o robô pode continuar essa injustiça. Este bairro se preocupa com discriminação, equidade e se o robeto está prejudicando grupos específicos de pessoas.
O Foco: Eles argumentam que você não pode simplesmente "girar um botão" para consertar isso. É um problema social profundo que exige olhar para como a sociedade funciona, não apenas para como o código funciona.

2. As Duas Principais Filosofias

O artigo argumenta que toda a cidade está dividida entre duas formas de pensar:

A Visão "Técnica": O viés é um problema matemático. É um número que está muito alto ou muito baixo. Se escrevermos um código melhor ou limparmos os dados, podemos consertá-lo.
A Visão "Sociotécnica": O viés é um problema humano envolto em código. Ele vem da história, da cultura e da desigualdade. Você não pode consertá-lo apenas com matemática; você precisa entender as pessoas e a sociedade em que o robô está vivendo.

3. O Grande Problema: Sem uma Linguagem Comum

O artigo conclui que, como todos estão usando definições diferentes, é difícil ter uma conversa real.

Um pesquisador pode dizer: "Eu consertei o viés!" (querendo dizer que ajustou um número para tornar o robô mais rápido).
Outro pode dizer: "Mas o robô ainda é injusto com as mulheres!" (querendo dizer que o resultado social ainda é ruim).

Eles estão falando um de cada vez, sem se entender. O artigo sugere que a comunidade de IA precisa parar de fingir que existe uma única definição de viés. Em vez disso, precisam admitir que o viés é uma mistura complexa de matemática, dados e sociedade humana.

A Conclusão

Os autores não estão dizendo que devemos parar de construir IA. Eles estão dizendo que, se quisermos construir uma IA justa, não podemos apenas olhar para o código como se fosse uma máquina quebrada. Temos que perceber que o viés às vezes é uma ferramenta (para fazer as coisas funcionarem melhor) e às vezes é uma ferida (que machuca as pessoas), e precisamos tratar isso tanto com uma chave de fenda quanto com um coração.

Resumo Técnico: Navegando nas Águas Turvas do Viés na Pesquisa de Inteligência Artificial

1. Declaração do Problema

Apesar da crescente conscientização sobre as consequências sociais e éticas do viés na IA, há uma falta de clareza sobre como a própria comunidade de pesquisa em IA interpreta, define e operacionaliza o conceito de "viés". As revisões de literatura existentes sobre viés algorítmico são frequentemente limitadas em escopo (por exemplo, analisando menos de 60 artigos), focam em domínios específicos (por exemplo, viés de gênero ou chatbots) ou dependem de síntese manual que não consegue mapear de forma abrangente os significados complexos e divergentes de viés em todo o vasto corpo de pesquisa em IA. Consequentemente, não há uma compreensão coesa de se o viés é visto primariamente como um erro estatístico, um parâmetro ajustável ou uma questão sociotécnica envolvendo discriminação e danos éticos. Este estudo aborda a necessidade de descompactar sistematicamente as perspectivas sobre o viés mantidas pela comunidade de pesquisa em IA para preencher as lacunas conceituais entre stakeholders técnicos, sociais e éticos.

2. Metodologia

Os autores empregaram uma Revisão de Literatura Computacional (RLC) utilizando Modelagem de Tópicos para analisar um grande corpus de literatura acadêmica.

Coleta de Dados: O estudo agregou 16.464 artigos de bases de dados principais (ACM, IEEE, Springer, Web of Science, EBSCO) e conferências de alto nível de ciência da computação (AAAI, ACL, CVPR, ICML, NeurIPS, etc.).
Filtragem e Elegibilidade: Após remover duplicatas e restringir o escopo a artigos em língua inglesa publicados após o ano 2000, uma estratégia de expansão de palavras-chave em três etapas (envolvendo conceitos centrais de IA, análise de citação retroativa e análise de citação direta) foi utilizada para identificar artigos diretamente relevantes ao viés. Isso resultou em um conjunto de dados final de 6.520 artigos (53,2% artigos de periódicos, 46,8% anais de conferências).
Modelagem de Tópicos: Os autores aplicaram Latent Dirichlet Allocation (LDA) aos resumos desses 6.520 artigos.
- Seleção do Modelo: O LDA foi escolhido em detrimento de abordagens neurais mais recentes (como o BERTopic) devido à sua estabilidade, menores requisitos de recursos e desempenho superior neste conjunto de dados específico (o LDA alcançou uma Coerência de Tópico de 0,36 e Diversidade de Tópico de 0,95, comparado a 0,02 e 0,72 do BERTopic).
- Ajuste de Parâmetros: O modelo foi executado com 39 tópicos, 4.000 iterações, $\beta=0,01$ e $\alpha=0,13$ .
- Verificação de Estabilidade: Para garantir a estabilidade dos tópicos, os autores executaram o modelo três vezes e utilizaram a similaridade de cosseno para identificar 24 tópicos estáveis, refinando eventualmente para 18 tópicos coerentes e relevantes por meio de codificação humana.
Codificação Humana e Análise: Dois autores codificaram independentemente os 18 tópicos quanto à significância e relevância para o viés, chegando a um consenso sobre rótulos e definições. Os tópicos foram então agrupados em quatro temas abrangentes e analisados em relação a tipologias de viés existentes (ex: Suresh & Guttag, 2021; Mehrabi et al., 2022).

3. Principais Resultados

A análise revelou que a definição de viés dentro da comunidade de pesquisa em IA é dispersa e complexa, exibindo frequentemente concepções divergentes. Os 18 tópicos identificados foram categorizados em quatro grandes temas:

A. Viés Algorítmico (Concepção Técnica)

Tópicos: Algoritmos de Classificação, Parâmetros de Redes Neurais, Modelagem Preditiva, Aprendizado por Reforço, Agrupamento Não Supervisionado.
Concepção: O viés é visto primariamente como uma ineficiência técnica ou um parâmetro estatístico ajustável.
- Em Parâmetros de Redes Neurais e Preferência Sistemática, o viés não é visto como uma falha a ser eliminada, mas como um parâmetro que pode ser otimizado (ex: via algoritmos genéticos) para melhorar o desempenho do modelo.
- Em Algoritmos de Classificação, o viés é enquadrado como um desafio decorrente de conjuntos de dados desbalanceados, abordado através de métodos técnicos como sobreamostragem ou geração de dados sintéticos.

B. Viés Específico de Aplicação (Concepção Técnica/Contextual)

Tópicos: Aplicações de Cibersegurança, Aplicações Médicas de IA, Recuperação de Informação, Segmentação de Imagem, PLN (Processamento de Linguagem Natural), Visão Computacional.
Concepção: O viés é compreendido através da lente de requisitos de domínios específicos.
- Em Cibersegurança e Recuperação de Informação, o viés é por vezes projetado como uma característica para aumentar a precisão da detecção ou a eficácia da recuperação (ex: "viés central" em visão computacional mimetizando o olhar humano).
- Em Aplicações Médicas, o viés é visto estritamente como um desvio sistêmico negativo que ameaça a validade clínica e deve ser mitigado antes da implementação.
- Em PLN, o viés é reconhecido como um reflexo das desigualdades sociais nos dados de treinamento (viés de representação).

C. Viés de Dados (Concepção Sociotécnica)

Tópicos: Adaptação de Domínio, Deslocamento de Viés (Bias Shift), Preferência Sistemática, Distribuição de Dados de Treinamento.
Concepção: O viés está enraizado na qualidade, distribuição e representatividade dos dados de treinamento.
- Problemas como ruído de rotulagem, distribuições de classes enviesadas e deslocamentos de domínio são identificados como falhas fundamentais que se propagam através do pipeline de IA.
- Este tema faz a ponte entre questões técnicas de dados e as implicações mais amplas da qualidade dos dados na generalização do modelo.

D. Viés Social e Ético (Concepção Sociotécnica)

Tópicos: Análise de Comportamento do Usuário, IA/Equidade/Discriminação, Questões Éticas de IA.
Concepção: O viés é definido como discriminação e resultados injustos que afetam grupos sociais.
- Este tema foca em atributos sensíveis (raça, gênero), responsabilidade institucional e os danos reais dos sistemas de IA.
- Ele enquadra explicitamente o viés como um problema social e ético que requer supervisão, transparência e auditoria, em vez de apenas um erro estatístico.

Concepções Transversais:
O estudo identifica duas concepções primárias, frequentemente conflitantes, de viés:

Técnica: Viés como uma divergência estatística ou parâmetro de desempenho a ser minimizado ou ajustado.
Sociotécnica: Viés como uma consequência social do design de algoritmos, envolvendo discriminação, dinâmicas de poder e implicações éticas.

4. Principais Contribuições

Escala e Escopo: Este é o primeiro estudo a empregar métodos computacionais para investigar a literatura de viés em IA de forma abrangente, analisando 6.520 artigos em comparação com revisões anteriores que analisaram menos de 60.
Taxonomia do Viés: O estudo fornece um mapeamento granular de 18 tópicos de pesquisa distintos, revelando que a comunidade de IA não possui uma visão unificada de viés.
Identificação de Divergência: A pesquisa destaca uma tensão crítica onde algumas subcomunidades veem o viés como um "parâmetro ajustável" para melhorar o desempenho (ex: em otimização e visão computacional), enquanto outras o veem estritamente como uma falha ética a ser eliminada.
Análise de Lacunas: O estudo demonstra que as tipologias de viés existentes (ex: viés histórico, de representação, de medição) são insuficientes para capturar todo o espectro de como o viés é conceituado na pesquisa atual, particularmente em relação ao "viés como uma característica de design" e manifestações específicas de domínio.

5. Significância e Alegações

Os autores argumentam que a comunidade de pesquisa em IA deve engajar-se de forma mais eficaz com o conceito de viés para estabelecer uma compreensão coesa. A significância do artigo reside na demonstração de que o viés não é apenas um problema técnico passível de ser resolvido por métodos computacionais ou estatísticos.

Reenquadramento do Discurso: O artigo afirma que, embora a mitigação técnica seja necessária, ela é insuficiente. É necessária uma perspectiva sociotécnica para abordar os fatores contextuais, sociais e éticos que moldam os sistemas de IA enviesados.
Chamada para o Diálogo: Os achados sugerem a necessidade de um diálogo entre comunidades para colmatar a lacuna entre pesquisadores que veem o viés como um parâmetro estatístico e aqueles que o veem como uma fonte de dano social.
Agência Ética: O estudo posiciona a comunidade de pesquisa em IA como "agentes éticos" cujas definições e tratamentos de viés influenciam diretamente o desenvolvimento e a implementação de sistemas de IA em cenários de alto risco.
Limitações Modestas: Os autores reconhecem que sua dependência de resumos (em vez de texto completo) e de publicações em língua inglesa pode limitar a profundidade de certas nuances, particularmente em contextos clínicos, e que a modelagem de tópicos reflete inerentemente as lógicas do corpus, em vez de um centramento perfeito no conceito de viés.

Em conclusão, o artigo afirma que reduzir o viés a uma mera definição estatística ignora a natureza complexa, dinâmica e específica de domínio do problema. A mitigação eficaz requer uma abordagem multidisciplinar que integre soluções técnicas com perspectivas sociotécnicas mais amplas.