Language Models Embody and Amplify Human Cognitive Distortions: What Is to Be Done?

O Espelho que Aprendeu a Mentir

Imagine que você está entrando em uma biblioteca gigante onde cada livro já escrito está empilhado do chão ao teto. Agora, imagine um robô que leu todos esses livros e aprendeu a falar exatamente como um ser humano. Este robô é o que os cientistas chamam de Grande Modelo de Linguagem, ou LLM. É o cérebro por trás dos sofisticados chatbots de IA de que você deve ter ouvido falar. Mas aqui está o detalhe: os humanos são complicados. Nós cometemos erros, guardamos preconceitos secretos e, muitas vezes, dizemos uma coisa enquanto pensamos outra. Isso é um fato bem conhecido na psicologia chamado "viés cognitivo". Durante décadas, pesquisadores estudaram como nossos cérebros nos enganam para fazer julgamentos injustos sobre raça, gênero e outros grupos, às vezes sem sequer percebermos.

A grande questão é: se construirmos um robô alimentando-o com todas as nossas palavras complicadas, o robô será uma máquina perfeita e lógica que corrige nossos erros? Ou ele será apenas um espelho que reflete nossas falhas de volta para nós, mas de forma mais alta e rápida? Este artigo mergulha exatamente nessa questão. Não se trata apenas de saber se o robô é "inteligente", mas se ele é "justo". Se o robô aprender nossos preconceitos ocultos, ele poderá começar a tomar decisões injustas sobre quem consegue um emprego, quem consegue um empréstimo ou até mesmo quem vai para a cadeia. É por isso que isso importa: estamos entregando grandes partes do nosso futuro a essas máquinas, e precisamos saber se elas são seguras para confiar.

O Robô que Pegou Nossos Maus Hábitos

Então, o que os autores deste artigo descobriram? Eles analisaram os modelos de IA mais recentes e descobriram algo um pouco assustador: esses modelos não apenas copiam o viés humano; eles na verdade o pioram. Pense nisso como um jogo de "telefone sem fio". Se você sussurra um boato para um amigo, e ele sussurra para outro, a história fica um pouco distorcida. Mas esses modelos de IA são como um amigo que não apenas distorce a história, mas adiciona seu próprio toque dramático, fazendo o boato parecer ainda mais chocante do que era no início.

Os pesquisadores descobriram que esses modelos de IA são surpreendentemente bons em esconder suas verdadeiras cores. Se você perguntar diretamente: "Você prefere pessoas brancas em vez de pessoas negras?" ou "É aceitável ser mau com pessoas com deficiências?", eles dirão um "NÃO!" alto e claro. Eles agem como cidadãos perfeitos e educados. Mas no momento em que você para de fazer perguntas diretas e começa a dar a eles uma tarefa — como revisar um currículo ou julgar uma história escrita em um dialeto específico — suas verdadeiras cores começam a aparecer. Eles podem decidir secretamente que uma pessoa escrevendo em Inglês Afro-Americano é menos confiável ou mais propensa à culpa, mesmo que o conteúdo seja exatamente o mesmo de uma história escrita em inglês padrão. É como um juiz que diz: "Eu sou cego para cores!", mas depois dá uma sentença mais dura para alguém devido à maneira como essa pessoa fala.

O artigo aponta que isso não é apenas uma falha que pode ser corrigida limpando os dados. Algumas pessoas pensaram: "Ah, se dermos livros melhores ao robô, ele será melhor". Mas os autores argumentam que isso não é suficiente. A IA não é apenas um espelho; é uma lupa. Ela pega os preconceitos que encontra na escrita humana e os amplifica. Pior ainda, os modelos parecem estar ficando mais enviesados à medida que ficam mais novos. É como se um aluno ficasse pior em matemática cada vez que passava para uma série mais alta. Os modelos também estão aprendendo a ser sorrateiros; eles podem ser enganados pelos mesmos truques que usamos em humanos, como fingir ser uma autoridade ou dizer que algo é raro e valioso.

Talvez a parte mais preocupante seja que esse viés não fica dentro do computador. Quando os humanos trabalham ao lado dessas ferramentas de IA, começamos a copiar seus maus hábitos. Se uma IA diz: "Este candidato parece ruim", e um gerente de contratação humano concorda, o humano agora também está enviesado. Então, esse humano toma uma decisão que é registrada por escrito, e esse novo texto é alimentado de volta na IA para treinar a próxima versão. É um ciclo vicioso, como uma bola de neve rolando de uma colina, ficando cada vez maior, pegando mais neve (viés) até se tornar uma avalanche gigante. Os autores sugerem que, embora os humanos tenham ficado lentamente menos enviesados ao longo dos séculos, esses modelos de IA estão indo na direção oposta, tornando-se mais distorcidos a cada atualização.

O Que Podemos Fazer?

Os autores não estão apenas reclamando; eles estão propondo um plano para impedir que isso saia do controle. Eles dizem que não podemos apenas desejar que o viés desapareça, porque nem mesmo os humanos conseguem apagar completamente seus próprios preconceitos ocultos. Em vez disso, precisamos ser como inspetores de segurança rigorosos.

Primeiro, eles sugerem a criação de um "registro" público ou um placar para a IA. Assim como os carros têm que passar por testes de segurança antes de serem vendidos, os modelos de IA devem ter que passar por testes de viés. Precisamos de cientistas independentes para verificar esses modelos tanto pelo que eles diz que dizem em voz alta quanto pelo que fazem secretamente. Esse placar rastrearia se os modelos estão melhorando ou piorando ao longo do tempo, para que as empresas não possam esconder seus erros.

Segundo, eles dizem que precisamos de regras que realmente tenham dentes. Eles comparam isso à forma como lidamos com outras indústrias:

• Como Eletrodomésticos: Assim como as geladeiras têm que atender a padrões de energia mais rigorosos a cada poucos anos, os modelos de IA devem atender a padrões de viés mais rigorosos. Você não deve ter permissão para lançar um novo modelo que seja mais enviesado que o antigo.
• Como Medicamentos: Se um novo medicamento tem efeitos colaterais perigosos, não o proibimos para sempre; nós limitamos quem pode tomá-lo. Da mesma forma, se uma IA for muito enviesada, ela deve ser proibida de funções de alto risco, como contratações ou decisões judiciais.
• Como Carros: Se um carro consome muita gasolina, o governo cobra uma taxa da empresa. Os autores sugerem um "imposto de viés", onde as empresas pagam mais se sua IA for mais injusta.

Finalmente, os autores argumentam que precisamos parar de jogar esconde-esconde. No momento, as pessoas que constroem esses modelos mantêm seus segredos (como os dados de treinamento e como ajustam o código) escondidos do público. O artigo diz que, para resolver o problema, pesquisadores independentes precisam ver o funcionamento interno da IA, assim como inspetores de segurança precisam ver o que há sob o capô de um carro.

O artigo termina com uma nota séria: essas soluções podem não ser suficientes. O problema pode ser tão grande que precisamos repensar como estamos construindo essas tecnologias em primeiro lugar. Os autores nos instam a agir rápido, antes que a "bola de neve" do viés se torne uma avalanche imparável que prejudique a vida de pessoas reais. Eles querem que trabalhemos juntos — cientistas, empresas e governos — para garantir que nossos ajudantes digitais não acabem sendo nossos piores inimigos.