Abstracted Away: Resisting Alienation and Ungrounded Abstraction in AI Research Communities

Imagine que você está aprendendo a construir um robô gigante e mágico em uma oficina da escola. Os professores dizem que, para tornar o robô inteligente, você deve primeiro aprender a arte da "abstração". No mundo dos computadores, a abstração é como colocar uma caixa ao redor de uma pilha bagunçada de peças e apenas rotulá-la como "motor". Você não precisa saber como cada parafuso individual funciona para fazer o robô se mover; você só precisa saber o que entra e o que sai. Isso é um truque super útil que ajuda engenheiros a construir coisas complexas sem ficarem sobrecarregados. Mas aqui está a pegadinha: às vezes, quando colocamos as coisas em uma caixa, acidentalmente jogamos fora as partes mais importantes da história. Podemos ignorar o fato de que o "motor" faz um barulho estranho apenas quando está chovendo, ou que ele fica bravo se você falar com ele em uma determinada língua. Se olharmos apenas para a caixa, perdemos a realidade do que está acontecendo lá dentro.

Este artigo é sobre o que acontece quando esse truque de "colocar na caixa" vai longe demais no mundo da pesquisa de Inteligência Artificial (IA). Os autores são três jovens cientistas que sentiram que não pertenciam à sua própria escola. Eles notaram que a maneira como os pesquisadores de IA falam sobre seu trabalho frequentemente ignora os sentimentos, histórias e lutas das pessoas reais. Eles chamam esse sentimento de "alienação", que é como ser a única pessoa em uma festa que fala uma língua diferente, enquanto todos os outros continuam falando por cima de você. O artigo explora por que isso acontece e sugere que a maneira como os pesquisadores "limpam" seus dados e ignoram suas próprias emoções está, na verdade, prejudicando as pessoas que esses robôs deveriam ajudar.

A História de Três Pesquisadores Que se Sentiram Fora de Lugar

O artigo foi escrito por três pesquisadoras em início de carreira — Vyoma, Isabel e Neha — que estudam IA em universidades de elite nos EUA. Elas decidiram contar sua história não como uma lista seca de fatos, mas como uma coleção de três cenas curtas, ou "vinhetas", para mostrar como se sentiram expulsas de suas próprias comunidades de pesquisa.

Cena 1: O Problema dos Dados "Limpos"
Em sua primeira história, as autoras descrevem uma aula onde estavam aprendendo a prever riscos de seguros usando registros médicos. O professor disse para elas "limparem" os dados. Isso significava encontrar qualquer pessoa cujo histórico médico parecesse estranho ou não se encaixasse no padrão médio e deletá-la. O professor chamou essas pessoas de "ruído". Mas as autoras perceberam algo assustador: as pessoas sendo deletadas eram frequentemente aquelas que já estavam enfrentando mais dificuldades — pessoas com doenças raras, deficiências ou origens diferentes. Ao jogar essas pessoas fora para fazer a matemática parecer mais "limpa", a classe estava ensinando-as a ignorar justamente as pessoas que mais precisavam de ajuda. As autoras sentiram que estavam sendo solicitadas a deletar partes de si mesmas para fazer o robô funcionar melhor.

Cena 2: A Espada de Dois Gumes
Na segunda cena, as autoras falam sobre sua empolgação ao iniciar a pós-graduação. Elas queriam usar a IA para fazer coisas boas. Mas então, viram reportagens mostrando como as mesmas ferramentas de IA que estudavam estavam sendo usadas por exércitos para ferir pessoas em zonas de guerra. Elas tentaram conversar com seus professores e colegas sobre isso, perguntando: "Devemos construir ferramentas que podem ser usadas para a violência?". Em vez de terem uma conversa profunda, elas foram instruídas a apenas focar em tornar a tecnologia "mais ética" ou "mais segura", como se o problema fosse apenas um pequeno erro a ser corrigido. As autoras se sentiram silenciadas. Foram informadas de que questionar se a tecnologia deveria sequer existir era "simplista". Elas sentiram que estavam sendo forçadas a fingir que as coisas ruins não estavam acontecendo para que pudessem manter seus empregos e notas.

Cena 3: Encontrando um Espaço Seguro
A terceira cena é a parte esperançosa. Após se sentirem solitárias e confusas, as autoras encontraram um grupo diferente de pessoas — uma mistura de cientistas da computação, professores e sociólogos — que estavam dispostos a conversar sobre as coisas difíceis. Nesse grupo, ninguém tinha pressa. Eles tiravam tempo para ouvir. Eles não tentavam "limpar" as partes bagunçadas da conversa; em vez disso, usavam essas partes bagunçadas para entender melhor o problema. Pela primeira vez, as autoras se sentiram seguras. Elas perceberam que seu sentimento de serem estranhas não era porque elas eram o problema, mas porque a maneira usual de fazer pesquisa de IA estava quebrada.

O Que Elas Descobriram: A Caixa "Desconectada da Realidade"

As autoras perceberam que a razão pela qual se sentiam tão alienadas era devido a algo que chamam de "abstração desvinculada" (ungrounded abstraction).

Pense na pesquisa "vinculada" (grounded) como uma árvore com raízes profundas. As raízes são o mundo real: as pessoas, a história, a dor e a alegria. A pesquisa "desvinculada" (ungrounded) é como uma árvore que foi cortada de suas raízes e está apenas flutuando no ar. Ela parece uma árvore, mas não consegue beber água ou sentir o vento.

O artigo argumenta que a pesquisa de IA frequentemente corta essas raízes de quatro maneiras específicas:

1. Abstração de Testemunho: Quando um pesquisador diz: "Ei, isso machuca as pessoas", e a comunidade diz: "Você não é um especialista real, você é apenas emocional", e o ignora.
2. Abstração de Propósito: Quando o objetivo de um projeto muda. Você começa com "vamos ajudar as pessoas", mas a forma como você mede o sucesso torna-se "vamos obter a pontuação mais alta em um teste", e você esquece as pessoas inteiramente.
3. Abstração de Posição: Quando os dados tratam todos como se fossem iguais, ignorando que algumas pessoas têm mais poder e outras têm menos. É como pretender que uma pessoa rica e uma pessoa pobre tenham exatamente os mesmos problemas.
4. Abstração de Afeto: Esta é a mais pessoal. É quando os pesquisadores são ensinados a entorpecer seus sentimentos. Se você vê algo ruim acontecendo, deve não sentir nada para poder continuar trabalhando. As autoras dizem que isso é perigoso porque seus sentimentos são, na verdade, um sistema de alerta dizendo que algo está errado.

A Solução: Ouvir Sua Intuição e Unir-se

O artigo não apenas reclama; ele oferece uma maneira de consertar isso. As autoras sugerem duas coisas principais:

Primeiro, Ação Coletiva. Você não precisa lutar contra o sistema sozinha. Se você sente que algo está errado, encontre outras pessoas que sintam o mesmo. Quando vocês se unem, fica mais difícil para o sistema ignorar vocês ou fazer vocês se sentirem loucas. As autoras encontraram sua força em um grupo de amigos que conversavam abertamente sobre seus medos.

Segundo, Sintonização Afetiva (Affective Attunement). Esta é uma forma sofisticada de dizer: "Ouça seus sentimentos". Se você se sente desconfortável, irritada ou triste sobre um projeto, não reprima esses sentimentos. Não os "abstraia". Em vez disso, trate esses sentimentos como dados importantes. Sua intuição pode ser o primeiro sinal de que a pesquisa está prejudicando alguém. Ao prestar atenção às suas emoções, você pode interromper a pesquisa "desvinculada" antes que ela cause danos reais.

Por Que Isso Importa

As autoras são cuidadosas ao dizer que não estão dizendo "parem de fazer IA". Elas amam a tecnologia. Mas elas dizem que, se continuarmos construindo IA sem olhar para o mundo real, sem ouvir as pessoas que são feridas e sem prestar atenção aos nossos próprios sentimentos, construiremos coisas quebradas e perigosas.

Elas sugerem que a maneira como ensinamos e realizamos pesquisas precisa mudar. Precisamos parar de pretender que podemos simplesmente "colocar em uma caixa" as partes bagunçadas da vida. Precisamos manter nossas raízes no mundo real. Ao fazer isso, podemos criar uma IA que realmente ajude a todos, não apenas às pessoas que se encaixam perfeitamente em uma caixa. O artigo termina oferecendo suas ideias como uma ferramenta para qualquer outra pessoa que se sinta como uma estranha no mundo da tecnologia, esperando que, ao compartilhar sua história, outros possam encontrar seu próprio caminho para se sentirem seguros e fazer a diferença.