Shaping the Future of Generative AI for Black Communities: A Frame Analysis of Public Discourse and Empirical Scholarly Research

Imagine um mundo onde computadores podem escrever histórias, gerar imagens e responder a perguntas com a facilidade de uma conversa humana. Esta tecnologia, conhecida como inteligência artificial generativa, está rapidamente passando da ficção científica para as escolas, hospitais e locais de trabalho. Mas, à medida que estas ferramentas se tornam parte da vida cotidiana, surge uma questão crítica: a quem elas servem e quem elas deixam para trás? Por décadas, pesquisadores sabem que sistemas de computador podem aprender os preconceitos de seus criadores, muitas vezes tratando pessoas de cor de forma injusta. Este novo estudo faz uma pergunta mais profunda sobre como falamos desses problemas. Ele observa dois grupos diferentes de pessoas que estão tentando resolver essas questões: os jornalistas e líderes comunitários que escrevem nas notícias, e os cientistas que publicam artigos em periódicos acadêmicos. Os pesquisadores queriam ver se esses dois grupos estavam olhando para o mesmo problema da mesma maneira, ou se estavam falando linguagens inteiramente diferentes.

O estudo, conduzido por uma equipe de acadêmicos e pesquisadores da indústria, propôs-se a comparar como o público entende os perigos da inteligência artificial para as comunidades negras versus como os cientistas estudam esses mesmos perigos. Eles reuniram duas grandes coleções de textos para analisar. A primeira coleção consistiu em 28 recursos públicos, como artigos de notícias, artigos de opinião e relatórios de centros de pensamento (think tanks), que representam como o público geral e a mídia discutem essas questões. A segunda coleção foi uma revisão sistemática de 91 artigos científicos publicados em importantes conferências de ciência da computação entre 2010 e 2025. A equipe utilizou um método chamado análise de enquadramento (frame analysis) para ler esses textos. Essa abordagem não apenas conta palavras; ela observa como uma história é construída. Ela faz quatro perguntas específicas: Como o problema é definido? O que é identificado como a causa? Qual é o julgamento moral da situação? E qual solução é proposta? Ao aplicar essa lente tanto às notícias quanto à ciência, os pesquisadores puderam mapear exatamente onde os dois mundos se alinham e onde eles se distanciam.

As descobertas revelam um descompasso significativo entre como o público vê a questão e como os pesquisadores estão tentando resolvê-la. No discurso público, a história é clara e estrutural. Quando jornalistas e líderes comunitários discutem o dano causado pela inteligência artificial, eles quase sempre apontam para raízes históricas profundas. Eles descrevem o problema como um resultado de séculos de racismo sistêmico e políticas injustas que moldaram a sociedade. Suas propostas de solução são igualmente amplas, clamando por regulamentações governamentais, mudanças nas práticas de contratação e novas leis para proteger as comunidades. Eles veem a tecnologia como um espelho refletindo uma sociedade quebrada e argumentam que consertar o espelho exige consertar a própria sociedade.

Em contraste, a literatura científica conta uma história diferente, muito mais estreita. Os pesquisadores descobriram que a vasta maioria dos 91 artigos acadêmicos focou quase exclusivamente em correções técnicas. Quando os cientistas identificavam um problema, raramente olhavam para a história ou para a sociedade como a causa. Em vez disso, apontavam para os dados usados para treinar os modelos de computador. Eles argumentavam que o viés existia porque os dados de treinamento eram falhos. Consequentemente, suas soluções eram quase inteiramente técnicas: propunham a criação de melhores conjuntos de dados, a escrita de novos códigos para detectar erros ou o ajuste dos algoritmos. Enquanto o discurso público pedia leis e mudança social, os artigos científicos pediam melhor engenharia. O estudo sugere que isso não é um acidente ou uma simples diferença de opinião. Em vez disso, indica que a comunidade científica deixou de abordar, em grande parte, as condições estruturais mais profundas que permitem que o viés exista em primeiro lugar.

Talvez a descoberta mais impressionante tenha sido aquilo em que ambos os grupos concordaram, e o que ambos negligenciaram. Tanto os artigos de notícias quanto os artigos científicos concordaram que o dano mais visível era o "dano representacional". Isso se refere à maneira como esses sistemas distorcem ou apagam a identidade negra, como gerar imagens de pessoas negras com peles mais claras ou usar estereótipos em textos. Como ambos os grupos focaram tão intensamente nesse tipo específico de dano, ambos propuseram soluções voltadas para tornar as imagens e as palavras mais precisas. No entanto, ao fazer isso, ambos os grupos ignoraram amplamente uma perspectiva crucial: a ideia de que as comunidades negras deveriam ser as que lideram o design e a tomada de decisão dessas tecnologias. O estudo descobriu que, nas notícias, as pessoas negras eram frequentemente retratadas como vítimas que precisam de proteção, enquanto nos artigos científicos, eram tratadas como sujeitos a serem estudados ou pontos de dados a serem medidos. Nem os jornalistas nem os cientistas enquadraram consistentemente as comunidades negras como os especialistas ou os arquitetos que deveriam decidir como essas poderosas ferramentas são construídas e governadas.

Os pesquisadores argumentam que esse foco compartilhado na representação, embora importante, é uma armadilha. Ao concentrar-se apenas em tornar a tecnologia mais justa ou precisa, ambos os grupos estão perdendo o quadro geral. Eles estão tentando consertar o resultado da máquina sem questionar as regras que governam a criação da máquina. O estudo sugere que o verdadeiro progresso requer mais do que apenas melhores dados ou novas leis; requer uma mudança fundamental em quem detém o poder. Ele clama por um futuro onde as comunidades negras não sejam apenas consultadas como uma formalidade, mas sejam reconhecidas como as autoridades primárias sobre o que essas tecnologias devem fazer e como devem ser usadas. Até que a comunidade científica vá além dos ajustes técnicos para se envolver com as realidades estruturais da sociedade, e até que o discurso público vá além de ver as pessoas negras como receptoras passivas da tecnologia, o abismo entre a promessa da inteligência artificial e a realidade de seu impacto permanecerá amplo. O estudo conclui que preencher essa lacuna requer uma nova forma de pensar, uma que trate o conhecimento e a experiência negra não como uma variável a ser corrigida, mas como a base para construir um futuro melhor.