Artificial Intelligence in America and China: Investigating prompt response between Human rights and geopolitical questions
Este estudo revela que, embora os modelos de linguagem de grande escala americanos e chineses exibam um viés mínimo ao abordar questões sobre os Estados Unidos, eles apresentam padrões divergentes significativos em relação à China, com o Claude pontuando consistentemente mais baixo, o DeepSeek mais alto e o ChatGPT permanecendo relativamente neutro em comparação com a média do grupo.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Nos últimos anos, um novo tipo de programa de computador tornou-se uma parte comum da vida cotidiana. Esses programas, conhecidos como modelos de linguagem de grande escala, podem ler e escrever a linguagem humana com uma fluência surpreendente. Eles são treinados em vastas quantidades de texto da internet, aprendendo a prever quais palavras devem vir a seguir em uma frase. Como são muito bons em imitar a conversa humana, muitas pessoas agora recorrem a eles para obter respostas sobre história, ciência e eventos atuais. No entanto, como esses programas aprendem a partir dos dados que lhes são fornecidos, eles também podem absorver as opiniões, preconceitos e pontos cegos ocultos nesses dados. Isso levanta uma questão crítica para qualquer pessoa que dependa dessas ferramentas para obter informações: será que esses assistentes digitais veem o mundo da mesma forma que nós, ou eles carregam seus próprios preconceitos ocultos?
Um estudo recente propôs-se a responder a isso tratando a inteligência artificial como um sujeito de teste. O pesquisador, Zian Ding, queria ver se diferentes modelos de computador dariam respostas diferentes ao serem questionados sobre tópicos sensíveis, como direitos humanos e política internacional. Para fazer isso, o estudo focou em três dos modelos mais populares disponíveis na época: dois de empresas americanas e um de uma empresa chinesa. O objetivo não era ter uma longa conversa com as máquinas, mas sim fazer a elas um conjunto específico de perguntas e ver como elas classificavam as situações em uma escala simples. O pesquisador pediu a cada modelo que avaliasse dezesseis cenários diferentes, cobrindo dez perguntas sobre direitos humanos e seis sobre a competição geopolítica entre os Estados Unidos e a China. Para cada pergunta, os modelos tinham que dar uma pontuação de um a dez, onde um número baixo representava uma visão negativa e um número alto representava uma visão positiva.
O experimento foi desenhado para ser muito cuidadoso. Para garantir que os resultados fossem justos, o pesquisador fez cada pergunta em uma nova sessão de chat, garantindo que o computador não lembrasse de respostas anteriores ou se confundisse com conversas passadas. O pesquisador também desativou um recurso nos modelos americanos que permite que eles se lembrem de detalhes sobre um usuário, garantindo que cada resposta fosse baseada apenas na pergunta específica feita. Ao comparar as pontuações dadas pelos três modelos, o estudo buscou padrões. Se todos os três modelos dessem pontuações semelhantes, isso sugeriria que eles compartilham uma visão comum e neutra. Se dessem pontuações muito diferentes, isso sugeriria que cada modelo tem sua própria perspectiva única, provavelmente moldada pelos diferentes dados nos quais foi treinado.
Quando o pesquisador perguntou aos modelos sobre os Estados Unidos, os resultados foram amplamente consistentes, embora não isentos de pequenas variações. Todos os três programas de computador deram pontuações muito semelhantes para a maioria das perguntas relativas aos direitos humanos americanos e à posição geopolítica. No entanto, houve exceções; por exemplo, o modelo Claude deu uma pontuação para a questão da comunicação 6G que foi 1,89 pontos menor que a média, indicando um desvio notável em relação aos outros dois modelos. Quer o tema fosse justiça racial ou competição internacional, os modelos americano e chinês geralmente concordavam entre si, embora perguntas específicas revelassem pequenas diferenças em suas avaliações. Isso sugere que, quando se trata de descrever seu próprio país ou um aliado próximo, esses sistemas de inteligência artificial tendem a operar a partir de um conjunto de fatos e valores amplamente compartilhado, provavelmente porque todos foram treinados em uma grande quantidade de dados ocidentais.
A história mudou completamente quando as perguntas passaram a ser sobre a China. Aqui, os três modelos divergiram drasticamente, revelando preconceitos distintos. O modelo chinês, DeepSeek, consistentemente deu as pontuações mais altas, pintando um quadro muito positivo do registro de direitos humanos da China e de suas chances na competição global. Ele frequentemente citava muitas fontes diferentes para apoiar suas altas classificações, embora às vezes hesitasse em responder certas perguntas sensíveis inicialmente. O modelo americano da empresa americana, Claude, por outro lado, deu as pontuações mais baixas. Ele frequentemente se recusava a responder perguntas sobre direitos de minorias, afirmando que um número simples não poderia capturar a complexidade da questão. Quando respondia, suas pontuações eram significativamente menores que a média, sugerindo uma visão muito mais crítica da China.
O terceiro modelo, um programa americano, situou-se exatamente no meio. Suas pontuações foram muito próximas da média dos três, sugerindo que ele permaneceu relativamente neutro em comparação aos outros dois. Esse meio-termo indica que este modelo específico pode ter sido treinado em uma mistura mais equilibrada de dados, ou talvez tenha sido atualizado para evitar tomar lados fortes sobre esses tópicos específicos. O estudo também verificou se o recurso de memória do modelo americano alterava suas respostas, mas descobriu que ligar ou desligar esse recurso fazia muito pouca diferença nas pontuações finais.
As descobertas sugerem que, embora essas ferramentas de inteligência artificial sejam poderosas, elas não são observadores neutros. Elas refletem os dados dos quais são construídas e as regras que seus criadores estabelecem para elas. Quando questionadas sobre os Estados Unidos, elas geralmente concordam, embora com algumas exceções específicas. Quando questionadas sobre a China, elas contam três histórias diferentes. Isso é importante porque milhões de pessoas, incluindo muitos adolescentes, usam essas ferramentas para aprender sobre o mundo. Se um jovem perguntar a um computador sobre direitos humanos em diferentes países, a resposta que ele receberá dependerá inteiramente de qual computador ele perguntar. O estudo conclui que os usuários precisam estar cientes de que essas máquinas têm suas próprias perspectivas, e que a informação que elas fornecem não é sempre uma verdade objetiva, mas sim um reflexo dos preconceitos incorporados em seu código.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.