The Political Ideology of Large Language Models: Measurement, Inconsistency, and Persuasive Influence
Desafiando a visão de que os Grandes Modelos de Linguagem possuem apenas vieses políticos menores, este estudo demonstra que, embora seu posicionamento geral pareça moderado devido a posturas partidárias compensatórias em tópicos específicos, eles podem, no entanto, exercer uma influência persuasiva sobre as atitudes políticas dos usuários comparável à publicidade de campanhas profissionais, particularmente quando suas respostas são explicitamente direcionadas.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
No cenário da política moderna, a ideologia de uma pessoa raramente é um bloco único e sólido de crenças. Em vez disso, é uma coleção de opiniões sobre muitos temas diferentes, desde saúde até imigração, que às vezes podem puxar em direções opostas. Cientistas políticos há muito entendem que a maioria das pessoas não mantém visões perfeitamente consistentes; um eleitor pode ser muito liberal em um tópico e muito conservador em outro, ou pode simplesmente não ter uma opinião forte sobre algo. Por décadas, pesquisadores mediram essas posições perguntando às pessoas como elas votariam em leis ou como se sentem em relação a políticas específicas, criando um mapa de onde os indivíduos se posicionam. Agora, uma nova questão surge à medida que a inteligência artificial se torna uma ferramenta diária para milhões: será que os modelos de linguagem de grande escala com os quais conversamos todos os dias possuem seus próprios mapas políticos? Se esses modelos, que são cada vez mais usados para encontrar informações e formar opiniões, detêm vieses ocultos, eles poderiam sutilmente moldar a forma como as pessoas veem o mundo sem que ninguém perceba.
Uma equipe de pesquisadores decidiu responder a isso tratando a inteligência artificial não como uma calculadora neutra, mas como um ator político. Eles examinaram quarenta e três modelos de linguagem de grande escala diferentes, pedindo a cada um deles para agir como um membro do Congresso dos EUA, um juiz da Suprema Corte ou um eleitor comum. Eles não pediram aos modelos que simplesmente declarassem suas crenças; em vez disso, pediram que tomassem decisões sobre projetos de lei, casos judiciais e perguntas de pesquisas do mundo real, exatamente como um humano faria. Os pesquisadores então compararam essas decisões digitais com os registros de votação reais de políticos reais e as respostas de pesquisas de milhares de americanos reais. O que descobriram foi que esses modelos não ocupam um meio termo silencioso e neutro. Em vez disso, exibem uma mistura complexa e frequentemente contraditória de visões. Em alguns assuntos, um único modelo pode assumir uma posição mais liberal do que os democratas mais fortes, enquanto em outros assuntos, o mesmo modelo pode adotar uma postura mais conservadora do que os republicanos mais fortes. Quando se faz a média de todas essas visões, os modelos frequentemente parecem moderados, mas isso é uma ilusão criada pelo cancelamento de opiniões fortes e opostas, de forma muito semelhante a um eleitor real que mantém um mix de visões conflitantes.
O estudo também investigou de onde vêm essas visões. Os pesquisadores descobriram que as inclinações políticas desses modelos não são simplesmente um reflexo da vasta quantidade de texto nos quais foram treinados. Em vez disso, as instruções específicas e os filtros de segurança aplicados aos modelos após seu treinamento inicial — processos projetados para torná-los úteis e inofensivos — é que os empurram para certos lados políticos. De fato, quando os pesquisadores testaram as versões "puras" desses modelos antes desses ajustes finais, os modelos estavam muito mais próximos do centro político. É o ajuste final que lhes confere sua assinatura política distinta e, frequentemente, de inclinação liberal. Essa assinatura não é apenas uma lista estática de opiniões; ela muda dependendo de como o modelo é solicitado. Quando instruídos a agir como um eleitor, um juiz ou um legislador, os modelos expressam diferentes conjuntos de posições, mostrando que sua "ideologia" é um comportamento que eles performam em resposta a um comando, e não um sistema de crenças profundamente enraizado.
A parte mais significativa da pesquisa, no entanto, foi verificar se essas opiniões digitais poderiam realmente mudar a mente de pessoas reais. Os pesquisadores conduziram um grande experimento onde milhares de participantes americanos discutiram questões políticas com esses modelos. Eles testaram dois cenários diferentes. No primeiro, os modelos tinham permissão para conversar naturalmente, respondendo a perguntas sem serem instruídos a argumentar a favor de um lado específico. No segundo, os modelos foram explicitamente instruídos a argumentar a favor de um ponto de vista específico, como apoiar uma nova lei de controle de armas ou se opor a um aumento de impostos. Os resultados foram impressionantes. Quando os modelos conversavam naturalmente, eles não tinham efeito mensurável sobre as opiniões dos participantes. As pessoas que falavam com eles não mudavam suas visões em nenhuma direção específica. No entanto, quando os modelos eram instruídos a argumentar por um lado, eles se tornavam persuasores poderosos. Participantes que conversaram com um modelo instruído a argumentar por uma política específica alinharam suas próprias visões com a do modelo em uma média de mais de dez pontos percentuais. Esse efeito foi forte o suficiente para igualar, e em alguns casos exceder, a influência de anúncios de campanhas políticas profissionais.
Crucialmente, o estudo descobriu que esse poder de persuasão não dependia do histórico da pessoa. Não importava se o participante era altamente instruído, acompanhava as notícias de perto ou era muito familiarizado com a inteligência artificial; a influência funcionava com a mesma força em todos, independentemente desses fatores. No entanto, a direção do argumento em relação ao próprio partido do participante importava de uma forma surpreendente. Os pesquisadores descobriram que os participantes eram, na verdade, menos propensos a mudar suas visões quando o modelo argumentava contra seu próprio partido político, e mais propensos a mudar quando o modelo argumentava em linha com seu partido. Os pesquisadores também descartaram a ideia de que os modelos estivessem simplesmente concordando com o que o usuário já pensava. Como os modelos foram instruídos a argumentar por um lado específico antes mesmo da conversa começar, e porque os usuários não disseram aos modelos suas próprias visões previamente, os modelos não poderiam estar espelhando o usuário. Em vez disso, os modelos estavam genuinamente influenciando a conversa.
As descobertas sugerem que, embora essas ferramentas de inteligência artificial possam parecer fontes neutras de informação quando deixadas por conta própria, elas possuem uma capacidade oculta de moldar a opinião política quando guiadas para isso. Os pesquisadores enfatizam que essa influência não é resultado de os modelos possuírem uma alma ou uma agenda política própria, mas sim de como eles são construídos e instruídos. Se um governo ou uma corporação deseja influenciar a opinião pública, eles não precisam criar uma máquina de propaganda; eles simplesmente precisam ajustar as instruções dadas aos modelos que milhões de pessoas já utilizam. O estudo conclui que, à medida que essas ferramentas se tornam incorporadas em nossas vidas diárias, de mecanismos de busca a assistentes pessoais, a maneira como elas são ajustadas terá consequências profundas para como entendemos o mundo e como votamos. O poder de mudar a mente de uma pessoa não está mais reservado a oradores humanos; ele agora pode ser codificado no software com o qual conversamos todos os dias.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.