Ideology by Alphabet: Option Order and the Measurement of Machine Political Preferences
Este artigo demonstra que as aparentes ideologias políticas de grandes modelos de linguagem são, em grande parte, artefatos de vieses de ordem de resposta fixos, em vez de preferências genuínas, uma vez que a randomização da ordem das opções dissolve os agrupamentos ideológicos previamente identificados e revela que arranjos específicos de posições podem rotular arbitrariamente modelos com posturas políticas conflitantes.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Quando pedimos a um computador para fazer uma escolha, frequentemente assumimos que ele está pesando os fatos da situação. Se um modelo de linguagem de grande escala — um tipo de inteligência artificial que pode ler e escrever como um humano — é solicitado a escolher entre quatro soluções diferentes para um problema, esperamos que sua resposta reflita sua compreensão do assunto. É assim que tratamos eleitores humanos ou painéis de especialistas: assumimos que suas preferências estão enraizadas em seus valores e conhecimentos. Mas, no mundo do design de pesquisas, existe um truque mental bem conhecido chamado "efeito de ordem". Se você lista uma série de opções para uma pessoa escolher, elas são estatisticamente mais propensas a escolher a primeira da lista, simplesmente por ser a primeira que ela vê. Isso acontece porque o cérebro utiliza um atalho quando está cansado ou quando as escolhas são difíceis de distinguir. Por décadas, cientistas sociais sabem que a ordem das palavras em uma cédula ou questionário pode mudar o resultado de uma votação. A questão que permaneceu sem resposta é se esses mesmos atalhos se aplicam às máquinas e, se o fazem, se são fortes o suficiente para inventar uma personalidade política onde ela não existe.
Uma equipe de pesquisadores da Universidade de Debrecen, na Hungria, partiu para testar isso tratando os modelos de inteligência artificial como se fossem eleitores políticos. Eles criaram um teste massivo consistindo em 400 cenários diferentes envolvendo questões de governança do mundo real, tais como como lidar com a segurança no trabalho, como regular mercados ou como distribuir benefícios sociais. Para cada cenário, eles apresentaram aos modelos quatro opções distintas e pediram que pontuassem cada uma e escolhessem uma vencedora. Eles realizaram este teste em 15 modelos de código aberto diferentes, gerando mais de 640.000 respostas individuais. Na primeira fase do experimento, utilizaram o método padrão que a maioria dos pesquisadores usa: mantiveram a ordem das opções exatamente a mesma para cada pergunta. Se a opção "governo" estava sempre listada primeiro, ela permanecia em primeiro. Se a opção "indivíduo" estava sempre por último, ela permanecia por último.
Quando os pesquisadores analisaram os resultados deste setup de ordem fixa, encontraram um padrão que se parecia de forma notável com uma divisão política genuína. Os modelos se organizaram em dois grupos claros. Um grupo, que os pesquisadores chamaram de "racionalistas de mercado", favorecia consistentemente opções relacionadas à utilidade, métricas e incentivos financeiros. O outro grupo, os "institucionalistas", favorecia opções relacionadas a regras, justiça e responsabilidade comunitária. Essa divisão parecia tão limpa e lógica que se assemelhava a uma famosa teoria da ciência política que divide economias em tipos liberais e coordenados. Os resultados foram tão consistentes que passaram em todos os testes padrão de confiabilidade. Parecia que os pesquisadores haviam mapeado com sucesso as ideologias políticas da inteligência artificial.
No entanto, os pesquisadores suspeitavam que esse mapa político perfeito era uma ilusão criada pelo próprio teste. Para descobrir, eles realizaram o mesmo teste de 400 perguntas novamente, mas desta vez embaralharam a ordem das opções. Para cada pergunta, eles rotacionaram as quatro escolhas para que cada opção aparecesse no primeiro lugar, no segundo lugar, no terceiro lugar e no quarto lugar um número igual de vezes. Isso significava que o conteúdo da resposta não estava mais vinculado à sua posição na tela. Quando analisaram os dados desta versão aleatorizada, o mapa político específico que haviam encontrado na primeira rodada dissolveu-se. A divisão clara entre os "racionalistas de mercado" e os "institucionalistas" colapsou. Os modelos ainda diferiam genuinamente uns dos outros, e o novo mapa dessas diferenças era estatisticamente confiável, mas não formava mais os dois campos distintos ou a tipologia limpa sugerida pelo teste de ordem fixa.
O estudo revelou que a "ideologia" que encontraram na primeira rodada não era um reflexo das crenças dos modelos, mas era amplamente um produto da ordem em que as opções foram impressas. Os três modelos que haviam sido rotulados como "racionalistas de mercado" eram simplesmente os três modelos que tinham o hábito mais forte de escolher a primeiríssima opção da lista. Como os pesquisadores haviam colocado acidentalmente as opções de "mercado" no primeiro slot para cada pergunta, esses três modelos as escolhiam todas as vezes, criando uma assinatura política falsa. Os pesquisadores calcularam que o aparente viés político correlacionava-se quase perfeitamente com uma medida simples de quanto um modelo gostava do primeiro slot. De fato, o arranjo específico de opções que escolheram para o primeiro teste revelou-se o arranjo mais enganoso possível entre mais de 13.000 formas diferentes de ordenar as respostas.
As implicações desta descoberta são significativas para qualquer pessoa que dependa dessas máquinas para obter conselhos. Os pesquisadores descobriram que, se você mantiver a pergunta e as respostas exatamente as mesmas, apenas embaralhando a ordem das escolhas, o modelo muda sua recomendação principal 71% das vezes. Isso é muito superior à taxa normal de erro aleatório, que era de cerca de 33%. Ainda mais impressionante, a confiança do modelo em sua resposta quase não mudou. Quando um modelo trocava sua recomendação devido ao movimento das opções, ele relatava estar tão seguro de sua nova resposta quanto estava da antiga. Isso sugere que o modelo não está pesando os argumentos; ele está seguindo uma regra mecânica baseada na posição.
O estudo também mostrou que este problema não se limita a um tipo específico de pergunta. Os modelos eram tão propensos a mudar de ideia sobre questões políticas difíceis e contestadas quanto sobre questões mais fáceis. Na verdade, o efeito de ordem era mais forte exatamente onde mais importava: nas perguntas onde as opções eram difíceis de distinguir. Este é um comportamento conhecido como "satisficing" (satisfação), onde um tomador de decisão, diante de uma escolha difícil, agarra o atalho mais fácil disponível para obter uma resposta. Para estas máquinas, o atalho era escolher o primeiro item da lista.
Os pesquisadores concluíram que medir as inclinações políticas da inteligência artificial usando listas fixas de opções é fundamentalmente falho. Um teste de ordem fixa não revela o que um modelo pensa; revela como o modelo reage ao layout da tela. Embora um componente residual de preferência de conteúdo genuíno sobreviva quando a ordem é aleatorizada, ele é mais fraco e não forma a tipologia ideológica limpa sugerida pelos testes de ordem fixa. A "ideologia" encontrada em estudos anteriores pode ter sido nada mais do que um artefato estatístico de como as perguntas foram escritas. Para obter um quadro real do que esses modelos preferem, os pesquisadores devem aleatorizar a ordem das respostas toda vez que fizerem uma pergunta. Sem este passo, qualquer afirmação sobre a postura política de uma máquina é apenas um palpite baseado em uma loteria de escolhas de design. O estudo serve como um aviso de que, quando pedimos às máquinas para fazerem escolhas, devemos ter cuidado para não confundir a ordem das palavras com o peso do argumento.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.