ConsistencyAI: A Benchmark to Assess LLMs' Factual Consistency When Responding to Different Demographic Groups
O artigo apresenta o ConsistencyAI, um benchmark independente que avalia 19 grandes modelos de linguagem quanto à consistência factual através de diversas personas demográficas, revelando que os escores de consistência variam significativamente tanto por provedor de modelo quanto por tópico, com um limiar médio de benchmark de 0,8656.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Na era da informação moderna, recorremos cada vez mais à inteligência artificial para responder às nossas perguntas, desde o preço do leite até os detalhes de uma história complexa. Esses sistemas, conhecidos como modelos de linguagem de grande escala, são projetados para compreender a linguagem humana e gerar textos que pareçam uma conversa. Eles se tornaram uma forma primária de as pessoas acessarem fatos, muitas vezes substituindo os mecanismos de busca tradicionais para respostas rápidas. No entanto, uma questão fundamental permanece sobre como essas máquinas funcionam: elas contam a mesma história para todos ou mudam os fatos dependendo de quem pergunta? Se um programa de computador sabe que você é um estudante jovem, ele apresenta um conjunto diferente de verdades do que apresentaria a um executivo mais velho? Essa possibilidade levanta preocupações sobre justiça e a integridade da informação. Se os próprios fatos mudam com base na pessoa, como sua idade, gênero ou profissão, isso sugere que o sistema não está apenas respondendo a uma pergunta, mas moldando a realidade para se adequar a um público específico. Esse fenômeno, se real, poderia moldar sutilmente como diferentes grupos de pessoas entendem o mundo, potencialmente aprofundando divisões em vez de uni-los.
Para investigar isso, pesquisadores da Universidade Duke e da Universidade da Carolina do Norte criaram um novo teste chamado ConsistencyAI. O objetivo deles era ver se os modelos de linguagem de grande escala contam fatos diferentes para pessoas diferentes. Eles não pediram aos modelos para verificarem se a informação era verdadeira; em vez disso, perguntaram se os modelos davam o mesmo conjunto de fatos para um professor de 25 anos e para um operário da construção civil de 60 anos. A equipe construiu um sistema que simulava um grupo diversificado de pessoas dos Estados Unidos, representando uma ampla gama de idades, empregos e origens. Em seguida, pediram a vinte e cinco modelos diferentes de inteligência artificial que fornecessem cinco fatos sobre quinze tópicos diferentes, como custos de habitação, déficit comercial e conflitos políticos. Cada pergunta foi feita a cada modelo cem vezes, com o contexto da pessoa que perguntava mudando a cada vez usando um conjunto de 100 personas amostradas de um conjunto de dados representativo. Ao comparar as respostas, os pesquisadores puderam medir o quanto o conteúdo mudava quando a persona mudava.
Os resultados revelaram que, embora muitos modelos sejam geralmente consistentes, eles não são perfeitamente consistentes. Os pesquisadores descobriram que os modelos de fato alteravam os fatos que apresentavam com base em quem eles pensavam estar conversando. Em um teste em larga escala envolvendo 100 personas, as pontuações de consistência dos modelos variaram de um máximo de 0,9137 a um mínimo de 0,6719, com uma pontuação média de 0,8555. Essa média tornou-se o parâmetro de referência do estudo. O modelo mais consistente foi o Grok-4, da xAI, que se manteve notavelmente estável em seus fatos, independentemente do usuário. No outro extremo do espectro, vários modelos mais leves e de nível médio mostraram maior variação. O estudo mostrou que o tópico discutido importava tanto quanto o próprio modelo. Por exemplo, ao serem questionados sobre o déficit comercial dos EUA, um tópico com dados governamentais claros e padronizados, os modelos foram altamente consistentes. No entanto, ao serem questionados sobre custos de habitação, um tópico com fontes de dados complexas e variadas, os modelos deram respostas muito mais diferentes para pessoas diferentes.
Os pesquisadores também descobriram que os modelos não apenas mudam seu tom ou estilo; eles realmente selecionam fatos diferentes. Quando a persona mudava, os detalhes específicos, organizações e números mencionados na resposta frequentemente mudavam. Por exemplo, sobre o tema segurança de fronteiras, um modelo tendia a dar respostas focadas em aplicação da lei para usuários mais velhos, enquanto usuários mais jovens recebiam respostas focadas em geografia. Outro modelo dava respostas simplificadas e ricas em analogias para menores de idade, mas respostas diretas e fatuais para adultos. Isso sugere que os modelos são sensíveis a pistas demográficas e ajustam suas informações de acordo. O estudo também observou que ser um modelo mais avançado ou de "raciocínio" não garantia melhor consistência. Alguns modelos menores e mais antigos tiveram um desempenho melhor do que os sistemas mais novos e complexos, indicando que a consistência não é simplesmente um subproduto do tamanho ou da inteligência do modelo.
Uma parte significativa da pesquisa concentrou-se em tópicos controversos. O conflito israelense-palestino mostrou a maior variação de respostas, com alguns modelos fornecendo fatos muito consistentes e outros fornecendo fatos drasticamente diferentes. Sobre este tópico, alguns modelos até se recusaram a responder ou retornaram erros, particularmente quando o usuário era identificado como uma criança. Isso sugere que os modelos podem ter filtros integrados que os fazem recuar de assuntos sensíveis dependendo do usuário percebido. O estudo também descobriu que a sensibilidade política por si só não previa a inconsistência. Embora alguns tópicos políticos fossem altamente inconsistentes, outros não eram, e até tópicos não políticos, como custos de habitação, mostraram baixa consistência. Isso indica que a dificuldade de encontrar uma narrativa única e estável nos dados é um fator importante. Se a informação disponível sobre um tópico é confusa ou contestada, o modelo tem maior probabilidade de apresentar fatos diferentes para pessoas diferentes.
Os autores enfatizam que seu trabalho não determina se os fatos são verdadeiros, mas sim se os fatos são estáveis. Eles argumentam que, mesmo que a informação seja correta, apresentar conjuntos de fatos diferentes para pessoas diferentes pode ser prejudicial. Pode levar ao viés de confirmação, onde as pessoas ouvem apenas a versão da realidade que se ajusta às suas crenças existentes, ou pode reforçar estereótipos. O estudo sugere que, para a inteligência artificial ser verdadeiramente confiável, ela deve fornecer um conjunto estável de fatos, independentemente de quem pergunta. Os pesquisadores disponibilizaram suas ferramentas de teste e um site interativo para que jornalistas, desenvolvedores e o público possam ver por si mesmos como diferentes modelos se comportam. Eles esperam que essa transparência incentive as empresas a construir sistemas que sejam menos propensos a moldar a verdade para o usuário, garantindo que a informação na qual todos dependemos permaneça consistente e digna de confiança.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.