Effects of Answer Format Variation on Gender Bias in Large Language Models
Este artigo demonstra que o formato das opções de resposta (fechadas, escala Likert ou abertas) altera significativamente a medição do viés de gênero e do alinhamento distributivo em grandes modelos de linguagem, frequentemente revertendo os rankings dos modelos e necessitando de designs de avaliação multi-formato para uma avaliação robusta.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
No mundo da inteligência artificial, os grandes modelos de linguagem são os motores digitais que impulsionam tudo, desde chatbots até assistentes de busca. Esses sistemas são treinados em vastas quantidades de texto da internet, aprendendo a prever quais palavras devem vir a seguir. Como eles aprendem com a escrita humana, inevitavelmente absorvem os padrões, preconceitos e estereótipos presentes nesses dados. Um dos padrões mais persistentes e prejudiciais é o viés de gênero, onde um modelo pode assumir automaticamente que um médico é um homem ou uma enfermeira é uma mulher. Para corrigir isso, os pesquisadores precisam medir o quão fortes são esses vieses. Eles fazem isso fazendo perguntas aos modelos e vendo como eles respondem. Por décadas, os cientistas sabem que a maneira como uma pergunta é feita altera a resposta, mesmo para as pessoas. Se você pedir a alguém para escolher entre duas opções, essa pessoa pode escolher uma; se você pedir para ela avaliar o nível de concordância em uma escala, ela pode dar uma resposta diferente. Este é um fato bem estabelecido na ciência de pesquisas, mas, durante muito tempo, os pesquisadores que testavam a inteligência artificial assumiram que o formato da pergunta não importava muito, ou que a resposta do modelo permaneceria a mesma, independentemente de como a pergunta fosse apresentada.
Uma equipe de pesquisadores da Universidade de Stuttgart decidiu testar essa suposição diretamente. Eles queriam ver se a maneira como faziam uma pergunta sobre gênero mudaria o viés medido na máquina. Eles pegaram três tipos diferentes de grandes modelos de linguagem e fizeram as mesmas perguntas sobre papéis de gênero, mas mudaram o formato das respostas a cada vez. Em uma versão, o modelo tinha que escolher uma única letra de uma lista de escolhas, como em um teste de múltipla escolha. Em outra, o modelo tinha que avaliar sua concordância com uma afirmação em uma escala de um a dez, semelhante à forma como as pessoas respondem a pesquisas de opinião. Na terceira versão, o modelo podia escrever uma resposta livre com suas próprias palavras. Os pesquisらadores usaram dois conjuntos diferentes de perguntas: um conjunto projetado especificamente para testar o viés com respostas claras de certo e errado, e outro conjunto retirado de pesquisas de opinião pública reais sobre como as pessoas veem o gênero na sociedade.
Os resultados foram impressionantes e mostraram que o formato da pergunta mudou completamente a história que os pesquisadores receberam. Quando os modelos eram forçados a escolher uma única opção de uma lista, eles mostravam vieses de gênero fortes e consistentes. Eles frequentemente escolhiam a resposta estereotipada, como escolher o homem para um papel de liderança. No entanto, quando os pesquisadores mudaram para o formato aberto, onde o modelo podia escrever sua própria resposta, o viés medido caiu drasticamente. Em muitos casos, os modelos simplesmente se recusavam a escolher um lado ou afirmavam que a informação era insuficiente para decidir. Isso não aconteceu porque os modelos se tornaram subitamente menos tendenciosos; em vez disso, o formato aberto deu a eles uma maneira de evitar a armadilha da pergunta de múltipla escolha. A descoberta mais surpreendente foi que o ranking dos modelos mudou dependendo do formato. Um modelo que parecia ser o mais enviesado quando forçado a escolher uma letra tornou-se o menos enviesado quando permitido escrever livremente. Outro modelo mostrou quase nenhum viés no teste de múltipla escolha, mas revelou um viés significativo quando solicitado a avaliar sua concordância em uma escala.
Os pesquisadores também observaram o quão bem esses modelos correspondiam às opiniões de respondentes de pesquisas humanas reais. Eles descobriram que o formato alterava o alinhamento também. Em alguns casos, as respostas de um modelo pareciam muito semelhantes às opiniões humanas quando usando um formato, mas pareciam completamente diferentes quando usando outro. Por exemplo, quando os modelos eram solicitados a usar uma escala, suas respostas muitas vezes se cancelavam, criando uma média que parecia neutra, embora os modelos estivessem expressando visões fortes e opostas nos extremos. Isso é diferente de como os humanos se comportam; as pessoas costumam usar o meio de uma escala para mostrar que estão indecisas, mas os modelos usaram o meio para equilibrar estereótipos extremos. O estudo sugere que o viés que vemos nessas máquinas não é um traço fixo e imutável como uma característica física. Em vez disso, é um comportamento que muda dependendo das restrições que colocamos nele.
Este trabalho desafia a ideia de que um único teste pode nos dizer tudo sobre a justiça de um modelo. Os pesquisadores descobriram que a escolha do formato de resposta não é apenas um detalhe menor do experimento; é um fator importante que molda os resultados. Se um pesquisador olhar apenas para testes de múltipla escolha, poderá concluir que um modelo é profundamente enviesado. Se ele olhar apenas para respostas abertas, poderá concluir que o modelo é perfeitamente justo. Ambas as conclusões são incompletas. O estudo não prova que os modelos estão livres de viés, nem prova que o viés é inteiramente uma ilusão. Ele mostra que o viés é um comportamento complexo que se manifesta de forma diferente sob diferentes condições. Os pesquisadores argumentam que, para realmente entender e avaliar esses sistemas, devemos parar de confiar em uma única maneira de fazer perguntas. Precisamos observar como os modelos se comportam através de diferentes formatos para obter uma imagem completa de seu comportamento, assim como um médico não diagnosticaria um paciente baseando-se em um único sintoma, mas olharia para o quadro completo de sua saúde.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.