Whose Gold? Annotator-Pool Disagreement Is Large at the Item Level, and Hidden by Small Leaderboards
Este artigo revela que o desentendimento significativo entre anotadores especialistas e da multidão ao nível do item é mascarado por tamanhos reduzidos de tabelas de classificação, criando uma falsa sensação de estabilidade nas classificações de modelos que falha em generalizar à medida que o número de modelos aumenta.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Na corrida para construir uma inteligência artificial mais inteligente, os pesquisadores dependem de uma ideia simples, mas poderosa: para saber se uma máquina está melhorando, é preciso pedir a um humano que julgue seu trabalho. Esse processo, conhecido como benchmark de preferência, envolve mostrar a um humano duas respostas diferentes de uma IA e perguntar qual delas é melhor. A coleta desses votos humanos torna-se o "padrão ouro", um ponto de referência confiável contra o qual todos os novos modelos são medidos. Durante anos, o campo operou sob uma suposição silenciosa: de que não importa quais humanos são contratados para fazer o julgamento. A crença predominante é que, embora indivíduos possam cometer erros aleatórios, o grupo como um todo é um instrumento confiável, medindo uma verdade única e estável sobre o que torna uma resposta boa. Se essa suposição se mantiver, então a identidade específica dos juízes é apenas um detalhe menor, como a marca da caneta usada para escrever a pontuação.
Mas uma nova investigação sugere que esse detalhe é, na verdade, a parte mais importante da equação. Os pesquisadores buscaram testar se a escolha dos juízes humanos realmente importa, executando o mesmo conjunto de comparações de IA duas vezes, usando dois grupos de pessoas completamente diferentes. Um grupo consistia em trabalhadores comuns de plataformas de tarefas online, o tipo de pessoa contratada aos milhares para tarefas digitais. O outro era composto por especialistas de domínio selecionados, indivíduos com conhecimento especializado na área. Os pesquisadores pegaram um conjunto massivo de dados de milhares de comparações de IA e pediram a ambos os grupos que votassem nos vencedores. Eles descobriram que os dois grupos de humanos não concordavam entre si tão frequentemente quanto o campo assumia. Em quase um em cada quatro itens, os dois grupos escolheram vencedores majoritários diferentes. Em quase um em cada dez casos, os trabalhadores de tarefas online e os especialistas escolheram vencedores opostos, declarando o perdedor de um grupo como o campeão do outro.
Apesar dessa enorme discordância ao nível dos itens individuais, o resultado final parecia enganosamente estável. Quando os pesquisadores usaram esses votos conflitantes para classificar os seis modelos de IA do estudo, o ranking final foi idêntico, independentemente de qual grupo de humanos realizou o julgamento. A ordem dos modelos não mudou em nada. Isso criou um quadro confuso: os juízes estavam gritando respostas diferentes, mas o placar permanecia silencioso. Os pesquisadores perceberam que essa estabilidade não era um sinal de um sistema robusto, mas sim um acidente de sorte causado pelo pequeno número de modelos sendo comparados. Como os modelos estavam distantes em termos de desempenho, as pequenas mudanças na votação causadas pela troca dos juízes não foram suficientes para empurrar um modelo à frente do outro.
Para testar o quão frágil era essa estabilidade, os pesquisadores realizaram simulações para ver o que aconteceria se o ranking fosse maior, contendo as dezenas de modelos que são comuns em competições do mundo real. Os resultados foram drásticos. Enquanto um ranking de seis modelos permanecia inalterado, um ranking com apenas dez modelos veria um modelo ser deslocado em oitenta e seis por cento dos casos. Com vinte modelos, a chance de uma reordenação era de quase cem por cento. O estudo concluiu que a prática atual do campo de reportar rankings pequenos é segura apenas porque os modelos são poucos e distantes entre si. Se o campo publicasse uma arena de modelos maior e mais realista, a escolha dos juízes humanos imediatamente embaralharia as classificações. O "padrão ouro" não é uma verdade fixa; é um alvo móvel que muda dependendo de quem é contratado para segurar a fita métrica.
A investigação não parou nos juízes humanos. Os pesquisadores também examinaram como os juízes de inteligência artificial, que são cada vez mais usados para automatizar essas classificações, lidam com a discordância entre os grupos humanos. Eles testaram três juízes de IA diferentes, incluindo modelos de diferentes empresas, para ver com qual grupo de humanos eles concordavam mais. Cada um dos três juízes de IA alinhou-se significativamente mais com os trabalhadores de tarefas online do que com os especialistas. Isso sugere que os juízes de IA aprenderam a imitar as preferências da multidão, provavelmente porque os dados usados para treiná-los vieram de trabalhadores semelhantes de plataformas de tarefas. Os pesquisadores descobriram que a concordância de um juiz de IA com humanos não é apenas uma medida de sua inteligência, mas também um reflexo das decisões de contratação feitas anos atrás, quando os dados de treinamento foram coletados.
O estudo também revelou que a maneira como esses juízes de IA são instruídos (prompted) pode mudar suas opiniões mais do que a escolha dos juízes humanos. Quando os pesquisadores alteraram a ordem em que as respostas eram apresentadas, os juízes de IA inverteram suas decisões em quase metade dos itens (especificamente 44,6% para um modelo). Além disso, quando os pesquisadores alteraram apenas o formato de saída (pedindo um objeto JSON em vez de um token puro) mantendo todo o resto fixo, o mesmo juiz concordou consigo mesmo em apenas 47,2% dos itens, mostrando uma mudança sistemática em uma direção. Essa sensibilidade à ordem de apresentação e à formatação é uma fonte de erro muito maior do que a diferença entre as opiniões de especialistas e de trabalhadores comuns. Os pesquisadores argumentam que todo o campo precisa mudar a forma como reporta esses resultados. Simplesmente declarar que um modelo concorda com humanos em uma certa porcentagem de vezes é incompleto sem especificar quais humanos foram usados. A segurança dos rankings atuais é uma ilusão criada por amostras pequenas, e a confiabilidade dos rankings futuros depende inteiramente de reconhecer que a escolha dos anotadores não é um detalhe menor, mas uma variável fundamental que molda o resultado.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.