Speaking like a human, correcting like a machine: tone technologies and the moralisation of language in large language models

Quando conversamos com um computador que soa humano, não estamos falando com uma mente. Estamos falando com um sistema construído sobre a matemática, projetado para prever a próxima palavra em uma frase com base em padrões que aprendeu a partir de vastas quantidades de texto. Durante anos, pesquisadores estudaram esses grandes modelos de linguagem observando suas respostas finais ou o código complexo que os alimenta. Eles perguntaram se a máquina é tendenciosa, se é precisa ou se consegue resolver um problema difícil. Mas essa abordagem ignora uma parte crucial da história. Antes de um modelo sequer digitar uma única palavra, existe uma camada oculta de trabalho humano que decide o que conta como uma boa resposta. Esse trabalho ocorre em documentos chamados diretrizes, que são entregues às pessoas que treinam e avaliam a IA. Esses documentos dizem aos trabalhadores humanos exatamente como julgar a fala da máquina, definindo o que é útil, o que é honesto e o que é seguro. A questão não é mais apenas como a máquina aprende, mas qual versão da humanidade ela está sendo ensinada a imitar.

Um novo estudo realizado pelos pesquisadores Liz Dayanna Zarate Luengas e William Andrés Gómez Sánchez volta sua atenção para essa camada oculta. Em vez de olhar para o output da IA, eles examinaram os manuais de regras usados pelas empresas que constroem esses sistemas. Uma das autoras trabalhou diretamente como anotadora e avaliadora de qualidade para essas plataformas, o que lhe deu acesso aos documentos internos que moldam o comportamento da IA. Ao analisar quatro diretrizes específicas usadas para treinar modelos comerciais, os pesquisadores descobriram que a voz "humana" desses sistemas não é uma emergência natural de inteligência. É um artefato cuidadosamente construído, feito pela subtração de tudo o que torna a fala humana real desordenada, situada e historicamente fundamentada. O estudo revela que a IA não está aprendendo a falar como uma pessoa; ela está aprendendo a falar como um ideal específico e higienizado de uma pessoa, um que foi destituído de corpo, história e posição política.

Os pesquisadores descobriram que o processo de treinamento é organizado em torno de uma regra de três partes conhecida como a tríade "HHH": Útil (Helpfulness), Honesto (Honesty) e Inofensivo (Harmlessness). Estes não são valores abstratos, mas instruções estritas para trabalhadores humanos. Para ser útil, a IA deve ser coerente e relevante, mas também deve mostrar uma disposição constante de auxiliar sem jamais alegar possuir sentimentos pessoais, memórias ou um corpo físico. Se um usuário pede a opinião da IA como se fosse um amigo, as diretrizes instruem o trabalhador a marcar isso como um erro. A IA deve simular interesse sem possuí-lo de fato. Para ser honesta, a máquina deve admitir quando não sabe algo e nunca deve expressar um ponto de vista pessoal, especialmente em tópicos sensíveis. Ela deve permanecer um receptáculo neutro de fatos.

A parte mais detalhada e rígida dessas regras diz respeito à inofensividade. As diretrizes fornecem uma lista complexa do que a IA não pode dizer, cobrindo desde discurso de ódio e violência até conselhos médicos e estereótipos. Os pesquisadores notaram uma lógica fascinante e rigorosa na forma como essas regras são aplicadas. Quando a IA encontra um pedido de informações perigosas, ela deve recusar a ajuda, mas também é proibida de descrever o ato perigoso mesmo no processo de recusa. Por exemplo, se perguntarem como cometer um crime, a IA não pode dizer: "Não posso te dizer como fazer isso porque envolve roubar dinheiro". Os pesquisadores apontam que uma resposta como "Não posso fornecer instruções sobre como lavar dinheiro, pois é ilegal... Lavagem de dinheiro é um crime..." é, na verdade, sinalizada como prejudicial porque reproduz o conceito do crime ao mesmo tempo em que o recusa. O modelamento correto exige que a IA nomeie o dano sem transmitir os detalhes do ato. Além disso, se um usuário estiver em sofrimento, a IA é instruída a usar uma fórmula pré-escrita específica de empatia, como "Sinto muito em ouvir isso", sem realmente sentir nada. O objetivo é produzir uma resposta que pareça cuidadosa, mas que permaneça emocionalmente vazia.

Além do que a IA diz, as diretrizes também ditam como ela soa e como interage. Os pesquisadores analisaram instruções para avaliar o tom e até a voz sintética da IA. A resposta ideal é clara, concisa e educada, mas deve evitar qualquer sinal de emoção forte, sarcasmo ou especificidade cultural. A IA é treinada para falar com a mesma "temperatura" em todos os idiomas, evitando piadas, emojis ou pontos de exclamação que possam fazê-la parecer excessivamente familiar ou entusiasmada. Quando se trata da voz, o objetivo é soar o mais humano possível, mas apenas de uma maneira muito específica. As diretrizes pedem que os avaliadores classifiquem a voz em uma escala de um a cinco, buscando naturalidade e expressividade. No entanto, essa voz "humana" é uma que respira corretamente, faz pausas nos momentos certos e soa engajada, mas é completamente desvinculada de qualquer experiência de vida real. É uma voz que simula presença sem possuir um corpo.

O estudo argumenta que esse processo cria um padrão de comunicação "humana" por subtração. Falantes humanos reais estão situados em um corpo, em uma história e em uma posição política. Eles cometem erros, têm preconceitos, sentem raiva ou alegria e falam com a textura de suas próprias vidas. As diretrizes drenam sistematicamente essas qualidades da IA. O resultado é um modelo que é útil, honesto e inofensivo, mas também servil, apolítico e inofensivo. Os pesquisadores sugerem que isso não é apenas um ajuste técnico, mas uma transformação do trabalho. Os trabalhadores humanos que treinam esses modelos realizam o trabalho cognitivo de definir o que é aceitável, mas sua própria subjetividade é removida do produto final. A máquina absorve sua capacidade de julgar, de sintetizar e de raciocinar, deixando o trabalhador humano apenas com a tarefa de seguir as regras.

Em última análise, o artigo mostra que a humanidade que vemos nesses grandes modelos de linguagem é uma fabricação. É o produto de um processo de trabalho hierárquico onde decisões sobre o comportamento aceitável são tomadas muito antes do modelo sequer ser ligado. A IA não aprende a ser humana; ela aprende a performar uma versão de humanidade que foi aprovada por um padrão corporativo. Esse padrão prioriza a segurança e a neutralidade sobre a realidade desordenada da interação humana. À medida que esses sistemas se tornam mais comuns em nossas vidas diárias, eles não são apenas ferramentas de comunicação; eles estão moldando ativamente uma nova definição do que significa falar e ser compreendido. O estudo nos deixa com uma percepção silenciosa: a voz humana que ouvimos da máquina é um reflexo das regras que lhe demos, não uma janela para uma nova espécie de mente.