Auditing LLM-mediated interpretation through source-to-claim documentation

Nas humanidades e ciências sociais, pesquisadores há muito dependem de uma ideia simples, mas poderosa: se você quer entender como uma conclusão foi alcançada, deve ser capaz de rastrear o caminho desde a evidência original até a afirmação final. Esse caminho é frequentemente chamado de "trilha de auditoria" (audit trail). É um registro das decisões tomadas, das notas tiradas e dos passos seguidos, garantindo que outro estudioso possa olhar para os mesmos materiais e ver como a interpretação foi construída. Por décadas, esse processo foi de humano para humano, onde um pesquisador lê um texto, destaca uma passagem e escreve uma análise. Mas uma nova ferramenta entrou na sala: a inteligência artificial generativa. Esses sistemas podem ler um texto e escrever instantaneamente um parágrafo fluente que o resume ou interpreta. O problema é que essa velocidade vem com um custo oculto. A IA produz uma frase polida e suave que esconde o trabalho desordenado de transformação que aconteceu dentro da máquina. O leitor vê a afirmação final, mas não consegue ver como a máquina transformou as palavras originais naquela conclusão específica. Pior ainda, como esses sistemas de IA são hospedados em servidores pertencentes a empresas, os pesquisadores não podem simplesmente "reexecutar" exatamente o mesmo cálculo mais tarde. O software pode mudar, ou a mesma pergunta pode obter uma resposta ligeiramente diferente na próxima vez. Isso cria uma lacuna na trilha de auditoria, deixando a conexão entre a evidência e a afirmação frágil e difícil de verificar.

Para resolver isso, uma equipe de pesquisadores da Universidade de Minnesota e do Instituto de Tecnologia da Geórgia propôs uma nova forma de trabalhar chamada "documentação da fonte para a afirmação" (source-to-claim documentation). Em vez de apenas dizer "Usamos uma IA", eles sugerem manter uma cadeia completa e vinculada de registros que mostre exatamente como uma peça de evidência se tornou uma afirmação analítica. Este framework não apenas lista as ferramentas utilizadas; ele preserva a jornada específica de cada fragmento de texto gerado. Os pesquisadores testaram essa ideia em um experimento controlado, onde criaram doze frases simples para servir como material de origem. Eles pediram a duas versões diferentes de um modelo de IA que reescrevessem essas frases e escrevessem notas interpretativas curtas sobre elas. O objetivo não era ver qual IA era mais inteligente, mas sim ver se o novo método de documentação deles conseguiria detectar erros que passariam despercebidos de outra forma. Eles descobriram que a IA frequentemente fazia mudanças sutis, mas significativas, que pareciam inofensivas na superfície. Por exemplo, quando a frase de origem dizia que uma mulher "emprestou" suas notas a um amigo, a IA repetidamente a reescrevia como "deu" suas notas. No mundo real, "emprestar" implica que o item será devolvido, enquanto "dar" implica propriedade permanente. A IA fez essa troca todas as vezes, produzindo frases idênticas e fluentes que soavam corretas, mas que na verdade haviam alterado o significado da evidência original.

O poder do novo método ficou claro quando os pesquisadores olharam além do texto final. Eles introduziram uma etapa onde pediram à IA para criar um mapa estruturado do significado da frase juntamente com o texto reescrito. Esse mapa agia como um projeto, mostrando as relações entre as palavras. Quando os pesquisadores compararam o projeto com a frase original, o erro saltou aos olhos: o mapa ainda mostrava a ação como "emprestar", embora o parágrafo final dissesse "dar". Isso revelou que a IA havia cometido um erro consistente que a prosa fluente havia conseguido ocultar com sucesso. Os pesquisadores também descobriram que, quando a IA escrevia notas interpretativas, às vezes adicionava ideias que não estavam no texto original, como supor a motivação de uma pessoa, mesmo quando deveria citar a fonte diretamente. Ao manter a frase original, a saída bruta da IA, o mapa estruturado e a revisão humana todos vinculados em um único arquivo, os pesquisadores puderam ver exatamente onde o significado mudou. Eles descobriram que simplesmente verificar se duas execuções da IA produziam a mesma resposta não era suficiente, pois a IA poderia concordar consigo mesma enquanto ambas estavam erradas.

O estudo envolveu oito leitores humanos que revisaram o trabalho da IA. Esses leitores confirmaram que, embora as frases reescritas pela IA muitas vezes parecessem muito semelhantes ao original, elas frequentemente alteravam o significado de maneiras que importavam. Em um caso específico envolvendo uma frase sobre um empréstimo, os leitores identificaram que a mudança de "emprestar" para "dar" era uma distorção significativa em mais da metade das avaliações. Os pesquisadores também testaram se o método deles conseguiria lidar com mudanças no próprio sistema de IA. Eles rodaram o experimento com duas versões diferentes do modelo de IA, separadas por meses. Mesmo que os modelos fossem diferentes, o método de documentação permitiu que eles rastreassem o histórico da afirmação e vissem como a evidência foi transformada em cada caso. O achado principal foi que o framework preservou com sucesso o "caminho evidencial". Ele permitiu que um pesquisador posterior olhasse para a afirmação final, seguisse o link de volta para a saída bruta da IA e, então, verificasse o mapa estruturado para ver se o significado havia sido preservado. Esse processo não exigia que o pesquisador confiasse na IA ou acreditasse que o texto final fosse perfeito; exigia apenas que ele tivesse o registro completo de como o texto foi feito.

Esta abordagem oferece um caminho prático para pesquisadores que desejam usar IA sem perder a capacidade de verificar seu trabalho. Os pesquisadores sugerem que a quantidade de documentação deve corresponder à importância da afirmação. Para uma nota privada ou um exercício de sala de aula, um registro simples da fonte e do comando (prompt) pode ser suficiente. Mas para um artigo publicado ou um conjunto de dados destinado ao uso de terceiros, a cadeia completa de evidências — incluindo a saída bruta, as verificações estruturadas e a revisão humana — deve ser salva. Isso não significa que cada frase individual precise de uma auditoria completa, mas significa que, quando uma afirmação depende da interpretação de uma IA, o caminho das palavras originais até essa afirmação deve permanecer visível. O estudo mostrou que, sem essa visibilidade, a prosa fluente pode facilmente esconder erros, e o acordo repetido entre execuções de IA pode dar uma falsa sensação de segurança. Ao manter os links entre a fonte, a máquina e o revisor humano intactos, os pesquisadores podem garantir que suas conclusões sejam construídas sobre uma base que pode ser inspecionada, questionada e compreendida por qualquer pessoa que siga a trilha.