Who Answers for AI? Epistemic Visibility, Responsibility, and Error Repair in Collaborative Learning

Na sala de aula moderna e no ambiente de trabalho moderno, os grupos frequentemente resolvem problemas juntos ao reunir seus conhecimentos. Esse processo baseia-se em um delicado acordo social: quando alguém oferece uma ideia, o grupo deve saber de onde ela veio, como foi formada e quem é responsável por verificar sua precisão. Este é o fundamento da aprendizagem colaborativa, onde o objetivo não é apenas compartilhar informações, mas construir um entendimento compartilhado que nenhuma pessoa sozinha poderia criar. No entanto, uma nova camada foi adicionada a essa dinâmica: a inteligência artificial. Quando um estudante ou funcionário utiliza uma ferramenta de IA para gerar uma resposta, ele enfrenta uma escolha crítica. Ele pode trazer a ideia de volta ao grupo como uma simples sugestão, escondendo o fato de que uma máquina a produziu. Ou, ele pode revelar todo o histórico dessa ideia, mostrando as perguntas feitas, as respostas brutas geradas e as edições realizadas. Essa distinção cria uma lacuna entre o que o grupo vê e o que realmente aconteceu. A questão não é se a IA ajuda, mas como a visibilidade de sua contribuição altera a forma como as pessoas confiam, argumentam e corrigem erros ao trabalharem juntas.

Um pesquisador da University College London propôs-se a explorar essa lacuna observando como estudantes de pós-graduação trabalhavam em grupos ao longo de um período de oito semanas. Ele não perguntou simplesmente aos estudantes o que eles pensavam sobre a IA; ele os observou trabalhar em tempo real. O pesquisador organizou quarenta e oito estudantes em doze grupos e deu-lhes uma tarefa complexa: projetar uma intervenção educacional para corrigir as desigualdades no ensino de ciências e matemática. Para ver como a visibilidade importava, os estudantes passaram por três formas diferentes de usar a IA. No primeiro cenário, um estudante podia usar a IA de forma privada. Ele podia digitar uma pergunta, obter uma resposta, editá-la e colá-la no documento do grupo sem que mais ninguém visse o processo. No segundo cenário, o estudante ainda usava sua própria ferramenta de IA privada, mas um painel especial na tela mostrava ao resto do grupo exatamente o que foi digitado, o que a máquina disse e como o estudante alterou aquilo. No terceiro cenário, todo o grupo utilizava uma única ferramenta de IA em conjunto, onde todos podiam ver as perguntas e respostas conforme elas aconteciam.

O pesquisador registrou cada palavra que os estudantes proferiram, cada tecla que pressionaram e cada alteração que fizeram em seus documentos. Eles também introduziram momentos específicos onde a IA foi programada para dar uma resposta errada ou enganosa, apenas para ver como o grupo reagiria. Ele queria saber se o grupo detectaria o erro, quem se sentiria responsável por corrigi-lo e se o produto final seria melhor se todos pudessem ver o trabalho da IA.

O estudo descobriu que, quando o trabalho da IA era oculto, a dinâmica do grupo mudava de uma forma que tornava a aprendizagem menos eficaz. Quando um estudante usava a IA privada e opaca, ele frequentemente se tornava o único guardião daquela informação. Ele trazia uma ideia polida para o grupo e, como os outros não podiam ver a saída original da máquina ou as perguntas que levaram a ela, tratavam a ideia como se viesse diretamente do estudante. Isso criava uma situação em que o estudante que controlava a IA detinha todo o poder para decidir o que o grupo sabia. Se a IA cometesse um erro, os outros estudantes muitas vezes não percebiam que precisavam verificar o trabalho. Eles assumiam que o estudante já o havia verificado, ou simplesmente aceitavam a resposta de sonoridade fluente sem questionar. A responsabilidade pela ideia passava silenciosamente do grupo para o estudante individual e, muitas vezes, desaparecia por completo, deixando ninguém para realmente assumir a autoria da afirmação.

Quando o pesquisador tornou o trabalho da IA visível, o comportamento dos grupos mudou dramaticamente. Na condição em que os estudantes usavam sua própria IA, mas mostravam o histórico completo ao grupo, a dinâmica tornou-se muito mais equilibrada. Os outros membros podiam ver exatamente o que a máquina dissera e como o estudante a tinha editado. Essa transparência permitiu que o grupo atuasse como uma equipe de inspetores. Eles podiam perguntar: "Por que você perguntou isso à IA?" ou "A máquina disse isto, mas você mudou aquela parte; por quê?". Essa visibilidade transformou a IA de uma caixa preta em um objeto compartilhado que o grupo poderia examinar junto. Os estudantes eram mais propensos a desafiar as sugestões da IA, verificar fatos e reparar erros quando eles ocorriam. O grupo não apenas aceitava o resultado; eles regulavam ativamente o processo, decidindo juntos o que era confiável e o que precisava de mais trabalho.

Curiosamente, o estudo descobriu que ter um espaço de trabalho de IA compartilhado, onde todos usavam a mesma ferramenta ao mesmo tempo, não produziava sempre resultados melhores do que a IA pessoal rastreável. Embora o espaço de trabalho compartilhado tornasse a saída da IA pública, ele não incentivava necessariamente o mesmo nível de inspeção crítica que a condição da IA pessoal rastreável. O fator chave não era apenas que todos pudessem ver a tela, mas que pudessem ver o caminho específico de como um único estudante interagia com a máquina. A capacidade de rastrear o histórico de uma afirmação — da pergunta inicial até a frase final editada — parecia ser a ferramenta mais poderosa para manter o grupo honesto.

O pesquisador também observou como os grupos lidavam com os momentos específicos em que a IA dava uma resposta errada. Nas condições ocultas, esses erros frequentemente passavam para o projeto final do grupo sem serem notados, ou eram aceitos sem um debate real sobre sua validade. Nas condições visíveis, os erros tornavam-se eventos gatilho para a colaboração. O grupo fazia uma pausa, discutia a discrepância e trabalhava junto para encontrar a informação correta. Esse processo de detecção e correção de erros estava ligado a produtos finais de maior qualidade e a melhores resultados de aprendizagem individual. Os estudantes que trabalharam nas condições visíveis não apenas produziram um trabalho melhor, mas também demonstraram uma capacidade mais forte de aplicar o que aprenderam em novas tarefas posteriormente.

O estudo sugere que o valor da IA no trabalho em grupo depende menos de quanto acesso todos têm à tecnologia e mais de se o grupo consegue inspecionar o trabalho. Quando o caminho da produção do conhecimento é invisível, a responsabilidade torna-se difusa e o grupo pode perder sua capacidade de regular sua própria aprendizagem. Quando esse caminho é visível, o grupo pode manter sua agência, garantindo que a IA sirva como uma ferramenta para investigação, em vez de uma fonte de autoridade não examinada. A pesquisa indica que, para que a IA seja uma verdadeira parceira na aprendizagem, as condições sociais devem permitir que o grupo veja, questione e repare as contribuições da máquina. Sem essa visibilidade, o grupo corre o risco de terceirizar seu pensamento sem perceber. Com ela, o grupo pode aproveitar o poder da IA mantendo a responsabilidade pelo conhecimento firmemente nas mãos humanas.