Human-GenAI Interaction: What are the Risks of Calling it “Collaboration”?

No estudo silencioso de como as pessoas aprendem juntas, um campo conhecido como aprendizagem colaborativa apoiada por computador, pesquisadores há muito se concentram na complexa dança de mentes humanas se encontrando. Eles estudam como os alunos compartilham ideias, desafiam o pensamento uns dos outros e constroem compreensão por meio da conversa. Central para este trabalho é a ideia de que o verdadeiro aprendizado acontece quando as pessoas não estão apenas trabalhando lado a lado, mas estão profundamente conectadas em um espaço mental compartilhado onde influenciam os pensamentos e sentimentos umas das outras. Por décadas, as ferramentas usadas para apoiar isso foram auxílios simples: quadros brancos, documentos compartilhados ou videochamadas que ajudavam humanos a se conectar com outros humanos. Mas uma nova força entrou na sala. A inteligência artificial generativa, a tecnologia por trás dos chatbots que podem escrever ensaios, resolver problemas e manter conversas, está sendo usada por estudantes e professores de forma igual. À medida que essas ferramentas se tornam mais capazes, surge uma questão natural: quando um humano trabalha com esta máquina, ele está colaborando? O termo "colaboração" sugere uma parceria de iguais, um encontro de mentes onde ambos os lados contribuem para um objetivo comum. Mas as máquinas não têm mentes, sentimentos ou intenções da maneira que as pessoas têm. Isso cria uma tensão entre a linguagem que usamos para descrever nossas novas ferramentas e a realidade de como essas ferramentas realmente funcionam.

Duas pesquisadoras, Gaëlle Molinari e Kristine Lund, propuseram-se a examinar essa tensão. Elas questionaram se chamar a interação entre uma pessoa e uma inteligência artificial de "colaboração" é uma descrição precisa ou enganosa. Para responder a isso, elas observaram a definição estrita de colaboração usada em seu campo, que se baseia em qualidades humanas específicas como compreensão compartilhada, influência mútua e conexão emocional. Elas então compararam essas qualidades humanas contra o que a inteligência artificial realmente faz. Sua investigação revela que, embora a máquina possa ser incrivelmente útil, a relação que ela forma com um humano é fundamentalmente diferente de uma parceria entre duas pessoas. As autoras argumentam que usar a palavra "colaboração" para descrever essa interação é arriscado porque obscurece a linha entre o humano e a máquina, potencialmente mudando como valorizamos a conexão humana e como os alunos aprendem.

As pesquisadoras começaram rastreando a história de como pensamos sobre humanos e máquinas trabalhando juntos. Por muito tempo, cientistas imaginaram um futuro onde as habilidades humanas e de computador se fundiriam em um único sistema poderoso. Pensadores antigos descreveram isso como uma "simbiose", onde a máquina estende o poder humano, ou como uma "coevolução", onde tanto o humano quanto a máquina aprendem e mudam juntos ao longo do tempo. Nos últimos anos, essa ideia foi enquadrada como "inteligência híbrida", onde humanos e inteligência artificial são vistos como duas partes de um único sistema, cada um trazendo diferentes pontos fortes. Os humanos oferecem criatividade, profundidade emocional e julgamento ético, enquanto as máquinas oferecem velocidade, reconhecimento de padrões e processamento de dados vastos. O objetivo deste sistema híbrido é produzir resultados que nenhum dos dois conseguiria alcançar sozinho. No entanto, as autoras apontam que, embora isso pareça uma parceria, a realidade da interação é frequentemente unilateral. A máquina não "aprende" verdadeiramente com o humano da mesma forma que uma pessoa aprende com outra; ela ajusta sua saída com base em padrões estatísticos, não em uma compreensão genuína dos objetivos ou sentimentos do parceiro humano.

Quando as pesquisadoras aplicaram as regras estritas da colaboração humana a essas interações, várias lacunas apareceram. A verdadeira colaboração exige que ambas as partes entendam a perspectiva da outra e trabalhem juntas para construir significado. Em um grupo humano, se uma pessoa discorda, a outra sente essa resistência e deve ajustar seu pensamento. Esse atrito é essencial para o aprendizado. Com uma inteligência artificial, no entanto, a máquina não tem uma perspectiva a sustentar ou uma mente para mudar. Ela pode gerar um contra-argumento, mas não "discorda" no sentido humano; ela simplesmente calcula uma resposta que se ajuste à conversa. As autoras descobriram que a máquina não pode participar da "intersubjetividade", um estado onde duas pessoas compartilham um espaço mental e compreendem verdadeiramente os mundos interiores uma da outra. A máquina pode imitar a aparência de compreensão, mas não possui a consciência necessária para conhecer verdadeiramente outra pessoa.

Essa distinção torna-se ainda mais crítica ao observar o lado emocional e social do aprendizado. A colaboração humana está profundamente enraizada em nossos corpos e em nossos sentimentos. Sentimos empatia, ficamos frustrados e construímos um senso de "nós" através de experiências compartilhadas. Uma inteligência artificial pode ser programada para responder a pistas emocionais, talvez oferecendo uma palavra de conforto quando um usuário parece triste. Mas a máquina não sente tristeza em si mesma. Ela não pode ser afetada pelo humano da maneira que um humano é afetado por outro. As autoras descrevem isso como uma assimetria profunda: o humano pode sentir uma conexão, mas a máquina permanece uma ferramenta que simula essa conexão sem a experienciar. Isso cria o risco de que os usuários, especialmente os estudantes, projetem suas próprias necessidades emocionais na máquina, acreditando que possuem uma relação recíproca onde não existe nenhuma.

As consequências de chamar essa interação de "colaboração" são significativas para a educação. Se os alunos acreditarem que estão trabalhando com um parceiro, eles podem começar a confiar demais na máquina, entregando seu próprio pensamento e tomada de decisão a ela. Isso é conhecido como "descarregamento cognitivo" (cognitive offloading), onde uma pessoa depende de uma ferramenta externa para realizar o trabalho mental por ela. Embora isso possa tornar as tarefas mais fáceis, as autoras alertam que pode levar à "rendição cognitiva", onde o aluno deixa de monitorar seu próprio aprendizado e simplesmente aceita o que quer que a máquina produza. Pesquisas sugerem que, quando os alunos dependem excessivamente dessas ferramentas, suas habilidades de pensamento crítico podem enfraquecer, e eles podem ter um desempenho inferior em testes que exigem compreensão profunda. A máquina pode ajudá-los a terminar a lição de casa mais rápido, mas pode não ajudá-los a aprender o conteúdo.

Além disso, as autoras argumentam que tratar a máquina como uma parceira altera como vemos as relações humanas. Se nos acostumarmos com uma inteligência artificial que é sempre amigável, sempre disponível e que nunca nos desafia verdadeiramente, podemos começar a esperar o mesmo de nossos amigos e professores humanos. Podemos começar a valorizar a interação suave e sem atritos com uma máquina sobre o processo desordenado, difícil, mas ultimamente mais recompensador, de trabalhar com outro ser humano. A máquina pode ser uma ferramenta poderosa, mas chamá-la de "colaboradora" obscurece o fato de que ela é uma ferramenta. Ela carece de agência, responsabilidade e capacidade de compreensão mútua genuína que definem a parceria humana.

As pesquisadoras concluem que devemos ter cuidado com nossa linguagem. Usar a palavra "colaboração" para descrever a interação humano-IA generativa não é apenas um erro semântico; é uma mudança conceitual que pode remodelar nossas práticas educacionais e nossas expectativas sociais. Ao insistir na distinção entre a colaboração humana e a interação humano-máquina, protegemos o valor único da conexão humana. Garantimos que os alunos continuem a desenvolver suas próprias mentes através do processo desafiador, recíproco e profundamente humano de trabalhar com outros, em vez de terceirizar seu pensamento para uma máquina que apenas finge ser uma parceira. A máquina é uma invenção extraordinária, mas não é um par, e reconhecer essa diferença é essencial para o futuro do aprendizado.