Trust and Reliance on AI in Education: AI Literacy and Need for Cognition as Moderators

Este estudo com 432 estudantes universitários revela que, em tarefas de programação, um maior nível de confiança em assistentes de IA está associado a uma dependência inadequada (aceitação de sugestões erradas), sendo essa relação moderada negativamente pela alfabetização em IA e pela necessidade de cognição dos alunos.

O essencial

🤖 O Guia de Confiança: Quando Confiar na IA (e quando não confiar)

Imagine que você está aprendendo a cozinhar um prato novo e complexo. De repente, um Robô Chef (a Inteligência Artificial) aparece na sua cozinha e diz: "Adicione sal agora!" ou "Frite o ovo por 10 minutos!".

O problema é que, às vezes, esse Robô Chef é um gênio e dá a dica perfeita. Outras vezes, ele está confuso e sugere que você queime a comida. A grande pergunta deste estudo é: Como os alunos decidem se devem seguir a dica do Robô ou ignorá-la?

Os pesquisadores (Griffin Pitts, Neha Rani e Weedguet Mildort) queriam entender a relação entre quanto você confia no Robô e se você consegue distinguir quando ele está certo ou errado.

🧪 O Experimento: A Cozinha dos Erros

Eles pegaram 432 estudantes universitários e pediram para eles resolverem problemas de programação (como decifrar o que um código faz). Durante a tarefa, um "Chatbot" (o Robô Chef) dava dicas.

• A Pegadinha: O Robô foi programado para dar dicas corretas em alguns momentos e dicas erradas (enganosas) em outros.
• O Objetivo: Ver se os alunos aceitavam a dica cegamente ou se pensavam antes de agir.

🔍 O Que Eles Descobriram? (A Grande Surpresa)

1. Quanto mais você confia, mais você se engana
A descoberta mais interessante foi contra-intuitiva. Geralmente, pensamos que "confiar" é bom. Mas o estudo mostrou que quanto mais os alunos confiavam no Robô, menos eles conseguiam distinguir entre uma dica boa e uma ruim.

• A Analogia do "Fã Cego": Imagine que você é um fã obcecado de um cantor. Se ele disser "o céu é verde", você pode acabar acreditando, só porque confia nele. Da mesma forma, quando os alunos tinham muita confiança no Robô, eles aceitavam as dicas erradas sem questionar. Eles entraram no modo "piloto automático" e pararam de usar o próprio cérebro.

2. O "Nível de Consciência" faz a diferença
Nem todo mundo cai na mesma armadilha. Os pesquisadores descobriram que duas características pessoais mudavam a forma como a confiança afetava o aluno:

• Alfabetização em IA (Saber como o Robô funciona):

  • Analogia: É como saber como um truque de mágica funciona. Quem entende que a IA pode alucinar (inventar coisas) e não é um oráculo perfeito, tende a ser mais crítico.
  • Resultado: Alunos que entendiam bem a IA conseguiam confiar menos cegamente e verificar melhor as dicas, especialmente quando a confiança estava baixa.

• Necessidade de Cognição (Gostar de pensar):

  • Analogia: Algumas pessoas preferem comer fast-food (pensamento rápido e fácil), outras preferem cozinhar do zero (pensamento lento e esforçado).
  • Resultado: Alunos que gostam de pensar profundamente (que "cozinham do zero") tendiam a verificar mais as dicas do Robô. Eles não aceitavam a resposta pronta; eles queriam entender o "porquê".

⚠️ O Perigo da "Confiança Excessiva"

O estudo mostrou que, neste contexto, a confiança não funcionou como um "termômetro" que nos ajuda a calibrar o uso da ferramenta. Em vez disso, funcionou como um ímã de aceitação.

• Subconfiança (Ignorar ajuda boa): Raro. Quase ninguém ignorou dicas boas.
• Superconfiança (Aceitar ajuda ruim): Muito comum. A maioria aceitou dicas erradas porque confiava demais no Robô.

💡 O Que Isso Significa para o Futuro?

Se deixarmos os alunos usarem a IA sem supervisão, eles podem começar a copiar tudo sem pensar, o que atrapalha o aprendizado. O estudo sugere que precisamos de novas regras e ferramentas:

1. Não basta confiar, tem que verificar: As escolas e ferramentas de IA devem obrigar os alunos a pensarem antes de aceitar a resposta.
2. Forçar o pensamento: Imagine se o Robô dissesse: "Aqui está minha resposta, mas antes de você aceitar, explique com suas palavras por que acha que está certo ou errado". Isso seria como colocar um "freio de mão" no piloto automático, forçando o cérebro a trabalhar.

📝 Resumo Final

A confiança na IA é uma faca de dois gumes. Se você confiar demais, pode parar de pensar e aceitar erros. Se você entender como a IA funciona e gostar de pensar com esforço, consegue usar a ferramenta como um parceiro inteligente, e não como um mestre que nunca erra.

O segredo não é parar de confiar, mas sim aprender a duvidar de forma inteligente.

Resumo técnico

1. Problema e Contexto

A integração de sistemas de Inteligência Artificial Generativa (IA) no ensino superior, como tutores conversacionais e assistentes de escrita, trouxe desafios críticos sobre como os estudantes interpretam e utilizam as saídas geradas por essas ferramentas. Embora a IA possa reduzir a fricção no aprendizado, há o risco de os alunos aceitarem as respostas da IA sem questionamento crítico (superconfiança/overreliance), contornando o processo de raciocínio e metacognição.

O problema central investigado é a relação entre a confiança que os estudantes depositam na IA e o seu apropriado reliance (confiança adequada) durante a resolução de problemas. O "apropriado reliance" é definido como a capacidade de aceitar recomendações corretas e rejeitar as incorretas. O estudo busca entender se a confiança prediz esse comportamento e se características individuais dos alunos (como literacia em IA e necessidade de cognição) moderam essa relação.

2. Metodologia

O estudo foi conduzido como um experimento de laboratório com 432 estudantes de graduação de cursos relacionados à computação na Universidade da Flórida.

• Tarefa Experimental: Os participantes resolveram 14 problemas de programação em Python (predição de saída de código) com assistência de um chatbot de IA.
• Manipulação da IA: O sistema foi projetado para fornecer uma mistura de recomendações:
  • 8 problemas com recomendações corretas e úteis.
  • 6 problemas com recomendações intencionalmente falhas (erros lógicos ou de sintaxe).
• Abordagem "Wizard of Oz": As respostas iniciais foram pré-programadas para garantir consistência, enquanto interações subsequentes utilizaram a API da OpenAI (gpt-3.5-turbo) para manter o contexto.
• Medidas:
  • Comportamental: O "apropriado reliance" foi calculado como a proporção de tentativas em que o aluno aceitou corretamente as sugestões certas e rejeitou as erradas. Também foram medidos o "overreliance" (aceitar sugestões erradas) e o "underreliance" (rejeitar sugestões certas).
  • Inquéritos: Questionários pré e pós-tarefa mediram:
    • Confiança na assistente (pós-tarefa).
    • Literacia em IA.
    • Necessidade de Cognição (NFC - tendência a envolver-se em atividades cognitivas exigentes).
    • Autoeficácia e literacia em programação.

3. Contribuições Principais

• Operacionalização Comportamental: Define o "apropriado reliance" não apenas pela precisão final da tarefa, mas pela discriminação comportamental entre aceitar ou rejeitar recomendações específicas da IA.
• Relação Não-Linear e Inversa: Demonstra empiricamente que, em contextos educacionais de programação, maior confiança na IA está associada a menor capacidade de discriminar entre sugestões corretas e incorretas.
• Papel Moderador: Identifica que a Literacia em IA e a Necessidade de Cognição (NFC) são moderadores significativos dessa relação, alterando como a confiança impacta o comportamento de reliance.
• Desafio aos Modelos Clássicos: Sugere que, no contexto de IA generativa educacional, a "subconfiança" (underreliance) é rara, enquanto a "superconfiança" (overreliance) é prevalente, diferindo de modelos clássicos de confiança em automação onde ambos os extremos são comuns.

4. Resultados Chave

• Correlação Negativa: Houve uma forte associação negativa entre a confiança pós-tarefa e o apropriado reliance ($r = -0.42, p < .001$). Estudantes com maior confiança tenderam a aceitar mais recomendações, incluindo as incorretas, sem verificação adequada.
• Efeito Quadrático: Um modelo quadrático explicou mais variância que o linear, indicando que a diminuição do apropriado reliance foi mais acentuada de níveis baixos para moderados de confiança, estabilizando-se em níveis altos, mas sem reversão (não houve um ponto de "confiança ótima" onde o reliance fosse perfeito).
• Moderação por Literacia em IA e NFC:
  • Literacia em IA: A interação foi negativa. Estudantes com alta literacia em IA e baixa confiança mostraram o melhor desempenho (maior apropriação do reliance). No entanto, à medida que a confiança aumentava, a vantagem da alta literacia diminuiu, e a inclinação negativa da confiança tornou-se mais acentuada.
  • Necessidade de Cognição (NFC): Padrão similar ao da literacia. Alunos com alta NFC e baixa confiança foram mais seletivos. Contudo, com o aumento da confiança, a capacidade desses alunos de manterem a avaliação crítica diminuiu.
  • Autoeficácia e Literacia em Programação: Não mostraram efeitos moderadores significativos neste contexto específico.
• Dados de Desempenho: A taxa média de "overreliance" (aceitar dicas erradas) foi alta (86,03%), enquanto o "underreliance" foi muito baixo (2,37%).

5. Significado e Implicações

Os resultados indicam que a confiança na IA pode atuar mais como um gatilho para a aceitação acrítica do que como um mecanismo de calibração. Quando os alunos confiam na IA, eles tendem a desligar o monitoramento metacognitivo, aceitando saídas fluídas e confiantes sem verificação.

• Implicações Pedagógicas: O estudo sugere que o ensino de IA não deve focar apenas no uso da ferramenta, mas em estratégias de verificação ativa. É necessário desenvolver ambientes de aprendizado que tornem a avaliação uma parte explícita da tarefa.
• Design de Sistemas: Recomenda-se a implementação de "funções de forçamento cognitivo" (cognitive forcing functions), como:
  • Exigir que o aluno comprometa-se com uma resposta antes de ver a sugestão da IA.
  • Pedir justificativas para concordar ou discordar da recomendação.
  • Incluir etapas de verificação obrigatórias antes da submissão final.

Em suma, o estudo alerta que, sem intervenções instrucionais e de design adequadas, a confiança excessiva na IA pode comprometer o aprendizado profundo e a autonomia do estudante, transformando a ferramenta de apoio em uma fonte de viés cognitivo.