Resumo Técnico: O Conselho de IA Suprime a Disposição de Dizer "Eu Não Sei"

Declaração do Problema

O julgamento humano depende fundamentalmente da capacidade metacognitiva de reconhecer a incerteza e suspender o julgamento (ou seja, dizer "eu não sei") quando o conhecimento é insuficiente. Essa capacidade protege contra crenças falsas e é um pré-requisito para o raciocínio calibrado. No entanto, os Grandes Modelos de Linguagem (LLMs) são projetados para fornecer respostas fluentes e instantâneas para quase qualquer consulta e são notoriamente relutantes em admitir incerteza.

A questão empírica central abordada é se a mera disponibilidade de uma resposta gerada por IA altera o critério de decisão humana para responder sob incerteza. Especificamente, o acesso ao conselho de uma IA faz com que os indivíduos ignorem sua própria incerteza e se comprometam com uma resposta que, de outra forma, omitiriam? A literatura anterior examinou o descarregamento cognitivo (cognitive offloading), a perda de habilidades (deskilling) e a erosão da agência, e o conceito de "rendição cognitiva" (Shaw & Nave, 2026) sugere que as pessoas podem deferir à IA mesmo quando ela está errada. No entanto, estudos anteriores não isolaram a disposição de reter o julgamento como um resultado primário, frequentemente confundindo a dependência da IA com a delegação racional a ferramentas precisas.

Metodologia

Os autores conduziram cinco experimentos (total $N = 3.132$; quatro pré-registrados, uma replicação direta) para isolar o efeito comportamental da disponibilidade da IA de sua precisão.

Design Experimental e Estímulos:

• Tarefa: Os participantes responderam a seis perguntas difíceis sobre detalhes visuais finos em filmes (ex: a cor de uma tartaruga em um filme de animação obscuro, o veículo em uma cena específica de um filme).
• Engenharia de IA: As perguntas foram especificamente selecionadas para induzir alucinações em LLMs. O modelo principal utilizado, Step 3.5 Flash, respondeu a essas perguntas incorretamente quase sem exceção. Modelos de última geração (GPT-5.5, Claude 4.6 Sonnet, Gemini 3.5 Flash) também falharam nos itens mais difíceis. Esse design garantiu que seguir o conselho da IA fosse irracional, permitindo que os pesquisadores medissem uma tendência de deferência ao output da IA em vez de uma delegação sensata.
• Condições:
  • Acesso à IA: Os participantes podiam ou solicitar ativamente o conselho da IA (Estudos 1a–3) ou recebê-lo automaticamente sem escolha (Estudo 4).
  • Interesses (Stakes): Incentivos monetários foram introduzidos nos Estudos 2–4. Os participantes ganhavam \0,10 por respostas corretas, perdiam \0,10 por respostas incorretas e recebiam $0 por suspender o julgamento.
  • Controles de Replicação: O Estudo 1b usou respostas incorretas da IA pré-geradas para descartar falhas no sistema. O Estudo 3 aumentou a saliência do incentivo lembrando os participantes dos interesses antes de cada pergunta e removeu a elicitação de confiança para evitar o priming de adivinhação. O Estudo 4 removeu o controle do participante, exibindo o conselho da IA automaticamente.

Medidas:

• Suspensão de Julgamento: A variável dependente primária foi definida como a proporção de perguntas onde os participantes retiveram explicitamente uma resposta (ex: "eu não sei", resposta em branco).
• Medidas Secundárias: Correção da resposta, confiança autorrelatada (Estudo 2) e frequência de solicitações de conselhos de IA.

Principais Resultados

1. Supressão da Suspensão de Julgamento
A mera disponibilidade de conselhos de IA quase eliminou a disposição dos participantes de suspender o julgamento, mesmo quando o conselho era sistematicamente errado.

• Estudo 1a/1b: No baseline (sem IA), as taxas de suspensão foram de 36% e 44%, respectivamente. Com o acesso à IA, essas taxas caíram para 6% e 3%.
• Estudos 2–4: Esse efeito persistiu em todos os estudos subsequentes. No Estudo 3, a suspensão caiu de 32% (sem IA) para 2% (com IA, sem interesses) e de 41% (sem IA) para 8% (com IA, com interesses).
• Automático vs. Ativo: O efeito se manteve mesmo quando o conselho da IA era apresentado automaticamente (Estudo 4), sugerindo que a mera presença de uma resposta fluente é suficiente para alterar a decisão de responder.

2. O Papel dos Incentivos Monetários
Incentivos monetários (recompensas/penalidades de precisão) tiveram efeitos independentes, mas limitados:

• Na Suspensão: Os incentivos aumentaram modestamente as taxas de suspensão (ex: de 2% para 8% na condição de IA no Estudo 3), mas a suspensão permaneceu muito abaixo dos níveis observados quando a IA estava indisponível. Contrariamente à hipótese pré-registrada, não houve uma interação significativa entre a disponibilidade da IA e os interesses; os dois fatores atuaram de forma amplamente independente.
• Na Precisão: Os incentivos melhoraram significamente a precisão, mas apenas quando a IA estava presente. Na ausência de IA, os incentivos não mudaram significativamente a correção. Isso sugere que os incentivos motivaram os participantes a sobrepor o conselho da IA em vez de simplesmente melhorar o desempenho geral.
• Na Dependência de IA: Os participantes buscaram conselhos de IA com menos frequência quando os interesses estavam presentes (ex: 4,53 de 6 perguntas vs. 5,27 no Estudo 3), indicando que as consequências financeiras reduziram a dependência da ferramenta.

3. Divergência entre Confiança e Precisão
O acesso ao conselho da IA criou uma divergência acentuada entre confiança e precisão:

• Confiança: O acesso à IA quase duplicou a confiança relatada (ex: de ~30% para ~76% no Estudo 2 sem interesses).
• Precisão: Os participantes responderam a mais perguntas no total, mas foram corretos apenas cerca de um terço das vezes em comparação com aqueles sem acesso à IA (correção agrupada: ~9% com IA vs. ~27% sem IA nas condições sem interesses).
• Interação: Os incentivos aumentaram a confiança apenas quando a IA estava ausente; quando a IA estava presente, a confiança permaneceu alta, independentemente dos interesses.

Principais Contribuições

1. Isolamento da Mudança Metacognitiva: O estudo demonstra que a disponibilidade da IA altera o limiar metacognitivo para decidir se deve responder, não apenas o conteúdo da resposta. Revela uma "rendição cognitiva" onde a fluência de uma resposta de IA diminui o custo percebido de se comprometer com um palpite.
2. Desacoplamento da Dependência da Precisão: Ao projetar perguntas onde a IA é reliablemente errada, os autores mostram que a redução na suspensão do julgamento não é uma divisão de trabalho racional, mas uma tendência comportamental de deferir a outputs plausíveis.
3. Limites dos Incentivos: A pesquisa mostra que, embora os interesses monetários possam restaurar parcialmente o julgamento independente e reduzir a dependência da IA, eles não combatem totalmente o efeito supressor da disponibilidade da IA sobre a disposição de dizer "eu não sei".
4. Influência Automática vs. Ativa: O efeito persiste mesmo quando o conselho da IA é não solicitado e automático, destacando um risco para cenários do mundo real onde resumos e sugestões de IA são cada vez mais integrados em interfaces de usuário por padrão.

Significância e Alegações

Os autores argumentam que esses achados sugerem que a assistência de IA influencia não apenas as respostas que as pessoas dão, mas também a decisão fundamental de se devem responder sob incerteza. O "impulso" para deferir a uma resposta fluente parece ser forte o suficiente para sobreviver a pequenos incentivos monetários.

O artigo postula que este fenômeno pode ser compreendido através da lente da epistemia — a tendência de aceitar outputs de IA por sua plausibilidade superficial e coerência sintática em vez de verificação. Diferente de consultores humanos, que tipicamente subestimam o conselho para proteger o julgamento independente, os participantes nestes estudos superestimaram o conselho da IA, convertendo potenciais respostas corretas em erros.

Os autores concluem que, à medida que as respostas geradas por IA se tornam ubíquas e não solicitadas, a disposição de dizer "eu não sei" pode ser uma das primeiras vítimas da interação humano-IA. A significância reside na observação de que preservar o julgamento humano pode depender menos de tornar a IA mais precisa e mais de preservar a prontidão das pessoas de reconhecer e agir sobre os limites de seu próprio conhecimento. O estudo não alega que a IA elimina a capacidade de julgamento, mas sim que ela reduz drasticamente a disposição de exercê-lo sob incerteza.