🤖 AI

What Do You Think I Think? Accounting for Human Beliefs Using Second-Order Theory of Mind

Este artigo apresenta uma estrutura de Teoria da Mente de segunda ordem utilizando I-POMDPs que permite a um agente detectar e adaptar-se proativamente a vieses cognitivos humanos e crenças errôneas sobre o agente, melhorando assim a qualidade da interação e a utilidade do feedback, conforme demonstrado em um estudo com usuários.

Autores originais: Patrick Callaghan, Reid Simmons, Henny Admoni

Publicado 2026-05-14

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Patrick Callaghan, Reid Simmons, Henny Admoni

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está ensinando um robô a classificar um baralho de cartas especiais. Você tem uma regra secreta em mente (por exemplo, "cartas vermelhas vão para o Lixeira 1, cartas azuis vão para a Lixeira 2"). O robô ainda não conhece a regra; ele precisa aprendê-la observando você classificar as cartas e ouvindo o que você diz.

O problema é que você pode estar cometendo erros sobre como acha que o robô pensa.

O Problema Central: A Lacuna de "Leitura de Mente"

Neste artigo, os pesquisadores estão tentando resolver uma falha específica de comunicação. Os humanos frequentemente possuem "vieses cognitivos" — atalhos mentais que nos fazem assumir coisas sobre os outros que não são verdadeiras.

O Cenário: Você pode pensar: "O robô é inteligente; ele deve saber que Vermelho significa Lixeira 1, porque esse é o padrão mais óbvio."
A Realidade: O robô está realmente confuso e pensa: "Eu não faço ideia do que Vermelho significa ainda."
O Resultado: Você para de ensinar porque acha que o robô sabe, ou você ensina de uma forma que confunde o robô porque está assumindo que ele entende seus atalhos.

A Solução: A Mente de "Segunda Ordem"

Os pesquisadores construíram um robô com um superpoder mental especial chamado Teoria da Mente de Segunda Ordem (ToM-2).

Para entender isso, pense em um jogo de "Eu sei que você sabe que eu sei":

Robô de Ordem Zero (O Bot Básico): Ele apenas olha para as cartas que você coloca nas lixeiras. Ele pensa: "Ok, você colocou uma carta vermelha aqui. Vou atualizar minha regra." Ele não faz ideia do que você está pensando.
Robô de Segunda Ordem (O Leitor de Mentes): Este robô não apenas olha para as cartas; ele simula um modelo do seu cérebro. Ele pergunta a si mesmo: "O que o humano acha que eu sei agora?"

Se o robô perceber: "Ah, o humano acha que eu sei que a regra é sobre Cor, mas eu realmente acho que é sobre Forma", ele consegue identificar a desconexão.

Como o Robô Corrige a Conversa

O artigo descreve um jogo onde o robô precisa adivinhar uma regra de classificação. O robô usa sua capacidade de "leitura de mente" para detectar dois hábitos humanos específicos (vieses):

Heurística da Representatividade: Você pode focar apenas nas cartas que se parecem com a regra que tem em mente e ignorar aquelas que provam que outras regras estão erradas.
Viés de Confirmação: Você pode prestar atenção apenas ao feedback do robô se ele confirmar o que você já acredita.

Quando o robô detecta esses hábitos, ele muda sua estratégia. Em vez de apenas dizer: "Não tenho certeza", ele lhe dá um empurrão em duas partes:

Parte A (O Empurrão): "Parece que você quer que eu pense que a regra é sobre Forma, mas..."
Parte B (A Correção): "...ainda é possível que a regra seja sobre Cor."

Ao declarar explicitamente: "Eu sei o que você acha que estou pensando, mas na verdade estou pensando em outra coisa", o robô quebra o ciclo mental humano e força-os a reconsiderar sua estratégia de ensino.

O Experimento: Cartas de Ensino

Os pesquisadores testaram isso com 30 pessoas reais.

O Cenário: As pessoas usaram um computador para ensinar um agente virtual a classificar cartas com diferentes cores, formas e números.
A Comparação:
- Grupo A ensinou um "Bot Básico" (Ordem Zero) que não podia ler mentes.
- Grupo B ensinou o "Bot Leitor de Mentes" (Segunda Ordem) que podia detectar vieses.

O Que Aconteceu?

Ensino Melhor: As pessoas ensinaram o Bot Leitor de Mentes de forma muito mais eficiente. Como o bot corrigia seus mal-entendidos, os humanos pararam de fazer movimentos redundantes e deram exemplos melhores.
Mais Informação: As cartas que as pessoas escolheram mostrar ao Bot Leitor de Mentes continham mais informações úteis. Os humanos estavam inconscientemente ajustando seu estilo de ensino porque o bot estava "respondendo" de uma forma que fazia sentido de sua confusão.
O Benefício "Inconsciente": Curiosamente, quando perguntados depois, os humanos não disseram: "Uau, aquele bot era incrível em ler minha mente!" Eles apenas sentiram que o feedback era mais útil. Eles não perceberam necessariamente por que a interação era mais suave; apenas sabiam que funcionava melhor.

A Conclusão

Este artigo mostra que, se uma IA pode modelar o que você acha que ela sabe (e perceber quando você está errado sobre isso), ela pode fornecer um feedback melhor. Isso ajuda você a ensiná-la mais rápido e com mais precisão, mesmo que você não perceba totalmente que a IA está fazendo o trabalho pesado para corrigir seus pontos cegos mentais.

Nota: Os pesquisadores testaram isso em um simples jogo de classificação de cartas. Eles admitem que a vida real é muito mais complexa, e seu robô analisou apenas dois tipos específicos de vieses humanos, mas a ideia central — de que modelar equívocos humanos melhora o trabalho em equipe — funcionou em seu experimento.

Resumo Técnico: Contabilização das Crenças Humanas Utilizando Teoria da Mente de Segunda Ordem

Declaração do Problema
A interação bem-sucedida entre humano e agente depende de o humano possuir um modelo preciso das capacidades e crenças do agente. No entanto, os humanos frequentemente empregam vieses cognitivos e heurísticas (CBH), como a Heurística da Representatividade e o Viés de Confirmação, o que pode levar a crenças errôneas sobre o que um agente sabe ou como ele raciocina. Essas discrepâncias entre o conhecimento real do agente e a percepção humana desse conhecimento podem prejudicar a eficiência da interação. Embora trabalhos anteriores tenham explorado dotar agentes com Teoria da Mente (ToM) ou Teoria da Mente de segunda ordem (ToM-2), este trabalho aborda especificamente o desafio de modelar como os CBH influenciam a inferência humana sobre as crenças de um agente, permitindo que o agente detecte esses erros e adapte seu feedback de acordo.

Metodologia
Os autores propõem um framework que utiliza um Processo de Decisão de Markov Parcialmente Observável Interativo (I-POMDP) para implementar uma Teoria da Mente de segunda ordem (ToM-2). Nesta arquitetura, o agente mantém um modelo aninhado do humano, onde o humano é modelado como um agente ToM-1 (um raciocinador de primeira ordem).

Domínio: O sistema é avaliado em uma tarefa de classificação de cartas baseada em turnos. Uma "regra" dita como cartas com múltiplas características (variando em Cor, Preenchimento, Número, Forma) são classificadas em dois recipientes. O professor humano demonstra a regra classificando cartas, e o agente fornece feedback sobre sua crença atual quanto aos atributos da regra.
Modelagem de CBH: O framework I-POMDP permite que o agente mantenha crenças sobre múltiplos modelos humanos ( $m_{H,1}$ $m_{H, 1}$ ) que codificam mecanismos específicos de CBH.
- Heurística da Representatividade (RH): Operacionalizada via "Pensamento Local" (LT), onde o agente aproxima que o humano foca em características semanticamente semelhantes, negligenciando exemplos contrafactuais necessários para eliminar outras regras. Isso é modelado ao aumentar a função de observação ( $\Omega$ ) com uma similaridade cosseno ponderada.
- Viés de Confirmação (CB): Modelado como uma tendência do humano esperar feedback do agente que esteja alinhado com suas crenças prévias sobre a regra, em vez de feedback que elimine logicamente alternativas.
Geração de Feedback Adaptativo: O agente utiliza suas crenças ToM-2 para detectar discrepâncias entre seu conhecimento real e a aproximação humana desse conhecimento. Com base nessa detecção, o agente gera dois tipos de feedback:
1. Declarações de Confiança (CS): Feedback padrão que transmite incerteza ou certeza sobre um atributo da regra (ex: "Acho que a Classe é Forma").
2. Declarações de Compreensão (US): Feedback projetado para "impulsionar" o humano para fora do raciocínio induzido por CB, revelando explicitamente o que o agente sabe sobre um atributo que o humano pretende ensinar, ao mesmo tempo que destaca possíveis discrepâncias (ex: "Parece que você quer que eu saiba que a Classe é Forma, mas ainda é possível que a Classe seja Preenchimento").
  O agente usa CS por padrão para ganho de informação, mas alterna para um tandem (US+CS) quando detecta crenças errôneas causadas por CBH.

Principais Contribuições

Framework Inovador: Uma arquitetura ToM-2 baseada em I-POMDPs que modela explicitamente a influência dos CBH nas crenças humanas sobre as crenças de um agente, em vez de apenas modelar as ações humanas.
Detecção e Adaptação: Um mecanismo para o agente detectar quando um humano está recorrendo a heurísticas específicas (RH e CB) e gerar feedback adaptativo (US) para corrigir o processo de raciocínio humano.
Validação Empírica: Um estudo com usuários presenciais demonstrando que esta abordagem melhora a informatividade das ações de ensino humanas e é percebida como mais útil pelos participantes.

Resultados
O estudo envolveu 30 participantes ensinando um agente virtual sob três condições: ToM-0 (sem ToM), ToM-0 Aleatório (fornecendo feedback extra aleatoriamente) e ToM-2 (feedback adaptativo baseado na detecção de CBH).

Métricas Objetivas:
- Ganho de Informação: O aprendiz ToM-2 elicou ações de ensino significativamente mais informativas (maior ganho relativo de informação) em comparação com ambas as linhas de base, tanto após feedback de uma declaração quanto de duas declarações.
- Eficiência: O aprendiz ToM-2 mostrou uma redução marginal, mas significativa, no número de ações do professor necessárias para encerrar com sucesso uma sessão, em comparação com a linha de base padrão ToM-0.
- Detecção: Simulações qualitativas mostraram que o aprendiz ToM-2 pôde identificar a regra correta e o modelo subjacente do professor (incluindo CBH), enquanto o aprendiz ToM-0 não pôde.
Métricas Subjetivas:
- Os participantes classificaram o feedback do aprendiz ToM-2 como significativamente mais útil do que o das linhas de base.
- No entanto, não houve diferença estatisticamente significativa na confiança auto-relatada dos participantes quanto à compreensão do agente, em sua confiança de ensino ou no prazer da experiência.
- Os participantes frequentemente relataram encontrar os aprendizes indistinguíveis ou igualmente fáceis de ensinar, sugerindo que os benefícios do modelo ToM-2 podem ser subconscientes.

Significado e Limitações
O artigo afirma que permitir que um agente modele as causas dos erros de crença humana (especificamente CBH) permite uma interação mais eficaz, gerando feedback direcionado que auxilia o raciocínio humano. Os resultados sugerem que, embora os humanos possam não estar conscientemente cientes da modelagem avançada do agente, a capacidade do agente de contabilizar os CBH leva a interações objetivamente mais eficientes e informativas.

Os autores reconhecem várias limitações:

O domínio de prova de conceito (classificação de cartas) é mais simples do que as interações reais entre humano e agente.
O estudo explorou apenas dois vieses específicos (RH e CB) entre os muitos que influenciam o comportamento humano.
A complexidade computacional dos I-POMDPs permanece uma barreira para escalar esta abordagem para tarefas e modelos humanos mais complexos, pois os autores utilizaram o framework estritamente para rastrear crenças, em vez de resolver por políticas ótimas no espaço aninhado completo.