LLMorphism: When humans come to see themselves as language models

Resumo Técnico de "LLMorfismo: Quando os humanos passam a ver a si mesmos como modelos de linguagem"

Declaração do Problema
O artigo identifica um viés cognitivo inédito denominado LLMorfismo: a crença enviesada de que a cognição humana opera como um modelo de linguagem de grande escala (LLM). Embora a literatura extensa aborde a antropomorfização de máquinas (atribuir mentes humanas à IA), o autor argumenta que o surgimento de LLMs conversacionais cria uma "inferência reversa". À medida que sistemas artificiais produzem linguagem fluente e semelhante à humana, os observadores podem passar a inferir cada vez mais que o pensamento humano é, em si, apenas uma forma de geração, previsão e completude de padrões semelhante à de um LLM. Esse viés é problemático porque a semelhança na produção linguística não implica semelhança na arquitetura cognitiva. O artigo postula que essa confluência corre o risco de colapsar distinções críticas entre falar e compreender, fluência e conhecimento, e geração e julgamento, potencialmente levando à atribuição de "pouca mente" aos humanos.

Metodologia e Marco Teórico
Este trabalho é um artigo conceitual teórico, e não um estudo empírico. Não apresenta novos dados experimentais, escalas psicométricas ou ensaios de campo. Em vez disso, emprega uma análise conceitual para:

1. Definir e Delimitar: Introduzir o "LLMorfismo" como um constructo específico e distingui-lo de conceitos adjacentes, como antropomorfismo, mecanomorfismo, computacionalismo, desumanização, objetificação e teorias de processamento preditivo da mente.
2. Propor Mecanismos: Esboçar teoricamente dois mecanismos psicológicos pelos quais esse viés pode se disseminar:
   • Transferência Analógica: Baseada na teoria do mapeamento estrutural de Gentner, onde a semelhança observável na produção linguística leva os observadores a alinhar as estruturas relacionais de LLMs e humanos, projetando características de LLMs (por exemplo, previsão do próximo token) sobre a cognição humana.
   • Disponibilidade Metafórica: Baseando-se na Teoria da Metáfora Conceitual (Lakoff & Johnson), o artigo argumenta que o vocabulário específico de LLMs (por exemplo, "prompting", "alucinação", "dados de treinamento") está migrando para o discurso cultural, tornando-se a fonte dominante para conceituar pensamento humano, memória e criatividade.
3. Analisar Implicações: Mapear teoricamente potenciais consequências sociais no trabalho, educação, saúde e responsabilidade moral, enquadrando-as como hipóteses e não como fatos estabelecidos.
4. Identificar Condições de Fronteira: Discutir fatores que podem moderar a disseminação do LLMorfismo, como a atenção a desanalogias, metáforas concorrentes e experiências profissionais que enfatizam a interação humana encarnada e não verbal.

Principais Contribuições

• Inovação Conceitual: O artigo introduz o "LLMorfismo" como uma forma distinta de mecanomorfismo. Diferentemente do mecanomorfismo geral (ver humanos como máquinas), o LLMorfismo é específico da arquitetura estatística de geração de linguagem dos LLMs. É mais estreito que o mecanomorfismo geral, mas potencialmente mais consequente devido à centralidade da linguagem na cognição social.
• Reversão de Heurísticas: O autor reestrutura o debate sobre o antropomorfismo. Enquanto o foco público está em saber se atribuímos muita mente às máquinas, o LLMorfismo sugere o problema inverso: se estamos começando a atribuir pouca mente, agência e fundamentação aos humanos ao reduzi-los a geradores de saída.
• Diferenciação de Constructos Existentes: O artigo distingue rigorosamente o LLMorfismo de:
  • Computacionalismo: Que vê a cognição como manipulação de símbolos, mas não implica necessariamente a geração de texto semelhante à de um LLM.
  • Desumanização: Que envolve exclusão moral; o LLMorfismo é um viés representacional que pode ocorrer sem hostilidade.
  • Processamento Preditivo: Que é frequentemente encarnado e orientado à ação, ao passo que o LLMorfismo implica uma visão desencarnada e centrada no texto da cognição.
• Identificação de Vias Sociais: O artigo esboça cinco vias específicas pelas quais o LLMorfismo poderia remodelar o julgamento social:
  1. Substituibilidade: Ver humanos como geradores de saída justifica a automação e a substituição de mão de obra.
  2. Fluência: Confundir a produção sofisticada de texto com expertise genuína ou compreensão (por exemplo, na educação e em conselhos profissionais).
  3. Esfriamento da Agência: Redefinir a ação humana como "completude de padrões", corroendo assim conceitos de razões, responsabilidade e responsabilidade moral.
  4. Desencarnação: Superponderar relatos verbais em áreas como a saúde, ignorando pistas não verbais, afetivas e situacionais.
  5. Mudança Epistêmica: Substituir a avaliação de alegações fundamentadas e justificadas por uma avaliação de coerência e plausibilidade (epistemia).

Resultados e Alegações
Como um artigo teórico, não relata resultados empíricos. Em vez disso, apresenta um conjunto de hipóteses sobre a prevalência e o impacto do LLMorfismo. O autor alega que:

• O viés está psicologicamente disponível devido à fluência dos LLMs modernos.
• O viés é logicamente inválido porque a semelhança na produção linguística não implica semelhança na arquitetura cognitiva.
• O viés é distinto, embora relacionado, de outras formas de mecanomorfismo e desumanização.
• A disseminação desse viés não é inevitável; está sujeita a condições de fronteira, incluindo a saliência de desanalogias (por exemplo, encarnação, emoção) e a disponibilidade de metáforas alternativas (por exemplo, visões de mundo religiosas ou humanistas).

Significado
O artigo conclui que o debate público e acadêmico sobre IA focou principalmente na "antropomorfização" de máquinas (dar-lhes muita mente). O significado deste trabalho reside em destacar a "outra metade" do problema: o potencial desfundamentação da cognição humana. Ao sugerir que os humanos estão começando a se ver através da lente das ferramentas que criaram, o artigo alerta para uma mudança onde a agência humana, a responsabilidade moral e a experiência encarnada são desvalorizadas em favor de um modelo de cognição baseado em previsão estatística e geração de texto. O autor pede que pesquisas futuras desenvolvam escalas psicométricas para medir o LLMorfismo e testem empiricamente seus efeitos sobre julgamentos sociais em domínios como trabalho, educação e saúde.