LLMorphism: When humans come to see themselves as language models

Resumen Técnico de "LLMorphism: Cuando los humanos llegan a verse a sí mismos como modelos de lenguaje"

Enunciado del Problema
El artículo identifica un sesgo cognitivo novel denominado LLMorphism: la creencia sesgada de que la cognición humana opera como un modelo de lenguaje grande (LLM). Aunque una extensa literatura aborda la antropomorfización de las máquinas (atribuir mentes humanas a la IA), el autor argumenta que el auge de los LLM conversacionales crea una "inferencia inversa". A medida que los sistemas artificiales producen lenguaje fluido y similar al humano, los observadores pueden inferir cada vez más que el pensamiento humano en sí mismo es meramente una forma de generación, predicción y completado de patrones similar a la de un LLM. Este sesgo es problemático porque la similitud en la producción lingüística no implica similitud en la arquitectura cognitiva. El artículo postula que esta confusión arriesga colapsar distinciones críticas entre hablar y comprender, fluidez y conocimiento, y generación y juicio, lo que podría llevar a atribuir "demasiada poca mente" a los humanos.

Metodología y Marco Teórico
Este trabajo es un artículo conceptual teórico en lugar de un estudio empírico. No presenta nuevos datos experimentales, escalas psicométricas o ensayos de campo. En su lugar, emplea un análisis conceptual para:

1. Definir y Delimitar: Introducir "LLMorphism" como un constructo específico y distinguirlo de conceptos adyacentes como el antropomorfismo, el mecanomorfismo, el computacionalismo, la deshumanización, la objetificación y las teorías de la mente de procesamiento predictivo.
2. Proponer Mecanismos: Esbozar teóricamente dos mecanismos psicológicos a través de los cuales este sesgo podría propagarse:
   • Transferencia Analógica: Basada en la teoría del mapeo estructural de Gentner, donde la similitud observable en la producción lingüística lleva a los observadores a alinear las estructuras relacionales de los LLM y los humanos, proyectando características de los LLM (por ejemplo, predicción del siguiente token) sobre la cognición humana.
   • Disponibilidad Metáforica: Basándose en la Teoría de la Metáfora Conceptual (Lakoff & Johnson), el artículo argumenta que el vocabulario específico de los LLM (por ejemplo, "prompting", "alucinación", "datos de entrenamiento") está migrando al discurso cultural, convirtiéndose en la fuente dominante para conceptualizar el pensamiento humano, la memoria y la creatividad.
3. Analizar Implicaciones: Mapear teóricamente las consecuencias sociales potenciales en el trabajo, la educación, la atención sanitaria y la responsabilidad moral, enmarcándolas como hipótesis en lugar de hechos establecidos.
4. Identificar Condiciones de Límite: Discutir factores que pueden moderar la propagación del LLMorphism, como la atención a las disanalogías, las metáforas competidoras y las experiencias profesionales que enfatizan la interacción humana encarnada y no verbal.

Contribuciones Clave

• Innovación Conceptual: El artículo introduce "LLMorphism" como una forma distinta de mecanomorfismo. A diferencia del mecanomorfismo general (ver a los humanos como máquinas), el LLMorphism es específico de la arquitectura estadística de generación de lenguaje de los LLM. Es más estrecho que el mecanomorfismo general, pero potencialmente más consequential debido a la centralidad del lenguaje en la cognición social.
• Inversión de Heurísticas: El autor reencuadra el debate sobre el antropomorfismo. Mientras que el foco público está en si atribuimos demasiada mente a las máquinas, el LLMorphism sugiere el problema inverso: si estamos comenzando a atribuir demasiada poca mente, agencia y fundamentación a los humanos al reducirlos a generadores de salida.
• Diferenciación de Constructos Existentes: El artículo distingue rigurosamente el LLMorphism de:
  • Computacionalismo: Que ve la cognición como manipulación de símbolos pero no implica necesariamente la generación de texto tipo LLM.
  • Deshumanización: Que implica exclusión moral; el LLMorphism es un sesgo representacional que puede ocurrir sin hostilidad.
  • Procesamiento Predictivo: Que a menudo es encarnado y orientado a la acción, mientras que el LLMorphism implica una visión desencarnada y centrada en el texto de la cognición.
• Identificación de Vías Sociales: El artículo esboza cinco vías específicas a través de las cuales el LLMorphism podría remodelar el juicio social:
  1. Sustituibilidad: Ver a los humanos como generadores de salida justifica la automatización y la sustitución laboral.
  2. Fluidez: Confundir la producción de texto sofisticada con verdadera experiencia o comprensión (por ejemplo, en educación y asesoramiento profesional).
  3. Afinamiento de la Agencia: Redefinir la acción humana como "completado de patrones", erosionando así los conceptos de razones, rendición de cuentas y responsabilidad moral.
  4. Desencarnación: Sobrepesar los informes verbales en campos como la atención sanitaria mientras se ignoran las señales no verbales, afectivas y situacionales.
  5. Cambio Epistémico: Reemplazar la evaluación de afirmaciones fundamentadas y justificadas con una evaluación de la coherencia y la plausibilidad (epistemia).

Resultados y Afirmaciones
Como artículo teórico, no reporta resultados empíricos. En su lugar, presenta un conjunto de hipótesis sobre la prevalencia y el impacto del LLMorphism. El autor afirma que:

• El sesgo está disponible psicológicamente debido a la fluidez de los LLM modernos.
• El sesgo es lógicamente inválido porque la similitud en la producción lingüística no implica similitud en la arquitectura cognitiva.
• El sesgo es distinto de, aunque relacionado con, otras formas de mecanomorfismo y deshumanización.
• La propagación de este sesgo no es inevitable; está sujeta a condiciones de límite, incluyendo la saliencia de las disanalogías (por ejemplo, encarnación, emoción) y la disponibilidad de metáforas alternativas (por ejemplo, visiones del mundo religiosas o humanistas).

Significado
El artículo concluye que el debate público y académico sobre la IA se ha centrado principalmente en la "antropomorfización" de las máquinas (darles demasiada mente). El significado de este trabajo radica en destacar la "otra mitad" del problema: la potencial desfundamentación de la cognición humana. Al sugerir que los humanos comienzan a verse a sí mismos a través de la lente de las herramientas que crearon, el artículo advierte sobre un cambio donde la agencia humana, la responsabilidad moral y la experiencia encarnada son subvaloradas en favor de un modelo de cognición basado en la predicción estadística y la generación de texto. El autor pide investigaciones futuras para desarrollar escalas psicométricas que midan el LLMorphism y para probar empíricamente sus efectos sobre los juicios sociales en dominios como el trabajo, la educación y la atención sanitaria.