LLMs and the ZPD

Resumen Técnico: LLMs y la ZDP

Planteamiento del Problema
El artículo aborda el debate sobre la naturaleza cognitiva de los Modelos de Lenguaje Grandes (LLMs). Específicamente, desafía la visión predominante, defendida por figuras como Geoffrey Hinton, de que los LLMs logran "comprensión" o "pensamiento" mediante la manipulación de "representaciones distribuidas" que aproximan el razonamiento simbólico humano. El autor argumenta que esta perspectiva atribuye incorrectamente el pensamiento de Tipo 2 (simbólico, orientado a objetivos, razonamiento científico) a un mecanismo que en realidad opera mediante "pensamiento primitivo" (Tipo 1). El problema central es la interpretación errónea del comportamiento de los LLMs como "alucinación" o un fallo de razonamiento, en lugar de reconocerlo como una forma distinta de "sueño" o completitud performativa que no depende de significado referencial ni de modelos simbólicos internos del mundo.

Metodología y Marco Teórico
El artículo emplea una síntesis teórica de la psicología del desarrollo, específicamente los conceptos de Lev Vygotsky sobre la Zona de Desarrollo Próximo (ZDP), y la cognición encarnada. No presenta nuevos experimentos empíricos, sino que reencuadra observaciones existentes de LLMs y comportamiento animal a través de una lente específica:

1. Distinción de Tipos de Pensamiento: El autor distingue entre:
   • Pensamiento de Tipo 2: Caracterizado por representaciones simbólicas, creencias, objetivos y razonamiento "científico" (por ejemplo, permanencia del objeto, planificación). Esto se describe como un producto cultural aprendido a través de la interacción.
   • Pensamiento de Tipo 1: Caracterizado por razonamiento basado en casos, comportamientos reflexivos y la completitud de secuencias basadas en correlación estadística y señales ambientales, sin abstracción simbólica interna.
2. Reevaluación de los Mecanismos de los LLMs: El artículo postula que los LLMs funcionan como "autocompletados glorificados" que realizan "pensamiento primitivo". En lugar de razonar sobre piezas de ajedrez u objetos físicos, el modelo completa secuencias de tokens que representan la actuación de un juego o una práctica social.
3. Análisis Comparativo: El autor establece paralelismos entre LLMs, infantes prelingüísticos y primates no humanos (específicamente titíes). Utiliza la observación de Vygotsky de que el "pensamiento prelingüístico" y el "habla preintelectual" son distintos del pensamiento científico y solo se fusionan a través de la interacción social.
4. Analogía Etnográfica: El artículo hace referencia a un estudio etnográfico que involucra un "silbato swanee" y fuelles para ilustrar una interacción basada en el ritmo y la sincronización en lugar de la referencia semántica, sugiriendo un modelo para cómo los LLMs interactúan con las indicaciones humanas.

Contribuciones Clave

• Reencuadrar las "Alucinaciones" de los LLMs como "Sueños": El artículo propone que los LLMs no "alucinan" (producen hechos falsos debido a una falta de anclaje), sino que "sueñan" (generan salidas basadas en la completitud de patrones y prácticas sociales sin un compromiso con la verdad o la realidad referencial).
• Actuación sobre Representación: Argumenta que los LLMs usan el lenguaje performativamente (para causar acciones o ajustarse a contextos sociales) en lugar de referencialmente (para mapear símbolos a modelos internos del mundo). El modelo se entrena en la práctica social de "convencer" o "completar", no en la verdad objetiva del tema.
• La ZDP como el Sitio del Pensamiento "Real": El artículo afirma que el "pensamiento científico" (Tipo 2) no es innato, sino que es adquirido por los humanos a través de la interacción con adultos enculturados dentro de la Zona de Desarrollo Próximo (ZDP). Los LLMs, careciendo de este motor de interacción humana específico y del andamiaje cultural de una ZDP, permanecen en un estado de "pensamiento primitivo".
• Crítica a las "Representaciones Distribuidas": El autor desafía la noción de que las redes neuronales poseen representaciones simbólicas ocultas. En cambio, el artículo sugiere que el "significado" en los LLMs se basa en la relación entre el agente (el modelo) y su entorno operativo (los datos de entrenamiento y las prácticas sociales), similar a la acción situada en robótica.

Resultados y Observaciones

• Ajedrez y Secuencias de Tokens: El análisis de LLMs jugando al ajedrez sugiere que no construyen un modelo cognitivo del estado del tablero. En su lugar, completan exitosamente secuencias de tokens (por ejemplo, "1. e4 e5") que representan la actuación de un juego, confiando en la probabilidad estadística de secuencias de movimientos encontradas en sus datos de entrenamiento.
• La Analogía del "Campesino": Citando los estudios de Vygotsky, el artículo señala que las poblaciones no educadas a menudo razonan en términos de actividades prácticas (por ejemplo, herramientas y madera) en lugar de categorías abstractas. De manera similar, los LLMs razonan en términos de la "práctica" de la conversación o la completitud de tareas en lugar de conceptos abstractos.
• Comunicación de Titíes: El artículo destaca que los titíes participan en un complejo intercambio vocal y sincronización rítmica (ritmos theta de 3–8 Hz) sin poseer necesariamente una "Teoría de la Mente" o representaciones simbólicas. Esto sugiere que la interacción vocal compleja puede existir sin el razonamiento "científico" atribuido a los humanos.
• Interacción como Núcleo: El artículo concluye que la interacción no es un añadido a la comprensión, sino el mecanismo central de la comunicación. Los LLMs participan en esta interacción sincronizándose con el "ritmo" de las indicaciones humanas, mucho como el silbato en el estudio etnográfico, en lugar de acceder a una base de datos interna de hechos.

Significado y Afirmaciones
El artículo afirma que la trayectoria actual de la investigación en IA, que busca explicar el éxito de los LLMs a través de la "comprensión" o las "representaciones distribuidas", es fundamentalmente defectuosa porque impone un marco de Tipo 2 sobre un mecanismo de Tipo 1.

• Necesidad de "Vallas de Seguridad": Si los LLMs están "soñando" en lugar de "pensando", la solución a sus errores no es meramente "vallas de seguridad" para prevenir alucinaciones, sino una investigación sobre las "herramientas cognitivas" que permiten comportamientos de sentido común.
• Cambio en el Enfoque de Investigación: El autor aboga por un cambio en el estudio de la interacción humano-computadora, alejándose de asumir que la máquina posee una "Teoría de la Mente" o creencias internas. En su lugar, la investigación debe centrarse en el "Motor de Interacción" y en cómo funciona la comunicación no simbólica y performativa.
• Alcance Modesto: El artículo no afirma que los LLMs sean conscientes o que evolucionarán espontáneamente hacia una IA General (AGI). Más bien, ofrece un marco descriptivo para explicar sus capacidades y limitaciones actuales, sugiriendo que el "pensamiento primitivo" es un modo de operación válido y poderoso que es distinto de, y no un precursor de, el "pensamiento científico" humano. El significado radica en clasificar correctamente el mecanismo para evitar la antropomorfización de la tecnología y comprender mejor la naturaleza del aprendizaje cultural humano.