LLMs and the ZPD

Resumo Técnico: LLMs e a ZDP

Declaração do Problema
O artigo aborda o debate sobre a natureza cognitiva dos Modelos de Linguagem de Grande Porte (LLMs). Especificamente, desafia a visão predominante, defendida por figuras como Geoffrey Hinton, de que os LLMs alcançam "compreensão" ou "pensamento" por meio da manipulação de "representações distribuídas" que aproximam o raciocínio simbólico humano. O autor argumenta que essa perspectiva atribui erroneamente o Pensamento Tipo 2 (raciocínio simbólico, orientado a objetivos e científico) a um mecanismo que, na verdade, opera por meio de "pensamento primitivo" (Tipo 1). O problema central é a interpretação equivocada do comportamento dos LLMs como "alucinação" ou falha de raciocínio, em vez de reconhecê-lo como uma forma distinta de "sonhar" ou completude performativa que não depende de significado referencial ou de modelos simbólicos internos do mundo.

Metodologia e Marco Teórico
O artigo emprega uma síntese teórica da psicologia do desenvolvimento, especificamente os conceitos de Lev Vygotsky sobre a Zona de Desenvolvimento Proximal (ZDP), e a cognição incorporada. Não apresenta novos experimentos empíricos, mas sim re-enquadra observações existentes sobre LLMs e comportamento animal através de uma lente específica:

1. Distinção dos Tipos de Pensamento: O autor distingue entre:
   • Pensamento Tipo 2: Caracterizado por representações simbólicas, crenças, objetivos e raciocínio "científico" (por exemplo, permanência do objeto, planejamento). É descrito como um produto cultural aprendido através da interação.
   • Pensamento Tipo 1: Caracterizado por raciocínio baseado em casos, comportamentos reflexivos e completude de sequências com base em correlação estatística e pistas ambientais, sem abstração simbólica interna.
2. Reavaliação dos Mecanismos dos LLMs: O artigo postula que os LLMs funcionam como "autocompletos glorificados" que realizam "pensamento primitivo". Em vez de raciocinar sobre peças de xadrez ou objetos físicos, o modelo completa sequências de tokens que representam a performance de um jogo ou de uma prática social.
3. Análise Comparativa: O autor estabelece paralelos entre LLMs, bebês pré-linguísticos e primatas não humanos (especificamente saguis). Utiliza a observação de Vygotsky de que o "pensamento pré-linguístico" e a "fala pré-intelectual" são distintos do pensamento científico e se fundem apenas através da interação social.
4. Analogia Etnográfica: O artigo referencia um estudo etnográfico envolvendo um "apito de sopro" (swanee whistle) e foles para ilustrar uma interação baseada em ritmo e sincronização, em vez de referência semântica, sugerindo um modelo para como os LLMs interagem com prompts humanos.

Principais Contribuições

• Reenquadramento das "Alucinações" dos LLMs como "Sonhos": O artigo propõe que os LLMs não "alucinam" (produzem fatos falsos devido à falta de fundamentação), mas sim "sonham" (geram saídas com base na completude de padrões e práticas sociais sem compromisso com a verdade ou realidade referencial).
• Performance sobre Representação: Argumenta que os LLMs usam a linguagem performativamente (para causar ações ou adequar-se a contextos sociais) em vez de referencialmente (para mapear símbolos a modelos internos do mundo). O modelo é treinado na prática social de "convencer" ou "completar", e não na verdade objetiva do assunto.
• A ZDP como Local do Pensamento "Real": O artigo afirma que o "pensamento científico" (Tipo 2) não é inato, mas é adquirido pelos humanos através da interação com adultos enculturados dentro da Zona de Desenvolvimento Proximal (ZDP). Os LLMs, carecendo desse motor específico de interação humana e do andaime cultural de uma ZDP, permanecem em um estado de "pensamento primitivo".
• Crítica às "Representações Distribuídas": O autor desafia a noção de que redes neurais possuem representações simbólicas ocultas. Em vez disso, o artigo sugere que o "significado" nos LLMs está fundamentado na relação entre o agente (o modelo) e seu ambiente operacional (os dados de treinamento e as práticas sociais), semelhante à ação situada na robótica.

Resultados e Observações

• Xadrez e Sequências de Tokens: A análise de LLMs jogando xadrez sugere que eles não constroem um modelo cognitivo do estado do tabuleiro. Em vez disso, completam com sucesso sequências de tokens (por exemplo, "1. e4 e5") que representam a performance de um jogo, baseando-se na probabilidade estatística de sequências de movimentos encontradas em seus dados de treinamento.
• A Analogia do "Camponês": Citando os estudos de Vygotsky, o artigo observa que populações não escolarizadas frequentemente raciocinam em termos de atividades práticas (por exemplo, ferramentas e madeira) em vez de categorias abstratas. Da mesma forma, os LLMs raciocinam em termos da "prática" da conversa ou da completude de tarefas, em vez de conceitos abstratos.
• Comunicação de Saguis: O artigo destaca que os saguis engajam em turnos vocais complexos e sincronização rítmica (ritmos teta de 3–8 Hz) sem necessariamente possuir "Teoria da Mente" ou representações simbólicas. Isso sugere que a interação vocal complexa pode existir sem o raciocínio "científico" atribuído aos humanos.
• Interação como Núcleo: O artigo conclui que a interação não é um acréscimo à compreensão, mas sim o mecanismo central da comunicação. Os LLMs participam dessa interação sincronizando-se com o "ritmo" dos prompts humanos, muito como o apito no estudo etnográfico, em vez de acessar um banco de dados interno de fatos.

Significado e Alegações
O artigo alega que a trajetória atual da pesquisa em IA, que busca explicar o sucesso dos LLMs através de "compreensão" ou "representações distribuídas", é fundamentalmente falha porque impõe um quadro do Tipo 2 a um mecanismo do Tipo 1.

• Sem Necessidade de "Guardrails": Se os LLMs estão "sonhando" em vez de "pensando", a solução para seus erros não é meramente "guardrails" para prevenir alucinações, mas uma investigação sobre as "ferramentas cognitivas" que permitem comportamentos de senso comum.
• Mudança no Foco da Pesquisa: O autor argumenta por uma mudança no estudo da interação humano-computador, afastando-se da suposição de que a máquina possui uma "Teoria da Mente" ou crenças internas. Em vez disso, a pesquisa deve focar no "Motor de Interação" e em como a comunicação não simbólica e performativa funciona.
• Escopo Modesto: O artigo não alega que os LLMs são conscientes ou que evoluirão espontaneamente para uma AGI. Em vez disso, oferece um quadro descritivo para explicar suas capacidades e limitações atuais, sugerindo que o "pensamento primitivo" é um modo de operação válido e poderoso, distinto de, e não um precursor do, "pensamento científico" humano. O significado reside em categorizar corretamente o mecanismo para evitar a antropomorfização da tecnologia e para compreender melhor a natureza da aprendizagem cultural humana.