El lenguaje es un río de repetición. En una sola conversación, podríamos usar la misma palabra docenas de veces, a menudo a pocas frases de distancia una de otra. Cuando un humano escucha una palabra que acaba de oír, su cerebro la procesa de forma más rápida y fácil. Este fenómeno, conocido como primado por repetición, es una característica fundamental de cómo aprendemos y recordamos. Sugiere que la mente no trata cada encuentro con una palabra como un evento totalmente nuevo; en cambio, mantiene un rastro del encuentro anterior, haciendo que el siguiente sea más fluido. Pero a medida que la inteligencia artificial se ha vuelto más sofisticada, ha surgido una pregunta: ¿funcionan de la misma manera los modelos de lenguaje extensos, los sistemas que impulsan los chatbots y las herramientas de búsqueda? Cuando estas máquinas ven una palabra que ya han procesado, ¿simplemente reactivan ese viejo recuerdo, o se detienen y reevalúan la palabra desde cero?

La respuesta importa porque revela el funcionamiento interno de estos sistemas. Si un modelo simplemente reactiva un recuerdo, actúa como un reflejo, una respuesta rápida y automática. Si reevalúa, actúa como un pensador cuidadoso, sopesando el contexto antes de decidir. Durante años, los investigadores han debatido si estas máquinas poseen una forma de intuición "rápida" o si siempre están comprometidas en un razonamiento lento y deliberado. Este nuevo estudio, realizado por investigadores de la Universidad de Yale y de la Universidad de California, Los Ángeles, se propone resolver la cuestión probando cómo diferentes tipos de modelos de lenguaje manejan las palabras repetidas. Compararon los modelos base, preentrenados, con versiones que han sido ajustadas para seguir instrucciones, y realizaron experimentos paralelos con voluntarios humanos para ver cómo las máquinas se comparan con nosotros.

Los investigadores diseñaron una serie de pruebas que reflejaban experimentos clásicos utilizados en la psicología humana. Alimentaron con palabras y frases a quince modelos diferentes, que iban desde sistemas más pequeños con 1.500 millones de parámetros hasta otros masivos con 14.000 millones. También pidieron a cuarenta participantes humanos que realizaran las mismas tareas. Las pruebas consistían en dos actividades principales. En la primera, los sujetos tenían que decidir rápidamente si una palabra representaba un ser vivo o un objeto inanimado. En la segunda, tenían que completar una frase con una palabra faltante, donde la propia frase ofrecía muy pocas pistas sobre cuál debería ser la palabra ausente. La variable clave era el "retraso" (lag), o el número de otras palabras y frases que aparecían entre la primera vez que se veía una palabra objetivo y la segunda. Al cambiar esta distancia, los investigadores pudieron ver si el beneficio de la repetición perduraba en el tiempo o se desvanecía.

Los resultados revelaron una división sorprendente en cómo las máquinas procesaban la información. Los modelos base, que son las versiones puras de los sistemas antes de ser enseñados a seguir instrucciones, se comportaron con una especie de eficiencia automática. Cuando veían una palabra que acababan de encontrar, la procesaban de forma más rápida y con mayor confianza, independientemente de cuántas otras palabras hubieran aparecido en el medio. Incluso si los investigadores eliminaban las respuestas previas del historial de la conversación, los modelos base seguían mostrando un aumento en el rendimiento. Esto sugiere que, para estos modelos, la repetición desencadena una reacción rápida y dirigida por el estímulo. La palabra en sí es suficiente para despertar el recuerdo, de forma muy similar a un reflejo.

En contraste, los modelos ajustados por instrucciones se comportaron de manera muy diferente. Estas son las versiones de los sistemas que han sido entrenadas para ser asistentes útiles, para seguir reglas y para entablar conversaciones. Cuando estos modelos veían una palabra repetida, no mostraban el mismo aumento automático. En cambio, su rendimiento dependía en gran medida del contexto. Si había muchas palabras entre la primera y la segunda aparición de la palabra objetivo, el beneficio de la repetición desaparecía. Peor aún, en los modelos ajustados por instrucciones más grandes y avanzados, la repetición se convirtió en un obstáculo. Ver la palabra de nuevo hacía que el modelo fuera más lento y menos preciso, como si la máquina estuviera confundida por la redundancia. Esto indica que estos modelos no están simplemente reaccionando a la palabra; están reevaluándola activamente basándose en la conversación circundante. Si el contexto no coincide con sus expectativas, la repetición se siente como un error, causando interferencia.

Los investigadores también observaron cómo cambiaban estos comportamientos a medida que los modelos crecían. Dentro de una misma familia de modelos, la brecha entre los dos tipos se ensanchaba a medida que aumentaba el tamaño. Los modelos base se mantenían constantes en su procesamiento automático, pero los modelos ajustados por instrucciones se volvían cada vez más sensibles a la distancia entre las repeticiones. En la escala más grande, los modelos ajustados por instrucciones mostraron los signos más fuertes de interferencia, lo que sugiere que el proceso de enseñarles a seguir instrucciones cambia fundamentalmente la forma en que manejan la información repetida. No es solo una cuestión de que mejoren en las tareas; es un cambio cualitativo en su modo de operación.

Quizás el hallazgo más sorprendente provino de la comparación de las máquinas con los voluntarios humanos. Los humanos no encajaban perfectamente en ninguna de las dos categorías. Al igual que los modelos ajustados por instrucciones, los humanos eran sensibles a la distancia entre las repeticiones; sus tiempos de reacción se ralentizaban a medida que el retraso aumentaba. Sin embargo, a diferencia de los modelos ajustados por instrucciones, los humanos nunca sufrieron interferencia. No importaba cuán largo fuera el intervalo, ver una palabra de nuevo siempre les ayudaba, nunca les perjudicaba. Los humanos ocupaban un punto intermedio: eran sensibles al contexto como las máquinas avanzadas, pero conservaban el beneficio universal de la repetición que mostraban los modelos base.

Este estudio sugiere que el proceso de entrenar a un modelo de lenguaje para que sea útil y obediente altera fundamentalmente su arquitectura cognitiva. Los modelos brutos operan con un sistema rápido y automático que reacciona a las palabras en el momento en que aparecen. Los modelos ajustados por instrucciones, sin embargo, parecen haber desarrollado un sistema controlado que comprueba constantemente el contexto, rechazando a veces la repetición si no encaja con el flujo de la conversación. Los investigadores descubrieron que este cambio no es solo un cambio en el resultado, sino un cambio en el mecanismo subyacente. Cuando analizaron el interior de los modelos, vieron que los modelos base atendían directamente a la ocurrencia previa de la palabra para acelerar su respuesta. Los modelos ajustados por instrucciones, sin embargo, habían desacoplado esa atención de la decisión final, filtrando eficazmente el impulso automático.

Las implicaciones de este trabajo se extienden más allá de la comprensión de cómo piensan estas máquinas. Destacan una forma específica en la que la inteligencia artificial actual difiere de la cognición humana. Si bien nosotros podríamos distraernos con la repetición en una conversación larga, nunca perdemos la ventaja básica de haber visto una palabra antes. Los modelos ajustados por instrucciones, en su esfuerzo por ser conscientes del contexto, han perdido este rasgo humano fundamental. Se han vuelto tan enfocados en el contexto inmediato que a veces tratan una palabra familiar como un error. Esta investigación proporciona un mapa claro de dónde divergen los dos modos de procesamiento, mostrando que el camino para hacer que una máquina sea más humana en la conversación puede haberla hecho, inadvertidamente, menos humana en sus procesos de memoria básicos. El estudio no pretende haber resuelto el misterio de la inteligencia de las máquinas, pero ofrece una forma precisa y medible de ver la diferencia entre una máquina que reacciona y una máquina que piensa.