Transformers perform adaptive partial pooling

Imagina que estás intentando adivinar qué dirá un amigo a continuación en una conversación. Si has escuchado esa frase exacta mil veces, sabes exactamente qué viene después. Pero, ¿qué pasa si dice algo totalmente nuevo? No puedes simplemente adivinar al azar; tienes que fijarte en lo que ha dicho antes en situaciones similares. Este es el núcleo del rompecabezas del aprendizaje del lenguaje, ya sea para un niño humano o para un programa informático.

Para resolver esto, los científicos utilizan un truco ingenioso llamado "agrupación parcial adaptativa" (adaptive partial pooling). Piensa en ello como en un detective inteligente. Cuando el detective ve la escena de un crimen poco común, no se queda simplemente mirando la única pista frente a él (que podría ser engañosa debido a que hay muy poca de ella). En su lugar, observa otras escenas de crímenes similares para tener una mejor idea de lo que suele ocurrir allí. Combina la pista específica con el patrón general, pero le da más peso a la pista específica si ocurre con frecuencia, y más peso al patrón general si la pista específica es un caso aislado. Esto le ayuda a hacer la mejor conjetura posible sin confundirse por accidentes raros y extraños.

Ahora, imagina un cerebro informático superinteligente llamado "Transformer" (el tipo de tecnología que impulera a los chatbots modernos). Durante mucho tiempo, la gente se preguntó: ¿Este cerebro informático utiliza realmente este truco de detective inteligente, o simplemente memoriza todo lo que ha leído? Si solo memoriza, podría fallar cuando vea algo nuevo. Pero si utiliza la "agrupación parcial adaptativa", puede aprender y adaptarse tal como lo hace un humano. Este artículo pregunta: ¿Realmente hace el cerebro informático este trabajo de detective, y mejora o empeora al estudiar más?

El trabajo de detective de un cerebro informático

En este estudio, el autor, Vsevolod Kapatsinski, configuró un pequeño juego de lenguaje artificial para probar un modelo informático llamado GPT-2. Inventó un lenguaje donde las oraciones siempre terminaban con "A" o "B", pero la elección dependía de las palabras que iban justo antes. Algunas combinaciones de palabras eran muy comunes, mientras que otras eran súper raras —tal como sucede en la vida real, donde algunas frases se usan a diario y otras solo una vez cada tanto.

El ordenador fue entrenado en este juego, y el investigador observó cómo aprendía. Aquí está el gran descubrimiento: Sí, el ordenador utiliza la agrupación parcial adaptativa. Cuando el ordenador veía una oración rara, no solo adivinaba basándose en ese único ejemplo raro. En su lugar, "agrupaba" su conocimiento, observando oraciones similares para hacer una mejor conjetura. Actuó exactamente como el detective inteligente descrito arriba.

Sin embargo, hay un giro inesperado. Las habilidades de detective del ordenador cambian a medida que sigue entrenando.

• Al principio: Cuando el ordenador apenas está empezando a aprender, depende fuertemente de los patrones generales. Es como un estudiante nuevo que aún no ha aprendido las reglas específicas, por lo que simplemente adivina basándose en lo que sucede habitualmente. Agrupa mucha información.
• En el medio: A medida que el ordenador entrena un poco más, alcanza un "punto ideal". Este es el momento en el que es mejor equilibrando las pistas específicas raras con los patrones generales. En esta etapa, imita el comportamiento perfecto de un detective humano descrito en la matemática de la regresión jerárquica.
• Más adelante: Si el ordenador sigue entrenando durante demasiado tiempo (pasando este punto ideal), comienza a cambiar de nuevo. Empieza a confiar demasiado en las pistas específicas y raras. Deja de mirar los patrones generales y empieza a pensar que conoce la respuesta a cada caso raro perfectamente. El autor sugiere que, con suficiente entrenamiento, el ordenador podría volverse demasiado confiado en situaciones raras, perdiendo la útil "agrupación parcial" que lo hace sonar humano.

El estudio también encontró que el ordenador se comporta como un humano en otros aspectos. Si un grupo de oraciones es muy diverso (unas dicen A, otras dicen B), el ordenador deja de agruparlas y las trata por separado. Pero si un grupo de oraciones es muy similar, el ordenador las mezcla felizmente. También notó que si hay muchos tipos diferentes de oraciones similares (alta frecuencia de tipos), el ordenador está más dispuesto a agruparlas, tal como los humanos somos más propensos a generalizar una regla si la hemos visto usada de muchas maneras distintas.

Por qué esto es importante

El artículo no solo dice "el ordenador aprende". Muestra cómo aprende. Demuestra que estos enormes cerebros informáticos no son solo gigantescos bancos de memoria que memorizan cada palabra. Realmente construyen representaciones internas que se vuelven cada vez más detalladas con el tiempo. Comienzan viendo categorías amplias (como "todos los animales") y lentamente aprenden a distinguir grupos más pequeños (como "peces vs. aves"), tal como hacen los niños humanos.

El hallazgo más emocionante es el "punto ideal". El autor sugiere que existe un punto específico en el entrenamiento donde el ordenador es más parecido a un aprendiz humano, utilizando la cantidad justa de generalización para manejar palabras raras sin sobreanalizarlas. Si entrenamos demasiado al ordenador, podría perder esta flexibilidad humana y volverse demasiado rígido en sus predicciones para casos raros.

Así que, la próxima vez que hables con un chatbot, recuerda: no está simplemente recitando un guion. Está realizando un complejo acto de equilibrio, sopesando lo que sabe sobre el momento específico frente a lo que sabe sobre el mundo, y lo hace mejor cuando se encuentra en ese punto medio perfecto del aprendizaje.