The Concept of Representation in ML: Beyond Plato and Aristotle

El mapa y el territorio: Una guía rápida

Imagina que intentas describirle el mundo a un amigo que nunca ha salido de su casa. Podrías darle una lista de coordenadas, un montón de datos brutos o un mapa bellamente dibujado. En el mundo del Aprendizaje Automático (ML), al "mapa" se le llama representación. Es la forma interna en que un programa de computadora organiza la información que ve; como convertir la foto de un gato en una lista de números que dice "peludo", "orejas puntiagudas" y "bigotes". Durante mucho tiempo, a los ingenieros solo les importaba si estos mapas ayudaban a la computadora a resolver acertijos, como identificar correctamente al gato.

Pero recientemente, algo fascinante sucedió. Los científicos notaron que cuando construían diferentes modelos masivos de computación y los entrenaban con cosas distintas, sus mapas internos empezaban a parecerse sorprendentemente entre sí. Empezaron a preguntarse: ¿Están todas estas computadoras descubriendo el mismo mapa "verdadero" de la realidad? Esta idea se llama la Hipótesis de la Representación Platónica. Sugiere que, al igual que existe un "Gato" perfecto e ideal en el universo del cual todos los gatos son copias, existe una estructura perfecta de la realidad que todos los modelos de IA inteligentes están encontrando lentamente.

Sin embargo, los filósofos han estado discutiendo sobre lo que realmente significa "representar" algo durante décadas. Ellos preguntan: ¿Es la imagen de un gato solo una imagen, o significa "gato"? ¿Importa si la imagen fue dibujada por un humano, un robot o un rayo? Este artículo profundiza en esa pregunta. Se pregunta si realmente podemos decir que los modelos de IA están encontrando la "verdad" solo porque sus mapas se parecen, o si solo estamos viendo un truco inteligente de las matemáticas.

---

Cuando los mapas de la IA empiezan a parecerse

En el mundo del aprendizaje automático moderno, la palabra "representación" es el ingrediente secreto. Piensa en ello como un traductor. Cuando le muestras a una computadora la foto de un perro, ella no ve pelo y huesos; ve un patrón complejo de números. Una "representación" es cómo la computadora traduce esos datos brutos a un formato que pueda usar para pensar, aprender y generalizar. Durante años, los ingenieros usaron este término de una manera muy práctica, de "hagamos el trabajo". Si un modelo podía convertir una imagen desordenada en un código interno ordenado que le ayudara a ganar en un juego, ese código era una buena representación.

Pero a medida que estos modelos de IA se han vuelto más grandes, más inteligentes y más humanos, la conversación ha cambiado. Los investigadores notaron un fenómeno extraño: si tomas dos modelos de IA completamente diferentes —uno entrenado en texto, otro en imágenes, construidos con códigos distintos— y miras dentro de sus cerebros, sus mapas internos están empezando a verse idénticos. Están convergiendo.

Esta observación llevó a una idea audaz llamada La Hipótesis de la Representación Platónica. El nombre proviene del antiguo filósofo Platón, quien creía que detrás de nuestro mundo desordenado e imperfecto, existe una realidad perfecta y unificada. La hipótesis sugiere que, a medida que los modelos de IA crecen, dejan de simplemente memorizar datos y comienzan a "descubrir" esta estructura única y subyacente de la realidad. Es como si cada estudiante en una clase, usando diferentes libros de texto y diferentes profesores, terminara escribiendo exactamente el mismo ensayo porque todos están descubriendo la misma verdad universal.

El bache filosófico

Los autores de este artículo, Gilad D. Landau y Aviv Keren, están aquí para pisar el freno ante esa emocionante historia. Argumentan que, si bien la observación de los "mapas convergentes" es real, saltar a la conclusión de que la IA está encontrando la "verdad de la realidad" es un gran salto que se salta pasos muy importantes.

Para entender por qué, debemos observar un problema clásico de la filosofía llamado el Problema de la Disyunción. Imagina que tienes un sensor que pita cada vez que ve un perro. ¡Genial! Pero, ¿qué pasa si el sensor también pita cuando ve un caballo en la niebla, o una estatua de un perro, o una foto de un perro? Si el sensor pita para todos estos casos, ¿qué significa realmente el pitido? ¿Significa "Perro"? ¿"Animal"? ¿"Cosa con forma de perro"? ¿O "Perro con mala iluminación"?

En el mundo de la ingeniería, a menudo no nos importa esta distinción. Si el pitido ayuda al robot a evitar al perro, funciona. Pero en la filosofía, para que un estado sea una verdadera "representación", necesita tener un significado específico, no solo una correlación vaga. El artículo señala que la "Hipótesis Platónica" depende de medir qué tan similares son los mapas internos de diferentes modelos. Utilizan un método llamado alineación de núcleos (kernel alignment), que básicamente comprueba si dos modelos organizan sus datos en la misma forma geométrica.

El problema es que, solo porque dos mapas se vean iguales, no significa que estén apuntando a la misma verdad. Los autores argumentan que estos modelos podrían estar simplemente encontrando los mismos "atajos" o patrones estadísticos en los datos, no la estructura profunda de la realidad. Es como dos estudiantes copiando la misma respuesta incorrecta de un acordeón; sus respuestas coinciden perfectamente, pero no han aprendido la verdad.

El "Swampman" y la historia faltante

El artículo también introduce un famoso experimento mental llamado Swampman (el hombre del pantano). Imagina que un rayo golpea un pantano y crea accidentalmente una copia, molécula por molécula, de un ser humano. Este "Swampman" se ve y actúa exactamente como una persona real. Pero, debido a que no nació ni evolucionó, ¿tiene pensamientos? ¿Tiene "representaciones" del mundo, o es solo una cáscara hueca que imita el comportamiento?

Las teorías clásicas de la representación dicen que, para que algo tenga significado, necesita una historia de evolución o aprendizaje que lo haya moldeado para funcionar correctamente. Los modelos de IA son más parecidos al Swampman que a los humanos; son diseñados y entrenados, no evolucionados. El artículo sugiere que no podemos asumir simplemente que estos modelos tienen representaciones "reales" solo porque se parecen a las nuestras. Necesitamos entender cómo usan esas representaciones para tener éxito o fracasar en las tareas.

Una teoría más reciente, propuesta por el filósofo Nicholas Shea, ofrece un punto medio. Sugiere que, incluso si un sistema no ha evolucionado biológicamente, puede desarrollar representaciones reales si aprende de su entorno y estabiliza su comportamiento con el tiempo. Pero esto requiere más que solo mirar la forma de los datos; requiere mirar la función. ¿Qué hace la representación?

El giro aristotélico: Verificación de la realidad

El artículo destaca un fascinante estudio de seguimiento que desafía la visión platónica desde un ángulo técnico. Este estudio, titulado "Revisiting the Platonic Representation Hypothesis: An Aristotelian View" (Revisitando la Hipótesis de la Representación Platónica: Una Visión Aristotélica), sugiere que, a medida que los modelos crecen, en realidad tienen más espacio para realizar conexiones accidentales.

Piénsalo de esta manera: Si lanzas una moneda 10 veces, es difícil obtener un patrón perfecto. Pero si la lanzas un millón de veces, eventualmente encontrarás una larga racha de caras solo por azar. Del mismo modo, a medida que los modelos de IA se vuelven masivos, el número de posibles "correlaciones espurias" (coincidencias accidentales) aumenta. El estudio encontró que cuando se contabilizan estas coincidencias accidentales, la "alineación perfecta" entre los modelos a menudo desaparece.

Lo que queda es una visión más modesta, "aristotélica". En lugar de encontrar una verdad única y perfecta (Platón), los modelos simplemente encuentran las mejores soluciones locales para las tareas específicas que están realizando (Aristóteles). Convergen en las estructuras que les ayudan a resolver el problema en cuestión, no necesariamente en la estructura fundamental del universo.

Lo que esto significa para el futuro

La principal conclusión de este artículo es un llamado a la humildad y la claridad. Los autores no están diciendo que la IA sea inútil o que no aprenda. Dicen que debemos ser cuidadosos con nuestras palabras. Cuando vemos que dos modelos de IA coinciden en una estructura interna, no debemos saltar inmediatamente a conclusiones metafísicas sobre la naturaleza de la realidad.

En cambio, debemos profundizar. Necesitamos preguntar:

1. ¿Cuál es el contenido? ¿Qué está representando exactamente el modelo, y cómo sabemos que no es solo una coincidencia?
2. ¿Cuál es la función? ¿Cómo ayuda este estado interno al modelo a tener éxito o fracasar en una tarea específica?
3. ¿Quién lo está usando? ¿Cómo interpretan esta información otras partes del sistema?

El artículo sugiere que, para entender verdaderamente lo que la IA representa, debemos ir más allá de solo medir qué tan similares se ven sus mapas. Necesitamos utilizar herramientas de la filosofía para entender el papel que juegan esos mapas. Hasta que podamos explicar cómo estos modelos fijan el significado de sus propios estados internos, la idea de que están descubriendo una "verdad platónica" sigue siendo una historia hermosa, pero sin probar.

En resumen, el artículo sostiene que, si bien la "Hipótesis de la Representación Platónica" es una idea fascinante, la evidencia que tenemos hasta ahora solo muestra que los modelos de IA son cada vez mejores encontrando patrones similares. No prueba que estén encontrando la verdad última del universo. Para saber eso, necesitamos hacer más que solo mirar los mapas; necesitamos entender el viaje que los modelos recorrieron para dibujarlos.