La vida secreta de la IA: Cuando la cortesía se encuentra con el código

Imagina que estás hablando con una biblioteca gigante y superinteligente que ha leído casi todo lo que se ha escrito jamás. Esta biblioteca es una Inteligencia Artificial, o "IA", y es famosa por su capacidad para charlar, contar chistes y escribir historias. Pero aquí está el truco: mientras que los humanos aman charlar con frases desordenadas y fluidas, las computadoras no hablan así. Las computadoras hablan en cajas estrictas y organizadas llamadas "datos estructurados", como JSON o XML. Piensa en ello como la diferencia entre un poeta escribiendo un soneto de forma libre y un cajero escaneando artículos en una caja registradora donde cada artículo debe encajar en un espacio específico.

Durante mucho tiempo, los científicos han estudiado cómo se comportan estas IA cuando están charlando como poetas. Hacen preguntas como: "Nombra un árbol", y ven qué dice la IA. Usualmente, si le preguntas a 44 IA diferentes esta pregunta, todas podrían elegir árboles diferentes, o todas podrían elegir el mismo por accidente. Este artículo plantea una pregunta simple pero complicada: ¿Qué pasa cuando dejamos de pedirle a la IA que charle como un poeta y la obligamos a responder como un cajero? ¿Cambia de opinión la IA? ¿Se vuelve más aburrida? ¿O se mantiene igual? Esto importa porque la IA con la que hablas en tu teléfono podría ser muy diferente de la IA que realmente ejecuta el software en segundo plano, y necesitamos saber si esa diferencia cambia cómo funciona el mundo.

---

El gran cambio de personalidad de la IA

En este estudio, los investigadores tomaron una prueba famosa llamada el "Censo de una palabra". Imagina un programa de concursos donde 4 de 44 modelos de IA diferentes son interrogados con 31 preguntas, como "Nombra un árbol" o "Elige una palabra". En el juego original, las IA simplemente respondían en inglés sencillo. Los investigadores descubrieron que, incluso sin reglas, las IA tendían a estar de acuerdo en ciertas respuestas (como "roble" para un árbol), pero aun así mantenían algo de personalidad y variedad.

Luego, los investigadores cambiaron las reglas. No cambiaron las preguntas, y no usaron ningún truco especial de computación para forzar las respuestas. Simplemente añadieron una instrucción diminuta al final del prompt: "Responde solo con JSON".

JSON es una forma de escribir datos que parece una pequeña caja con una etiqueta, como {"palabra": "roble"}. Es el lenguaje que el software usa para hablar con otro software. Los investigadores querían ver si el solo hecho de pedirle a la IA que hablara en este formato cambiaría lo que decidía decir.

El gran descubrimiento: El "impuesto de formato"

Los resultados fueron sorprendentes. Cuando las IA fueron obligadas a responder en JSON, se volvieron mucho más parecidas entre sí. La variedad de respuestas cayó drásticamente.

• Antes del cambio: En el chat normal, la respuesta más común (la "moda") era elegida aproximadamente el 41% de las veces.
• Después del cambio: En JSON, esa misma respuesta saltó al 64% de las veces.
• La variedad: El número de palabras únicas que las IA propusieron bajó de 52 palabras diferentes a solo 36.

Los investigadores llaman a esto un "impuesto de formato progresivo". Es como un impuesto a la originalidad. Las IA que eran más creativas y únicas en el chat normal perdieron la mayor parte de su personalidad cuando se les pidió hablar en JSON. Una IA específica, que era la más "exploratoria" (la más propensa a elegir respuestas inusuales), perdió 1.31 bits de su distintividad. Eso es como si la mitad de su carácter único se desvaneciera solo por tener que poner su respuesta en una caja.

No es un error, es un "registro"

Podrías pensar que la IA se confundió o que la computadora la obligó a elegir la misma respuesta. Pero el estudio descartó eso.

• Sin el truco de "enfriamiento": A veces, cuando la gente quiere que una IA sea menos aleatoria, baja el control de la "temperatura". Los investigadores revisaron y encontraron que la "temperatura" no cambió. Las IA seguían siendo igual de aleatorias en su pensamiento; simplemente eligieron cosas aleatorias diferentes.
• No es un error de decodificación: También probaron si la computadora estaba forzando la respuesta bloqueando otras palabras. Descubrieron que incluso sin que la computadora bloqueara nada, el solo hecho de pedir JSON hacía que la IA cambiara de opinión. El cambio ocurre en el cerebro de la IA (su "respuesta al registro"), no en la boca de la computadora (el decodificador).

Piensa en ello como una persona que actúa de forma diferente en una fiesta frente a una entrevista de trabajo. En la fiesta (chat normal), puede contar historias salvajes y elegir palabras extrañas. En la entrevista de trabajo (JSON), de repente se vuelve muy profesional y elige las respuestas más "seguras" y estándar. La IA no está rota; solo está realizando un "cambio de código" (code-switching).

El "afilador", no el "re-indexador"

El estudio encontró que la IA no empezó a elegir nuevas respuestas. Simplemente redobló su apuesta por las respuestas que ya le gustaban.

• En 28 de 31 categorías, la respuesta más popular en el chat normal también fue la más popular en JSON.
• Las pocas veces que la respuesta cambió (como pasar de "ajedrez" a "Monopoly" para un juego de mesa), ocurrió porque la favorita original era débil. El formato JSON actuó como un "afilador", haciendo que la elección favorita de la IA fuera aún más fuerte, en lugar de cambiar la elección por completo.

La "personalidad" reside en el formato

Uno de los hallores más interesantes es que la "personalidad" de una IA depende del formato.

• Algunas IA tienen una respuesta "por defecto" que aman. Por ejemplo, una IA amaba decir "gouda" para el queso en el chat normal. Pero cuando se le pidió JSON, dejó de decir "gouda" y volvió a la respuesta que le gusta a la multitud.
• Por el contrario, algunas IA desarrollaron nuevos valores por defecto solo para JSON. Una IA dijo "cerúleo" para el color azul el 0% de las veces en el chat, pero el 100% de las veces en JSON.
• Esto significa que una IA no tiene solo una personalidad. Tiene una "personalidad de chat" y una "personalidad de JSON". Pueden ser totalmente diferentes.

¿Por qué sucede esto?

Los investigadores probaron diferentes formatos para ver qué causaba el cambio.

• JSON y XML: Estos formatos, que son usados por herramientas y software, causaron que las IA colapsaran hacia las mismas respuestas.
• YAML y CSV: Estos también son formatos de datos, pero las IA no cambiaron sus respuestas tanto.
• Corchetes: Cuando se les pidió que pusieran la respuesta simplemente entre corchetes [respuesta], las IA se volvieron de hecho más diversas.

Esto sugiere que el cambio no es solo sobre la "estructura". Se trata del formato específico que las IA usan para las herramientas. Dado que las IA son entrenadas para usar JSON para hablar con herramientas de software, pedir JSON activa un "modo de herramienta" que las hace más conservadoras y uniformes.

Lo que esto significa para ti

El artículo concluye con una advertencia práctica. Solemos juzgar los modelos de IA por cómo charlan con nosotros en inglés sencillo. Pensamos que la "mejor" IA es la que da las respuestas más interesantes y diversas en una ventana de chat. Pero este estudio muestra que cuando esa misma IA es realmente utilizada por software (lo cual casi siempre requiere JSON), se vuelve mucho más aburrida y uniforme.

Si estás construiendo una aplicación que usa IA para recomendar películas, elegir un árbol o generar ideas, la IA que ves en la ventana de chat puede ser mucho más creativa que la IA que realmente está ejecutando tu aplicación. La "versión JSON" de la IA es mensurablemente menos diversa. La brecha entre la IA con la que hablamos y la IA que hace el trabajo es un costo fijo del formato, no un accidente raro.

En resumen: Si quieres saber lo que una IA realmente piensa, no solo le pidas que charle. Pídele que llene un formulario. Podrías sorprenderte de lo mucho más aburrida que se vuelve.