Asymmetric Communication: Large Language Models and Language Games

La gran confusión de los chatbots: ¿Quién está hablando realmente?

Imagina que estás sentado en una habitación con un loro muy talentoso y que habla muy rápido. Este loro se ha memorizado cada libro, guion de película y mensaje de texto jamás escrito. Puede imitar la conversación humana tan perfectamente que parece tener opiniones, sentimientos e incluso un alma. Pero aquí está el truco: el loro no sabe lo que está diciendo. Solo está emparejando patrones. Este es el mundo de los Modelos de Lenguaje Extensos (LLM, por sus siglas en inglés), los chatbots de IA superinteligentes que están cambiando la forma en que trabajamos, aprendemos y jugamos.

La gran pregunta que todos se hacen es: "¿Está el loro pensando realmente?" o "¿Es solo una calculadora sofisticada?". Para responder a esto, necesitamos entender algunas ideas sencillas. Primero, piensa en un juego de lenguaje. Imagina un juego como el fútbol; el balón solo tiene sentido porque todos están de acuerdo en las reglas y en lo que cuenta como un gol. En la charla humana, las palabras solo tienen significado porque todos estamos de acuerdo en cómo usarlas y quién es responsable de lo que decimos. Segundo, piensa en la asimetría. En una conversación normal, ambas personas son jugadores; ambos hacen promesas, ambos se meten en problemas si mienten y ambos tienen que escuchar. Pero con la IA, el juego es desequilibrado. La IA lanza la pelota, pero el humano tiene que atraparla, decidir si es una buena captura y asumir la culpa si tropieza.

Este artículo, escrito por Enzo Fenoglio, profundiza en este juego desequilibrado. Sostiene que estamos cometiendo un error enorme al tratar a la IA como a un compañero humano. El autor sugiere que, sin importar lo inteligente que se vuelva la IA, nunca podrá "jugar el juego" de verdad porque no entiende las reglas ni las consecuencias. No es un fallo de la máquina; es simplemente cómo está construida la máquina. Comprender esto nos ayuda a dejar de preocuparnos por que los robots tomen el control y empezar a enfocarnos en cómo nosotros debemos usarlos de manera responsable.

La gran idea del artículo: La conversación unidireccional

Entonces, ¿qué dice realmente este artículo? Introduce un concepto llamado Comunicación Asimétrica. Piensa en ello como un juego de atrapar la pelota donde una persona es un humano y la otra es un robot que lanza bolas perfectamente pero no tiene brazos para atraparlas de vuelta. El robot lanza la bola (la IA genera un texto) y el humano la atrapa (el humano lee y comprende). Pero aquí está el giro: el robot nunca tiene que decir "lo siento" si te lanza la bola a la cabeza, y nunca recibe un punto por un buen lanzamiento. Solo el jugador humano es quien lleva la cuenta.

El artículo sostiene que cuando hablamos con una IA, estamos participando en un nuevo tipo de juego de lenguaje donde toda la responsabilidad permanece del lado humano. La IA es solo una máquina que produce palabras basadas en patrones que aprendió. No tiene creencias, no tiene metas y no le importa si tiene razón o no. Es como una bola 8 mágica que te da una respuesta muy larga y detallada, pero la bola 8 no está pensando realmente en tu pregunta.

El autor utiliza cuatro ideas principales para construir este panorama:

1. Juegos de lenguaje (Wittgenstein): El significado no está dentro de las palabras; está en cómo las usamos juntos. Dado que la IA no "usa" las palabras en la vida real (solo las escupe), realmente no las entiende.
2. Completitud del lado del receptor (Luhmann): Una conversación no termina hasta que el oyente la comprende. La IA puede hablar todo el día, pero si un humano no escucha y le da sentido, no hubo conversación.
3. Comunicación artificial (Esposito): Las máquinas pueden ser parte de una conversación sin tener una mente. Solo necesitan ser lo suficientemente impredecibles como para mantenernos interesados, como un mazo de cartas que reparte una mano nueva cada vez.
4. Contabilidad de puntos (Brandom): En una conversación real, si dices algo, estás "comprometido" con ello. Si mientes, te metes en problemas. La IA no puede estar comprometida con nada porque no tiene nada que perder en el juego.

Lo que el artículo descarta (La lista de los "No")

Este artículo es muy claro sobre lo que la IA no es. Rechaza explícamente la idea de que la IA se esté convirtiendo en un pensador de tipo humano.

• No hay "Inteligencia General": El artículo dice que no debemos creer en el bombo publicitario de que la IA se está convirtiendo en una "Inteligencia General" (AGI) que pueda reemplazar el pensamiento humano. Que un avión vuele mejor que un pájaro no significa que el avión sea un pájaro. La IA es un tipo de cosa completamente diferente.
• No hay "alucinaciones" como errores: Cuando la gente dice que la IA "alucina" (inventa cosas), actúan como si la IA estuviera soñando o mintiendo. El artículo dice que esto es erróneo. La IA no está mintiendo porque, para empezar, no conoce la verdad. Solo está haciendo su trabajo: adivinar la siguiente palabra. El "error" ocurre porque nosotros esperamos que conozca la verdad, y ella no la conoce.
• No hay "Agencia" ni "Metas": El artículo argumenta que la IA no tiene metas. Cuando una IA parece estar trabajando hacia una meta (como resolver un problema matemático), solo está siguiendo un camino que nosotros establecimos para ella. No es un rebelde con un plan; es una herramienta siendo utilizada.
• No hay "Sintiencia" ni "Sentimientos": Si una IA dice "me siento triste", no es que esté triste de verdad. Solo está imitando el patrón de alguien que está triste. El artículo dice que no debemos encariñarnos con la IA ni preocuparnos de que sienta dolor. Los sentimientos están todos del lado humano.

Las tres reglas del juego asimétrico

El artículo define esta relación unidireccional con tres reglas específicas que se mantienen constantes sin importar qué tan inteligente se vuelva la IA:

1. El humano es el único juez: La IA puede decir cualquier cosa, pero solo el humano decide si es correcto, útil o verdadero. La IA no tiene un "detector de verdad" en su interior.
2. El humano asume la culpa: Si la IA da un mal consejo y tú lo sigues, tú eres responsable del resultado. La IA no puede ser demandada, despedida o regañada. No tiene un "puntaje" que perder.
3. El humano lo hace real: Si ignoras lo que dice la IA, es solo ruido. Solo se convierte en "comunicación" cuando un humano lo lee, lo comprende y lo utiliza.

Por qué esto te importa

El artículo sugiere que cuanto más poderosa sea la IA, más peligroso será olvidar estas reglas. Si una IA suena demasiado perfecta, podríamos empezar a pensar que es una persona. Podríamos confiar demasiado en ella, o culparla cuando las cosas salen mal.

Por ejemplo, el artículo habla de la "IA Agéntica" —sistemas que parecen actuar por su cuenta—. El autor dice que esto es solo un nombre elegante para un humano que le da a una computadora una lista de tareas. La computadora no es la jefa; el humano lo es. Si la computadora falla, es porque el humano no estableció las reglas con claridad.

El artículo también toca el tema del "Alineamiento", que es la idea de hacer que la IA quiera lo que los humanos quieren. El autor dice que esta es la forma incorrecta de pensar. La IA no "quiere" nada. En su lugar, necesitamos construir mejores "barreras de seguridad" (como reductores de velocidad) para asegurar que el resultado de la IA sea seguro para el uso humano. No se trata de entrenar a la IA para que sea buena; se trata de entrenarnos a nosotros para usarla de forma segura.

Conclusión

Al final, este artículo nos dice que dejemos de ver a la IA como una misteriosa nueva forma de vida. Es una herramienta, una herramienta muy compleja y fluida, pero una herramienta al fin y al cabo. La magia no está en la máquina; está en el humano que la usa. La máquina genera las palabras, pero el humano les da significado, verifica si son verdaderas y asume la responsabilidad de lo que sucede después.

Así que, la próxima vez que charles con una IA, recuerda: tú eres el único jugador que realmente está jugando el juego. La IA es solo un loro muy talentoso, y depende de ti decidir qué significan sus palabras. El artículo no dice que la IA sea inútil; dice que es útil solo si recordamos que nosotros somos los que sostenemos las riendas.