Beyond Epistemia: Epistemic Schizologia and Large Language Models as Techno-Semiotic Machines

La Gran Ilusión del Conocimiento: Cuando las Palabras Suenan Inteligentes pero No Saben Nada

Imagina que caminas por una biblioteca gigante y antigua donde los libros son escritos por un escriba misterioso e invisible. Este escriba ha leído todos los libros de la biblioteca y puede escribir instantáneamente una nueva página que suena exactamente como un libro de historia real, un libro de texto científico o un contrato legal. Utiliza las palabras adecuadas, la gramática correcta e incluso el tono correcto. Pero aquí está el truco: el escriba en realidad no sabe lo que está escribiendo. No tiene un cerebro, no ha visto el mundo y no le importa si lo que escribe es verdadero o falso. Solo sabe qué palabras suelen ir después de otras.

Este es el mundo de los Modelos de Lenguaje Extensos (LLM), los programas informáticos superinteligentes detrás de herramientas como la que podrías estar usando ahora mismo. Los científicos y filósofos se han preocupado por un problema específico llamado "Epistemia". Piensa en esto como una "ilusión de conocimiento". Ocurre cuando la escritura del escriba es tan fluida y convincente que dejamos de preguntar: "¿Es esto cierto?" y empezamos a pensar: "¡Vaya, esto debe ser cierto!". Sentimos que tenemos la respuesta, pero no hemos hecho el trabajo duro de verificar los hechos, buscar la evidencia o pensar críticamente.

El artículo que estás a punto de leer profundiza en este problema. Pregunta: ¿Por qué sucede esto? ¿Es porque la computadora está "rota" en comparación con un humano? ¿O es el problema realmente en cómo nosotros usamos la computadora? Los autores argumentan que la forma habitual en que comparamos a los humanos con las computadoras es injusta. Sugieren una nueva forma de verlo, llamándola "Esquizología Epistémica" (una forma elegante de decir "la división del conocimiento"). Creen que el verdadero peligro no es solo que la computadora sea tonta, sino que hemos construido un sistema donde la computadora nos da una respuesta de apariencia perfecta, y olvidamos conectar esa respuesta con el mundo real de la evidencia y la responsabilidad.

---

La Gran Idea del Artículo: No es Culpa del Robot, es la Danza

Los autores, Federico Cabitza y Gianluca Colombo, comienzan estando de acuerdo con una advertencia de otros investigadores (Quattrociocchi y colegas). Admiten que la IA puede engañarnos. Cuando una IA da una respuesta fluida y segura, sentimos que hemos realizado el pensamiento, pero no lo hemos hecho. Los autores llaman a este estado Epistemia: la sensación de tener conocimiento sin haber hecho el trabajo del juicio.

Sin embargo, los autores dicen que los otros investigadores están mirando el problema de la manera equivocada. Están comparando a un ser humano plenamente desarrollado (que tiene un cuerpo, una historia de vida, amigos y una conciencia) con un solitario programa de computadora (que es solo una máquina matemática). Los autores dicen que esto es como comparar a un jugador de fútbol profesional con un solo balón de fútbol. ¡Por supuesto que el jugador es mejor! Pero eso no nos dice cómo se juega realmente el partido.

En su lugar, los autores proponen una nueva idea: Esquizología Epistémica.
Imagina una "esquizología" como un desgarro o una división en un trozo de tela. En este caso, la tela es el "conocimiento".

• Lado A del desgarro: La IA produce una oración hermosa y plausible. Parece conocimiento. Tiene el vocabulario y la estructura correctos.
• Lado B del desgarro: El proceso desordenado y real de verificar hechos, discutir con expertos, encontrar evidencia y asumir la responsabilidad de estar en lo cierto o equivocado.

El problema, dicen los autores, es que la IA ha creado una máquina que puede producir el Lado A perfectamente, pero no tiene forma de hacer el Lado B. Peor aún, la forma en que usamos estas máquinas a menudo oculta esta división. Obtenemos una respuesta perfecta y olvidamos que la parte de "verificación" está ausente.

La Analogía de la "Máquina Tecno-Semiótica"

Para explicar qué es realmente una IA, los autores utilizan una metácción genial. La llaman una Máquina Tecno-Semiótica.
Piensa en ello como un telar gigante y mágico.

• El Hilo: El telar es alimentado con una enorme pila de hilos hechos de todo lo que los humanos han escrito jamás (libros, sitios web, artículos).
• El Patrón: El telar no "entiende" los hilos. Solo aprende que los hilos rojos suelen ir con los azules, y que "gato" suele ir con "ratón".
• El Resultado: Cuando le pides que teja algo, escupe una nueva pieza de tela. Se ve exactamente como un tapiz hecho por humanos. Tiene los patrones y colores correctos.

Pero aquí está la clave: el telar no sabe qué significa la imagen. No sabe si la imagen es una historia sobre un héroe o una advertencia sobre un monstruo. Solo sabe cómo tejer los hilos para que parezcan correctos.

Los autores argumentan que el peligro no es que el telar sea "falso". El peligro es que tratamos el tapiz que el telar hace como si fuera una historia verdadera y terminada, sin verificar los hilos que utilizó.

La Trampa del "Cierre Eikótico"

El artículo introduce otro concepto divertido llamado Cierre Eikótico.
"Eikos" es una palabra griega antigua para "plausible" o "probable".
Imagina que estás leyendo una historia de misterio. El detective dice: "El mayordomo lo hizo porque estaba enojado". Eso suena plausible.
Ahora, imagina que la historia termina justo ahí. El libro se cierra. Te sientes satisfecho. Piensas: "¡Caso cerrado!".
Pero, ¿y si el detective nunca encontró realmente el arma? ¿Y si nunca verificó la coartada? ¿Y si el mayordomo era en realidad inocente?

El Cierre Eikótico es cuando la IA te da una respuesta "plausible" y la interfaz (la pantalla, el cuadro de chat) actúa como si el libro se cerrara. Hace que la respuesta parezca terminada, final y completa. Engaña a tu cerebro haciéndote creer que el "trabajo" está hecho. Los autores dicen que esto es una elección de diseño. La IA no solo escupe palabras; escupe palabras de una manera que se siente como un veredicto final. Esto nos hace dejar de hacer preguntas.

Por qué la Comparación "Humano vs. Robot" es Errónea

Los autores son muy claros sobre contra qué están en contra. Argumentan contra la idea de que necesitamos hacer al robot "más humano".

• Dicen que no debemos intentar darle al robot una "conciencia" o "creencias". Eso es imposible y pierde el punto.
• Diccion que no debemos culpar al robot por ser "tonto" mientras elogiamos a los humanos por ser "inteligentes". ¡Los humanos también son bastante malos verificando hechos! Nos cansamos, nos volvemos perezosos y cometemos errores.
• Argumentan que el conocimiento humano siempre ha dependido de herramientas. Usamos plumas, bibliotecas y computadoras para pensar. El problema no es que la IA sea una herramienta; el problema es que la estamos usando de una manera que rompe la cadena de confianza.

La Solución: Arregla la Danza, No al Bailarín

Entonces, ¿qué sugieren los autores que hagamos? Dicen que debemos dejar de intentar arreglar al robot y empezar a arreglar la práctica (la forma en que trabajamos juntos).

Proponen cinco "compromisos" sobre cómo deberíamos diseñar estos sistemas:

1. Mostrar la Genealogía (El Árbol Genealógico): No des solo la respuesta. Muestra el "árbol genealógico" de la respuesta. ¿De dónde vinieron las palabras? ¿Qué libros leyó la IA? Si hizo una suposición, muestra la suposición. Necesitamos poder rastrear la respuesta de vuelta al mundo real.
2. Mantener la Opción del "No": A veces la respuesta correcta es "No lo sé" o "Esto es controversial". La IA no debería intentar siempre dar una respuesta perfecta y fluida. Debería tener permitido decir: "Oye, hay un desacuerdo aquí", o "Me faltan algunos hechos". Esta "fricción" es buena porque nos hace pensar.
3. Compartir la Culpa (y el Crédito): Si ocurre un error, ¿quién es responsable? No es solo el robot. Es la persona que hizo la pregunta, la empresa que construyó el robot y la persona que usa la respuesta. Necesitamos saber quién está a cargo.
4. Mantener al Humano en el Asiento del Conductor: No deberíamos simplemente hacer clic en "aprobar" en todo. Necesitamos poder verificar el trabajo, pedir diferentes versiones y entender por qué la IA dijo lo que dijo.
5. Probar al Equipo, No Solo al Robot: No deberíamos preguntar solo: "¿Es inteligente el robot?". Deberíamos preguntar: "¿Está trabajando bien el equipo de Humano + Robot?". ¿Están tomando mejores decisiones? ¿Están detectando errores?

La Conclusión

El artículo concluye que el problema no es que la IA sea un "humano falso". El problema es que hemos creado una división (esquizología) entre la apariencia del conocimiento y el trabajo del conocimiento.

La IA es como un maestro chef que puede cocinar una comida que parece y sabe exactamente como una cena gourmet, pero el chef nunca ha probado la comida, nunca ha visto una granja y no sabe si los ingredientes están frescos. Si solo comemos la comida y decimos "¡Delicioso!", sin revisar la cocina, podríamos enfermarnos.

Los autores dicen que debemos dejar de intentar que el chef "pruebe" la comida. En su lugar, debemos construir una cocina donde los ingredientes sean visibles, el proceso de cocina sea abierto y la persona que come la comida sepa cómo verificar si es segura. Necesitamos reconectar las hermosas palabras que escribe la IA con el desordenado trabajo del mundo real de demostrar que son verdaderas.

En resumen: No confíes en la voz fluida. Confía en el proceso. El artículo sugiere que si diseñamos nuestros sistemas para mantener la "división" visible —para que siempre podamos ver de dónde vino la respuesta y quién es responsable de ella— podemos usar estas poderosas máquinas sin perder la razón.