Ambiguity Collapse by LLMs: A Taxonomy of Epistemic Risks

Este artículo introduce el concepto de "colapso de la ambigüedad" en los modelos de lenguaje grandes, presenta una taxonomía de sus riesgos epistémicos a nivel de proceso, resultado y ecosistema, y propone principios de mitigación para diseñar sistemas que preserven y gestionen responsablemente la ambigüedad en lugar de suprimirla.

Lo esencial

🌪️ El Colapso de la Ambigüedad: Cuando la IA decide por nosotros

Imagina que la vida es como un cuadro abstracto. A veces, una mancha de pintura puede parecer un pájaro, una nube o simplemente una forma bonita. No hay una única respuesta "correcta". Esa incertidumbre es lo que llamamos ambigüedad. En la vida real, esta ambigüedad es útil: nos obliga a pensar, a debatir con amigos, a negociar y a decidir qué significa algo para nosotros.

El problema que describen los autores (Shira Gur-Arieh, Angelina Wang y Sina Fazelpour) es que las Inteligencias Artificiales (como el ChatGPT) tienen una obsesión: quieren que el cuadro tenga un solo significado.

A esto lo llaman "Colapso de la Ambigüedad".

🤖 ¿Qué es el "Colapso de la Ambigüedad"?

Imagina que le preguntas a un amigo: "¿Es esta película apropiada para mi hijo de 8 años?".

• Un humano pensaría: "Depende. Si tu hijo es sensible, quizás no. Si le gustan los monstruos, sí. ¿Qué te preocupa a ti?" (Aquí hay un debate, una negociación).
• La IA te responde inmediatamente: "Sí, es apropiada" o "No, no lo es". Y lo dice con total seguridad, como si fuera un hecho científico.

La IA ha colapsado todas las posibles interpretaciones en una sola respuesta definitiva. Ha eliminado la "niebla" de la duda y te ha dado una respuesta plana. El problema no es que la IA dé una respuesta, sino que borra el proceso de pensar que deberías haber hecho tú.

---

📉 Los 3 Niveles del Peligro (La Taxonomía)

Los autores explican que esto es peligroso en tres niveles, como si fuera una tormenta que empieza pequeña y luego inunda todo:

1. Nivel Personal: "El Músculo del Pensamiento se Atrofia" 🧠

Cuando la IA siempre te da la respuesta definitiva, dejas de ejercitar tu cerebro.

• La analogía: Es como usar un GPS para todo. Si siempre te dice exactamente por dónde ir, tu cerebro deja de aprender a orientarse. Si el GPS falla, te pierdes.
• El riesgo: Si la IA te dice qué significa "justicia" o "bueno" sin que tú lo pienses, pierdes la capacidad de debatir, de dudar y de formar tus propios valores. Te vuelves un "turista" en tu propia vida, siguiendo las indicaciones de la máquina.

2. Nivel de la Respuesta: "La Caja de Herramientas se Vacía" 📦

La IA no solo te da una respuesta, sino que te oculta las otras opciones.

• La analogía: Imagina que vas a una tienda de zapatos y el vendedor te dice: "Solo tenemos talla 42, y es la única talla correcta". Te quita la opción de probar otras tallas o estilos que quizás te gusten más.
• El riesgo: La IA te presenta su elección como si fuera la única verdad. Oculta que existen otras formas válidas de ver el problema. Además, a veces fuerza casos difíciles a encajar en una categoría simple (como decir que una persona es "hombre" o "mujer" cuando la realidad es más compleja), borrando los matices importantes.

3. Nivel Global: "La Monocultura de la Mente" 🌍

Si todos usamos la misma IA, todos empezamos a pensar igual.

• La analogía: Imagina un jardín donde todos los árboles son idénticos porque fueron plantados por la misma empresa. Si llega una plaga que mata a ese tipo de árbol, todo el jardín muere. En un jardín natural con diversidad, algunas plantas sobrevivirían.
• El riesgo: Si la IA decide qué significa "democracia" o "odio" y todos la usamos, perdemos la diversidad de ideas. La sociedad se vuelve rígida. Además, si la IA tiene un sesgo (por ejemplo, piensa como un grupo político específico), ese sesgo se convierte en la "verdad" para todos, rompiendo la capacidad de la sociedad para llegar a acuerdos.

---

⚖️ Ejemplos de la Vida Real

El artículo menciona casos reales donde esto ya está pasando:

1. El Juez de la IA: Un juez usó una IA para decidir si un trampolín en un jardín contaba como "paisajismo" (y por tanto, si estaba permitido). La IA dio una respuesta segura. Pero en la vida real, los abogados debaten estos casos durante años porque no hay una respuesta simple. La IA "colapsó" el debate legal y dio una respuesta que podría ser incorrecta o injusta.
2. El Filtro de Libros: Un distrito escolar usó una IA para prohibir libros que tuvieran "actos sexuales". La IA marcó libros como la Biblia o clásicos literarios como prohibidos porque la IA no entendió el contexto ni la ambigüedad del arte.
3. Contrataciones: Un jefe pide a la IA: "¿Quién es el candidato más cualificado?". La IA elige a alguien basándose en sus propios criterios ocultos (quizás basados en datos de internet), y el jefe asume que es una decisión objetiva, cuando en realidad la IA "contrabandeó" sus propios valores.

---

💡 ¿Qué podemos hacer? (La Solución)

Los autores no dicen que debamos tirar las IAs a la basura. Dicen que debemos rediseñarlas para que respeten la ambigüedad.

• En lugar de: "Aquí tienes la respuesta".
• Deberíamos pedir: "Aquí tienes tres formas diferentes de ver este problema, cada una con sus pros y contras. Tú decides".

La idea es usar la IA como un compañero de debate que te ayuda a explorar las opciones, no como un oráculo que te da la verdad absoluta. Debemos diseñar sistemas que nos digan: "Esto es ambiguo, hay varias formas de verlo, ¿cuál prefieres?".

En resumen

La ambigüedad no es un error; es una característica humana necesaria para vivir en sociedad. Cuando las IAs nos quitan la ambigüedad y nos dan respuestas falsamente claras, nos están robando nuestra capacidad de pensar, debatir y decidir quiénes somos. El objetivo es crear IAs que nos ayuden a navegar la niebla, no que nos obliguen a caminar en línea recta hacia un destino que no elegimos.

Resumen técnico

Resumen Técnico: Colapso de la Ambigüedad por LLMs

1. El Problema: La Ilusión de la Claridad en Términos Controversiales

Los Grandes Modelos de Lenguaje (LLM) se utilizan cada vez más como infraestructura interpretativa para dar sentido a términos ambiguos, plurales y cargados de valores (ej. "discurso de odio", "calificado", "justicia", "daño"). En contextos humanos, estos términos admiten múltiples interpretaciones legítimas que se negocian, debaten y justifican a través de procesos sociales y deliberativos.

El problema central identificado es el "Colapso de la Ambigüedad" (Ambiguity Collapse): un fenómeno donde un LLM, al enfrentarse a un término que genuinamente admite múltiples interpretaciones, produce una resolución singular y definitiva, omitiendo los procesos humanos de deliberación, negociación y contestación. A diferencia de la desambiguación tradicional en PLN (que busca el sentido correcto en un contexto único), el colapso de la ambigüedad ocurre en conceptos "esencialmente controvertidos" donde no existe una única respuesta correcta, sino un espectro de significados válidos.

El riesgo no es la disambiguación en sí, sino que los LLMs convierten conceptos de textura abierta e indeterminados en resoluciones precisas y explícitas, actuando como árbitros de significado sin los salvaguardas procedimentales o institucionales que tienen los humanos.

2. Metodología y Enfoque Teórico

El artículo adopta un enfoque conceptual y diagnóstico, integrando perspectivas interdisciplinarias de la filosofía del lenguaje, la sociología, los estudios de ciencia y tecnología (STS), la educación y la lingüística.

• Definición de Ambigüedad: Los autores utilizan el término como paraguas para dos formas de indeterminación:
  1. Ambigüedad: Términos con múltiples significados discretos (ej. "daño" físico vs. emocional).
  2. Vaguedad: Un único significado con límites difusos (ej. ¿cuándo se es "alto"?).
     Nota: Dado que los riesgos epistémicos se aplican a ambas, el análisis no las distingue estrictamente.
• Diferenciación: Se argumenta que el colapso por LLMs es distintivo debido a: (a) su escalabilidad y fricción cero, (b) la tendencia a tratar las salidas del modelo como respuestas "finales" y confiables, y (c) la falta de procedimientos institucionales trazables o responsables.
• Desarrollo de la Taxonomía: Se construye una taxonomía de riesgos epistémicos basada en las funciones productivas que la ambigüedad cumple en la sociedad humana (adaptabilidad, reflexión, sostenibilidad de la contestabilidad).

3. Contribuciones Clave: Taxonomía de Riesgos Epistémicos

La contribución principal es una taxonomía estructurada en tres niveles que describe qué se pierde cuando los LLMs resuelven la ambigüedad por nosotros:

A. Nivel de Proceso (Pérdida de capacidades cognitivas y deliberativas)

• Cierre Deliberativo: La pérdida de la oportunidad de razonar, reflexionar y explorar interpretaciones alternativas. Ejemplo: Chatbots en museos que dan interpretaciones definitivas en lugar de invitar a la reflexión.
• Erosión Pedagógica: La degradación de habilidades cognitivas e intelectuales. La ambigüedad es un "deseo de dificultad" necesario para el aprendizaje; al resolverla automáticamente, los modelos debilitan el juicio y la justificación de los usuarios.
• Desplazamiento de la Autoridad Interpretativa: El poder de fijar el significado se traslada de actores públicos responsables (jueces, comunidades) a diseñadores de modelos y sistemas opacos. Esto genera injusticia epistémica y exclusión participativa.

B. Nivel de Salida (Distorsión de conceptos y razones de acción)

• Aplastamiento Epistémico (Epistemic Narrowing):
  • Pérdida de Alternativas: El modelo oculta interpretaciones razonables, presentando solo un subconjunto pequeño de definiciones.
  • Pérdida de Residuos: El modelo fuerza casos limítrofes o indeterminados en categorías rígidas (ej. binario sí/no), haciendo desaparecer la "zona gris" necesaria para entender la complejidad.
• Contrabando Normativo (Normative Smuggling): El modelo reemplaza los criterios del usuario con sus propios criterios normativos (entrenados en datos específicos), presentando el resultado como neutral, inevitable y objetivo, ocultando los juicios de valor subyacentes.

C. Nivel de Ecosistema (Impacto a largo plazo en el conocimiento compartido)

• Bloqueo Interpretativo (Interpretive Lock-In): Una resolución temprana se entrena como la "verdad fundamental" en conjuntos de datos y flujos de trabajo posteriores, haciendo costoso o imposible reabrir el debate.
• Monocultura: La uniformidad en cómo diferentes modelos resuelven la ambigüedad reduce la diversidad interpretativa del ecosistema, creando una ilusión de consenso donde no lo hay.
• Ruptura del Significado Compartido:
  • Malentendidos: Diferentes usuarios reciben interpretaciones divergentes del mismo término, rompiendo la comunicación.
  • Fractura de Coaliciones: La fijación de términos que antes eran abiertos para permitir la coordinación entre grupos diversos (ej. movimientos sociales) destruye la capacidad de colaboración.
• Disminución de la Tolerancia a la Ambigüedad: La delegación habitual de la creación de significado a las máquinas debilita la capacidad colectiva de la sociedad para tolerar la incertidumbre y la complejidad.

4. Resultados y Estudios de Caso

Los autores ilustran la materialización de estos riesgos en tres dominios de alto riesgo:

1. Auto-alineación de Modelos (Constitutional AI): Al usar principios constitucionales ambiguos (ej. "evitar el daño") para que el modelo se auto-corrija, se delega la elección entre interpretaciones morales legítimas al sistema. Esto puede llevar a un "contrabando normativo" donde se privilegia una visión de justicia específica sin transparencia, o a una falsa convergencia (monocultura) que oculta el desacuerdo moral legítimo.
2. LLM como Juez (LLM-as-a-Judge): El uso de modelos para evaluar subjetividad (ej. "harmful speech", "calidad de una idea") bajo rúbricas. Los modelos deben elegir una interpretación de términos vagos, desplazando la autoridad de los humanos y forzando casos limítrofes a etiquetas categóricas, eliminando la deliberación necesaria para refinar conceptos.
3. Interpretación Legal: El uso de LLMs para determinar el "significado ordinario" de términos legales. En casos como Snell v. United Specialty Insurance, el modelo ofrece una conclusión unívoca sobre si un trampolín cuenta como "paisajismo", ignorando la necesidad de un juez de sopesar definiciones rivales y justificar públicamente su elección. Esto sustituye la práctica jurídica deliberativa por una respuesta empírica falsa.

5. Significado y Estrategias de Mitigación

El artículo concluye que el colapso de la ambigüedad no es inevitable, sino el resultado de presiones de diseño, entrenamiento y despliegue. La solución no es eliminar la ambigüedad, sino diseñar sistemas que la preserven y gestionen responsablemente.

Se proponen principios de mitigación en múltiples capas:

• Entrenamiento y Alineación: Entrenar modelos para reconocer la ambigüedad, ofrecer múltiples interpretaciones y abstenerse de dar respuestas definitivas cuando sea apropiado (recompensar la duda en lugar de la certeza).
• Restricciones de Despliegue: Moverse de clasificadores binarios a flujos de trabajo que permitan matices, como usar la inconsistencia del modelo como señal para revisar políticas o usar razonamiento analógico en lugar de aplicación de reglas rígidas.
• Interfaz y Interacción: Diseñar interfaces que presenten múltiples continuaciones o interpretaciones lado a lado, invitando al usuario a contestar o refinar, en lugar de "alimentar" respuestas pasivas.
• Prompts Subespecificados: Hacer explícitos los atributos que el modelo debe inferir (ej. género, raza, contexto) y permitir que el usuario elija cómo resolver la ambigüedad en lugar de asumir un template normativo por defecto.

Conclusión Final:
El objetivo es transitar de sistemas que imponen una claridad falsa y singularidad a sistemas que apoyan el trabajo difícil pero necesario de dar sentido a un mundo irreductiblemente ambiguo, preservando las condiciones bajo las cuales los conceptos pueden seguir siendo debatidos, revisados y legitimados socialmente.