Upholding Epistemic Agency: A Brouwerian Assertibility Constraint for Responsible AI

Each language version is independently generated for its own context, not a direct translation.

Imagina que la Inteligencia Artificial (IA) generativa es como un orador muy elocuente en una plaza pública. Este orador habla con una fluidez increíble, con una voz segura y convincente. Sin embargo, hay un problema: a veces, este orador inventa cosas que suenan muy reales pero que no tienen base alguna. En el mundo actual, donde la desinformación se propaga rápido, confiar ciegamente en este orador puede ser peligroso, especialmente cuando se trata de decisiones importantes como la salud, la justicia o las elecciones.

Este artículo propone una nueva regla para este orador artificial, inspirada en las ideas de un matemático llamado L.E.J. Brouwer. La idea central es sencilla pero revolucionaria: la IA no debe dar respuestas definitivas ("Sí" o "No") a menos que pueda mostrar su "trabajo de casa".

Aquí te explico los puntos clave con analogías cotidianas:

1. El Problema: El Orador que "Adivina" con Seguridad

Actualmente, las IAs funcionan como un adivino con mucha confianza. Si les preguntas algo, te dan una respuesta basada en patrones estadísticos (como si adivinaran la palabra siguiente en una frase). A veces aciertan, a veces inventan (alucinaciones). El problema es que su "confianza" no es lo mismo que tener evidencia. Es como si un juez dictara una sentencia basándose solo en su "sensación" de que el acusado es culpable, sin presentar pruebas.

2. La Solución: La Regla del "Certificado de Trabajo"

El autor propone que, en temas importantes (llamados "de alto riesgo"), la IA debe cambiar su comportamiento. En lugar de decir simplemente "Sí" o "No", debe seguir una regla estricta:

Si tiene pruebas sólidas y verificables: Puede decir "Sí" o "No".
Si no tiene pruebas sólidas: Debe decir "Indeterminado" (o "No lo sé todavía").

La analogía del Inspector de Obras:
Imagina que la IA es un arquitecto que construye un puente.

El modelo actual: El arquitecto dice: "El puente aguantará el tráfico, créeme, me siento muy seguro".
El nuevo modelo (Brouweriano): El arquitecto debe decir: "El puente aguantará el tráfico, y aquí tienes los cálculos, los planos firmados y el certificado del ingeniero que lo demuestran".
Si el arquitecto no puede sacar esos planos y certificados, no puede decir que el puente es seguro. Debe decir: "Indeterminado: necesito más datos antes de prometer nada".

3. Los Tres Estados de la IA

Bajo esta nueva regla, la IA solo puede tener tres estados al responder, en lugar de dos:

Afirmado (Sí): "Tengo un certificado que demuestra que esto es verdad".
Negado (No): "Tengo un certificado que demuestra que esto es falso".
Indeterminado (No sé / Pendiente): "No tengo un certificado que demuestre nada. Por favor, no tomes una decisión basada en mi silencio".

¿Por qué "Indeterminado" es bueno?
Mucha gente piensa que decir "no sé" es una falla. Pero en este sistema, es un acto de responsabilidad. Es como un semáforo que se pone en amarillo parpadeante en lugar de forzarte a cruzar en rojo o verde. Protege a los ciudadanos de tomar decisiones basadas en "adivinanzas" disfrazadas de hechos.

4. El "Certificado" es la Clave

¿Qué es ese certificado? No es un número mágico de "confianza del 90%". Es un paquete de evidencia verificable.

Analogía: Es como cuando vas a un banco a pedir un préstamo. No basta con que el cajero diga "te creo". Necesitas presentar tu nómina, tus impuestos y un historial crediticio. Si no tienes esos papeles, el banco no te da el dinero, aunque el cajero tenga "buena intuición".
En la IA, ese "paquete de papeles" es un cálculo matemático que cualquiera (o un auditor) puede revisar para ver si la respuesta es correcta. Si la IA no puede generar ese paquete, tiene la obligación moral de callarse.

5. ¿Por qué esto ayuda a la democracia?

El autor argumenta que la democracia depende de que los ciudadanos puedan pensar, debatir y juzgar por sí mismos.

Si la IA nos da respuestas definitivas sin pruebas, nos convierte en pasivos. Dejamos de pensar porque "la máquina lo dijo".
Si la IA nos dice "Indeterminado" y nos explica por qué (ej: "Faltan datos oficiales" o "Las pruebas son contradictorias"), nos obliga a seguir investigando. Nos devuelve el poder de decidir.

En Resumen

Este papel nos dice que la IA debe dejar de actuar como un oráculo infalible y empezar a actuar como un ciudadano responsable.

Antes: "Creo que X es verdad" (basado en una sensación).
Ahora: "Puedo afirmar que X es verdad porque tengo este documento que lo prueba. Si no tengo el documento, no puedo decir nada".

Es una forma de decir: "No te daré una respuesta falsa solo para parecer útil. Si no tengo la prueba, te diré que no la tengo, para que tú, como ser humano, puedas seguir buscando la verdad". Es una herramienta para proteger nuestra capacidad de pensar y juzgar en un mundo lleno de máquinas que hablan demasiado bien.

Each language version is independently generated for its own context, not a direct translation.

A continuación presento un resumen técnico detallado del artículo "Upholding Epistemic Agency: A Brouwerian Assertibility Constraint for Responsible AI" (Manteniendo la Agencia Epistémica: Una Restricción de Afirmabilidad Brouweriana para la IA Responsable) de Michael Jülich.

1. El Problema: La Erosión de la Agencia Epistémica

El artículo identifica una crisis fundamental en la interacción entre la Inteligencia Artificial Generativa (GenAI) y la democracia. Los sistemas actuales tienden a convertir la incertidumbre probabilística en veredictos que parecen autoritarios, desplazando el trabajo de justificación que es esencial para la agencia epistémica democrática (la capacidad de los ciudadanos para reconocer, evaluar y actuar sobre el conocimiento).

El riesgo: Las "alucinaciones fluidas" y los veredictos categóricos de la IA, incluso cuando están bien calibrados probabilísticamente, pueden deshabilitar a los ciudadanos, reduciendo su capacidad para practicar la razón pública, la atención moral y la justificación recíproca.
La falla actual: Los métodos existentes de cuantificación de incertidumbre (como la predicción conformada o la entropía semántica) a menudo se tratan como métricas internas de confianza, pero no establecen una norma pública que distinga entre una afirmación justificada y una fluidez no justificada. La IA actual carece de un mecanismo para abstenerse categóricamente cuando no posee una justificación verificable.

2. Metodología: Intuicionismo Matemático y Construcción

El autor propone una solución normativa basada en el intuicionismo matemático de L.E.J. Brouwer, adaptándolo como una restricción de diseño para la IA. La premisa central es que la verdad y la afirmabilidad no son propiedades estáticas de "principio", sino que dependen de la disponibilidad de construcciones o testigos (witnesses) verificables.

Restricción de Afirmabilidad Brouweriana: En dominios de alto riesgo, un sistema de IA solo puede afirmar o negar una proposición si puede presentar un certificado de entitlement (derecho) públicamente inspeccionable y contestable. De lo contrario, debe abstenerse y devolver el estado Indeterminado (Undetermined - U).
Lógica Intuicionista: Se rechaza la Ley del Tercio Excluido (LEM) en el contexto de la afirmación pública. Una proposición no es simplemente verdadera o falsa; su estatus epistémico depende de si existe una prueba constructiva disponible en el momento actual.
Doble Dimensión de Entitlement:
1. Entitlement Interno ( $E^R_{t_{int}}$ ): Basado en "testigos" computacionales verificables (ej. límites de intervalos, márgenes de separación) generados bajo un régimen interno $\langle R, t_{int} \rangle$ .
2. Entitlement Público ( $W^{S,\tau}_t$ ): Basado en evidencia de registro público, procedencia y estándares institucionales $\langle S, \tau, t \rangle$ .
El Certificado como Objeto Límite: Un certificado ( $\kappa$ ) actúa como un objeto puente que empaqueta tanto el testigo interno como las condiciones de estatus público, permitiendo que ingenieros y auditores negocien la validez sin necesidad de consenso semántico profundo.

3. Contribuciones Clave

A. Semántica de Interfaz de Tres Estados (A/D/U)

El paper propone reemplazar la salida binaria clásica (Sí/No) por una semántica de tres estados gobernada por certificados:

A (Afirmado): El sistema tiene un certificado que fuerza la afirmación (ej. el límite inferior de un intervalo supera el umbral $\tau$ ).
D (Negado): El sistema tiene un certificado que fuerza la negación (ej. el límite superior está por debajo del umbral).
U (Indeterminado): No existe un certificado que fuerce ninguna de las dos opciones dentro del presupuesto computacional y las reglas declaradas. U no es una opción de rechazo ajustable, sino un mandato ético cuando falta un testigo forzante.

B. El Lema de Diseño (Proposición 1)

Se demuestra formalmente que cualquier interfaz binaria total (A/D) que sea "sonora por certificado" implica decidibilidad del predicado desplegado en su ámbito declarado.

Implicación: Si un sistema intenta dar una respuesta binaria (A o D) sin un certificado que fuerce esa decisión, está cometiendo una "representación epistémica errónea" (false certainty). Por lo tanto, el estado U es obligatorio matemáticamente cuando no hay un testigo forzante disponible.

C. Arquitectura de Implementación (Híbrida)

El autor propone una arquitectura práctica para sistemas existentes:

Núcleo Clásico: Un modelo de lenguaje autoregresivo (LLM) estándar que genera fluidez.
Envoltura Constructiva (Speech-Act Gate): Una capa de decisión que evalúa las afirmaciones tentativas del núcleo. Utiliza técnicas como propagación de límites de intervalos (IBP), interpretación abstracta o predicción conformada para generar certificados.
Mecanismo de Gating: Si la envoltura no puede generar un certificado que fuerce el umbral, bloquea la salida categórica y devuelve U junto con un código de razón (ej. U-MODEL por límites no forzantes, U-SCOPE por alcance inválido, U-EVIDENCE por falta de registros públicos).

D. Caso de Estudio: "Tooth Social"

Se ilustra el marco mediante un chatbot político hipotético que analiza un escándalo de corrupción.

Escenario 1: Con evidencia inicial (rumores), los límites certificados del sistema cruzan el umbral de decisión. El sistema devuelve U, explicando que no está autorizado a afirmar ni negar, preservando la agencia del ciudadano para investigar más.
Escenario 2: Tras un informe oficial (nuevo registro público), los límites certificados se estrechan y fuerzan el umbral. El sistema ahora puede devolver A (Afirmado) con un certificado adjunto.
Resultado: El sistema evita emitir veredictos prematuros, actuando como un mecanismo de defensa deliberativa en lugar de un oráculo.

4. Resultados y Limitaciones

Resultados Teóricos: Se establece que la abstención obligatoria (U) es una consecuencia necesaria de la honestidad epistémica bajo un régimen de certificación sonora. El marco transforma la incertidumbre de un problema técnico de calibración a una cuestión de justificación normativa.
Limitaciones y Costos:
- Sobrecarga Computacional: La generación de certificados (ej. propagación de intervalos estrictos) es costosa y puede llevar a tasas de abstención altas en modelos profundos.
- Idealización: El enfoque asume la existencia de regímenes de certificación que pueden no estar disponibles para todos los tipos de modelos o datos.
- Dependencia de Parámetros Externos: Los umbrales ( $\tau$ ) y estándares ( $S$ ) deben ser definidos democráticamente o institucionalmente, no por el modelo.
Solución Propuesta: El uso de implementaciones híbridas, donde un núcleo clásico se envuelve en una capa de verificación para dominios de alto riesgo, equilibrando eficiencia y responsabilidad.

5. Significado e Impacto

El artículo ofrece un cambio de paradigma en la IA Responsable:

De la Confianza a la Justificación: Cambia el foco de "¿Qué tan seguro está el modelo?" a "¿Qué justificación verificable tiene el modelo para hablar?".
Protección de la Agencia Epistémica: Al obligar a la IA a abstenerse cuando no hay pruebas, el sistema evita "des-habilitar" (deskilling) a los ciudadanos, forzándolos a participar en la justificación pública en lugar de aceptar veredictos pasivamente.
Normativa para la Democracia: Proporciona una herramienta técnica para implementar la "giro epistémico" en la teoría política, asegurando que la IA en dominios de alto riesgo (salud, leyes, elecciones) opere bajo normas de justificación pública y no como un intermediario algorítmico no controlado.
Educación Mutua: El marco actúa como un andamiaje educativo, enseñando a la sociedad a distinguir entre fluidez simulada y afirmación justificada, alineándose con la visión de Cavell de la filosofía como "educación para adultos".

En resumen, el paper propone que la responsabilidad en la IA no se logra mediante mejores métricas de precisión, sino mediante la imposición de una disciplina constructiva que vincula cada salida categórica a un testigo verificable, haciendo que la abstención (U) sea el estado por defecto ético cuando la evidencia es insuficiente.