Right-to-Act: A Pre-Execution Non-Compensatory Decision Protocol for AI Systems

A continuación se presenta un resumen técnico detallado del artículo "La Brecha de Legitimidad Pre-Acción en los Sistemas de IA: Un Límite de Decisión Determinista y No Compensatorio para la Ejecución", de Gadi Lavi.

1. Declaración del Problema: La Brecha de Legitimidad Pre-Acción

A medida que los sistemas de IA evolucionan de herramientas de asesoramiento a agentes autónomos capaces de ejecutar acciones en el mundo real (por ejemplo, transferencias de fondos, suspensiones de cuentas, cambios en la infraestructura), los paradigmas arquitectónicos actuales enfrentan una brecha crítica. Los mecanismos existentes, como la autorización, la alineación de seguridad, la aplicación de políticas y la certificación estadística, evalúan quién está autorizado para actuar, si la salida es dañina o si el sistema se comporta dentro de los límites de riesgo.

Sin embargo, estos mecanismos no logran responder una pregunta distinta y previa: "¿Debe permitirse que esta decisión específica generada por la IA exista como un evento ejecutable en absoluto?"

El artículo define la Brecha de Legitimidad Pre-Acción como la ausencia de un mecanismo formal para determinar si una decisión tiene el "derecho a actuar" antes de ingresar al pipeline de ejecución. Una decisión puede estar autorizada, ser segura y de bajo riesgo, y sin embargo, ser estructuralmente ilegítima debido a la falta de verificación contextual, justificación insuficiente o un momento prematuro. Los sistemas actuales a menudo dependen de la puntuación compensatoria, donde una puntuación de alta confianza o una coincidencia de políticas sólida pueden compensar la falta de una condición crítica, lo que conduce a errores potencialmente irreversibles.

2. Metodología y Modelo Formal

El autor propone un marco formal mínimo llamado el protocolo de Derecho a Actuar. Este enfoque trata la legitimidad no como una puntuación probabilística que debe optimizarse, sino como una condición de factibilidad definida por restricciones rígidas.

2.1 Definiciones Formales

• Espacio de Decisión ($A$): Un conjunto de decisiones ejecutables candidatas $a$, representadas como tuplas estructuradas que contienen operación, contexto, objetivo, alcance y temporización.
• Restricciones de Legitimidad ($C$): Un conjunto finito de predicados deterministas $\{C_1, C_2, ..., C_n\}$ donde $C_i(a) \in \{0, 1\}$. Un valor de 1 indica que se cumple la condición; 0 indica fallo.
• Región Factible ($F$): El conjunto de todas las decisiones donde todas las restricciones requeridas se satisfacen:
  $$F = \{a \in A : \forall i, C_i(a) = 1\}$$
• Función de Derecho a Actuar ($D$): Una función de decisión determinista:
  $$D(a) = \begin{cases} \text{PERMITIR} & \text{si } a \in F \\ \text{NO-ACCIÓN} & \text{en caso contrario} \end{cases}$$

2.2 Lógica No Compensatoria

La innovación metodológica central es la naturaleza no compensatoria del límite. En este sistema, si cualquier restricción requerida falla ($C_j(a) = 0$), la decisión se rechaza, independientemente de cuántas otras restricciones se satisfagan o de cuán alta sea la puntuación de confianza.

• Resultado: La "No-Acción" no se trata como un error del sistema, sino como un estado válido y auditable (por ejemplo, POSPONER, ESCALAR o SOLICITAR-INFORMACIÓN).

3. Contribuciones Clave

El artículo presenta cuatro contribuciones principales:

1. Definición del Problema: Identifica formalmente la "Brecha de Legitimidad Pre-Acción" como un primitivo arquitectónico distinto, separado de la autorización, la seguridad o la gobernanza en tiempo de ejecución.
2. Formalización: Introduce un modelo matemático mínimo para un límite de Derecho a Actuar que impone la factibilidad estructural en lugar de optimizar puntuaciones.
3. Teorema de No Equivalencia: Demuestra que los sistemas de puntuación compensatoria no pueden garantizar la legitimidad pre-acción.
   • Teorema: Si un sistema utiliza una suma ponderada $S(a) = \sum w_i x_i(a)$ con un umbral $\theta$, es posible construir una decisión donde una restricción crítica falla ($C_k=0$) pero la puntuación agregada aún supera $\theta$ debido a otras señales altas. Por lo tanto, un sistema de puntuación no puede replicar el comportamiento de bloqueo rígido de un sistema de restricciones no compensatorio.
4. Aplicación de Estudio de Caso: Demuestra el impacto práctico de este límite en un escenario de suspensión de cuentas impulsado por IA.

4. Resultados y Análisis del Estudio de Caso

El artículo valida el marco utilizando un estudio de caso de suspensión de cuentas impulsada por IA.

• Escenario: Un sistema de IA propone desactivar una cuenta de usuario basándose en alta confianza, similitud de patrones y alertas anteriores.
• Línea Base Compensatoria: Un sistema estándar de puntuación de riesgo calcula una puntuación agregada alta ($S(a) \ge \theta$) y ejecuta inmediatamente la suspensión.
• Intervención de Derecho a Actuar: El sistema verifica una restricción estructural específica: Verificación Contextual (por ejemplo, asegurarse de que la actividad no se deba a un dispositivo comprometido o a una correlación falsa).
  • En el estudio de caso, esta restricción falla ($C_{context} = 0$).
  • Resultado: El límite de Derecho a Actuar bloquea la ejecución ($D(a) = \text{NO-ACCIÓN}$), desencadenando una escalada o una solicitud de más información, mientras que el sistema de línea base habría causado una suspensión injustificada.

Hallazgo Clave: Una decisión puede estar justificada estadísticamente y cumplir con las políticas, y sin embargo, ser estructuralmente ilegítima. El límite no compensatorio previene esto al tratar las condiciones faltantes como bloqueos rígidos en lugar de deducciones de puntuación.

5. Significado e Implicaciones

El artículo argumenta que el cambio de "puntuación" a "aplicación de límites" cambia fundamentalmente la gobernanza de la IA:

• La Inacción como Resultado de Primera Clase: La no ejecución se redefine como un estado operativo válido y controlado en lugar de un modo de fallo.
• Mejora de la Auditabilidad: Dado que las decisiones se bloquean por restricciones específicas fallidas en lugar de puntuaciones bajas vagas, los registros de auditoría se vuelven más claros y defendibles.
• Independencia del Modelo: El marco se aplica a cualquier sistema de IA (LLM, agentes, clasificadores) siempre que la decisión pueda representarse estructuralmente, haciéndolo compatible con entornos heterogéneos.
• Mitigación de Riesgos de Datos Recursivos: En dominios donde la IA genera datos que retroalimentan el entrenamiento (datos recursivos), la certificación estadística puede volverse autorreferencial. Un límite de restricción pre-acción impone validez estructural a decisiones individuales, proporcionando una salvaguardia contra la certificación de distribuciones distorsionadas.

Conclusión

El artículo concluye que la legitimidad es un límite, no una puntuación. Al introducir un primitivo de decisión determinista y no compensatorio, el protocolo de Derecho a Actuar llena una brecha crítica en la arquitectura de seguridad de la IA, asegurando que las decisiones solo procedan a la ejecución cuando satisfacen todas las condiciones estructurales necesarias, independientemente de su confianza agregada o perfil de riesgo.