Scaling, Lock-In, and Proxy Compliance: A Political Economy of Responsible AI

Resumen Técnico: Escalamiento, Bloqueo y Cumplimiento por Proximidad (Proxy Compliance)

Planteamiento del Problema
El artículo aborda un enigma central en la IA Responsable: la persistente coexistencia de un cumplimiento visible (por ejemplo, tarjetas de modelo, evaluaciones estandarizadas, documentación) y una mitigación de daños sustantiva inadecuada. Si bien marcos como la Ley de IA de la UE imponen extensas obligaciones de documentación, los daños recurrentes y las brechas de responsabilidad sugieren que las organizaciones pueden optar racionalmente por el "cumplimiento por proximidad" (proxy compliance): producir señales observables de responsabilidad mientras se invierte poco en la reducción real de riesgos. Los autores argumentan que esto no es simplemente un fallo de los marcos éticos, sino un resultado estructural de los parámetros institucionales: específicamente, la interacción entre la generación de evidencia controlada por el proveedor, los costos de cambio del implementador (lock-in) y los mecanismos de aplicación que dependen de evidencia verificable.

Metodología
Los autores desarrollan un juego de economía política secuencial que involucra a tres agentes: un proveedor de IA, un implementador y un regulador. El modelo es estático y de un solo proveedor, tratando la escala y la concentración de mercado como trasfondos institucionales en lugar de variables endógenas.

• Cronología:

  1. El proveedor elige auditabilidad ($t$) y mitigación sustantiva ($e$).
  2. El implementador observa estas elecciones, decide sobre la adopción y, si adopta, elige un nivel de monitoreo ($m$). La adopción incurre en costos de cambio ($s$), que representan el bloqueo (lock-in).
  3. Se materializa el daño ($h$). Se genera evidencia con una probabilidad $p(t, m)$, que depende tanto de la auditabilidad como del monitoreo.
  4. Ocurre la aplicación de la ley si se encuentra evidencia accionable.

• Mecanismos Clave:

  • Auditabilidad ($t$): Ayuda a satisfacer los mínimos de adquisición pero también aumenta la probabilidad de detección.
  • Mitigación ($e$): Reduce directamente la probabilidad de daño.
  • Bloqueo ($s$): Reduce el recurso efectivo del implementador ($\delta_{eff}$), debilitando el incentivo para monitorear.
  • Aplicación de la ley: Depende de evidencia verificable. El proveedor enfrenta penalizaciones proporcionales a la probabilidad de detección ($p + \Delta$), donde $\Delta$ representa la capacidad de auditoría independiente.

• Concepto de Equilibrio: Los autores resuelven para el equilibrio de subjuego perfecto donde el proveedor anticipa la respuesta de monitoreo del implementador. El implementador monitorea solo si el beneficio esperado del recurso (reducción de la exposición al daño) supera el costo del monitoreo, un cálculo fuertemente influenciado por los costos de cambio.

Contribuciones Clave

1. Formalización del Cumplimiento por Proximidad: El artículo define el "cumplimiento por proximidad" como un equilibrio donde el proveedor cumple con el mínimo observable de adquisición ($t^* = \bar{t}$) pero elige una mitigación ($e^*$) estrictamente por debajo del primer mejor social ($e_{FB}$). Esto ocurre cuando los altos costos de cambio amortiguan el monitoreo del implementador, lo que a su vez reduce la exposición esperada a la aplicación de la ley del proveedor, reduciendo el incentivo para la mitigación sustantiva.
2. Monitoreo Endógeno: A diferencia de los modelos donde el monitoreo es exógeno, este marco permite que el proveedor anticipe cómo sus elecciones de mitigación afectan la intensidad del monitoreo del implementador. Una mayor mitigación reduce el daño residual, lo que paradójicamente puede reducir el incentivo del implementador para monitorear, creando un bucle de retroalimentación.
3. Análisis de Palancas de Política: Los autores derivan comparativas estáticas para cuatro palancas institucionales distintas: derechos de auditoría independiente, portabilidad (reducción de costos de cambio), reporte de incidentes y responsabilidad vinculada a resultados.

Resultos
El análisis produce un equilibrio interior único y caracteriza las condiciones para la mitigación total (la solución de esquina donde se elimina el daño).

• Proposición 4.4 (Existencia de Cumplimiento por Proximidad): En ausencia de una fuerte detección independiente ($\Delta = 0$) y con costos de cambio suficientemente altos ($s$), el equilibrio converge al cumplimiento por proximidad. A medida que $s \to \infty$, el monitoreo $m^* \to 0$, y la mitigación $e^*$ cae a un nivel determinado únicamente por el piso de auditabilidad base, a menudo muy por debajo del óptimo social.
• Proposición 4.5 (Responsabilidad): Aumentar la detección independiente ($\Delta$) o reducir los costos de cambio ($s$) eleva la mitigación en el equilibrio. Sin embargo, el efecto de $\Delta$ es atenuado por la respuesta de monitoreo (a medida que la mitigación aumenta, el monitoreo cae), aunque nunca revierte el efecto positivo.
• Teorema 5.1 (Derechos de Auditoría): Un derecho de auditoría independiente ($\Delta$) suficientemente fuerte puede eliminar el cumplimiento por proximidad y lograr la mitigación total ($e^* = e_{FB}$) independientemente del nivel de bloqueo ($s$). Esta es la palanca única más poderosa en el modelo.
• Proposición 5.2 (Portabilidad): Reducir los costos de cambio eleva la mitigación al restaurar el apalancamiento y el incentivo del implementador para monitorear.
• Proposición 5.3 (Reporte de Incidentes): El reporte obligatorio crea un canal de evidencia independiente ($\mu\rho$) que sustituye el acceso controlado por el proveedor, elevando la mitigación incluso si la auditabilidad permanece baja.
• Proposición 5.4 (Responsabilidad Vinculada a Resultados): La responsabilidad ligada directamente al daño realizado ($\lambda_{OFO}$) eleva la mitigación independientemente de la probabilidad de detección $p(t, m)$, proporcionando un incentivo robusto cuando la verificación es débil.

Significancia y Reivindicaciones
El artículo afirma proporcionar una explicación institucional tratable de por qué "el cumplimiento visible y la mitigación limitada pueden coexistir como elecciones racionales". Argumenta que la brecha entre las señales de responsabilidad observable y la reducción de daños no es necesariamente un fallo de implementación, sino un resultado de equilibrio impulsado por:

1. Control del proveedor sobre la evidencia: Cuando los proveedores controlan la infraestructura para generar evidencia verificable (por ejemplo, acceso a API, registros), pueden limitar la auditabilidad.
2. Bloqueo (Lock-in): Los altos costos de cambio debilitan la capacidad del implementador para actuar como un mecanismo de disciplina.
3. Aplicación de la ley dependiente de la evidencia: Cuando las penalizaciones dependen de la evidencia detectada en lugar de los resultados, los proveedores tienen un incentivo para minimizar la transparencia si el costo marginal de la auditabilidad supera el aumento marginal de las penalizaciones esperadas.

Los autores enfatizan que su modelo es un referente, no una afirmación de que cualquier instrumento de gobernanza sea suficiente. Advierten que la independencia de la auditoría, la cobertura de reporte y las sanciones creíbles son prerrequisitos para que estos mecanismos funcionen. El artículo concluye que la rendición de cuentas requiere tanto verificabilidad (acceso independiente a la evidencia) como poder para actuar (recurso creíble para los implementadores), sugiriendo que el cumplimiento procedimental (documentación) sin estos apoyos estructurales probablemente resultará en un cumplimiento por proximidad persistente.