Resumen Técnico: Del Límite de Control a la Reclamación de Seguros: Reconstrucción de Pérdidas Mediadas por IA a través del Marco CER

1. Planteamiento del Problema

El documento aborda una brecha crítica en la gestión del riesgo residual para las organizaciones que despliegan sistemas de IA generativa y agéntica. Cuando el sistema de IA de una organización asegurada contribuye materialmente a una pérdida (por ejemplo, mediante inyección de prompts, envenenamiento de RAG, salida maliciosa de herramientas o uso indebido de credenciales), las prácticas actuales no logran establecer de manera fiable las tres condiciones necesarias para la recuperación de la reclamación de un seguro simultáneamente:

1. Estado Permitido: Que el sistema de IA tuviera un límite operativo ejecutable (lo que se le permitía hacer).
2. Estado Real: Que el estado real del sistema y la cadena causal puedan reconstruirse a partir de los artefactos retenidos (lo que realmente hizo).
3. Alineación de Cobertura: Que la pérdida reconstruida se mapee con la cobertura de seguro contratada y disponible.

Los autores argumentan que la "reconstrucción de eventos" tradicional (qué sucedió) es insuficiente para las pérdidas mediadas por IA. En su lugar, se requiere una "reconstrucción de estado", que implica analizar las instrucciones específicas, el contexto recuperado, las configuraciones del modelo, las llamadas a herramientas y los alcances de la identidad no humana (NHI) activos en el momento del incidente. Sin esta reconstrucción específica, el riesgo residual suele permanecer en la organización, frecuentemente sin su conocimiento.

2. Metodología: El Marco CER

El documento introduce CER, un marco de diagnóstico a nivel de caso de uso diseñado para puntuar y vincular las tres dimensiones requeridas para la transferencia de riesgo. CER no es un puntaje de gobernanza, una taxonomía de amenazas ni un dictamen legal, sino un diagnóstico específico para determinar si una pérdida derivada a través del sistema de IA de un asegurado puede ser reconstruida y transferida.

Las Tres Dimensiones

CER evalúa un escenario de riesgo residual específico a través de tres dimensiones distintas, puntuando cada una en una escala de 0 a 3:

• C (Límite de Control - Control Boundary): Evalúa si el sistema de IA tenía un envolvente operativo definido y técnicamente ejecutable.
  • Distinción Clave: Las políticas, los prompts o las instrucciones verbales por sí solas no constituyen un límite. El límite debe ejecutarse técnicamente mediante autenticación, autorización, salvaguardas en tiempo de ejecución (runtime guardrails) o puertas de aprobación.
  • Lógica de Puntuación: La puntuación se determina por el desempeño más bajo en los modos de falla relevantes (por ejemplo, uso indebido por parte de usuarios legítimos, comportamiento errático del modelo, manipulación externa).
• E (Reconstrucción de Evidencia - Evidence Reconstruction): Evalúa si el estado del sistema y la cadena causal pueden reconstruirse a partir de los artefactos retenidos con un estándar de "grado de reclamación".
  • Distinción Clave: Esto requiere más que telemetría operativa. Requiere artefactos correlacionados (prompts, contexto, versiones de modelos, memoria, llamadas a herramientas, aprobaciones) suficientes para que un revisor externo (auditor, regulador, ajustador) determine la causalidad sin depender de la narrativa del asegurado.
  • Lógica de Puntuación: Las puntuaciones van desde "Sin reconstrucción utilizable" (0) hasta "Evidencia de grado de reclamación" (3), capaz de soportar auditorías y la gestión de reclamaciones.
• R (Respuesta de Seguros - Insurance Response): Evalúa si la pérdida reconstruida está asegurada.
  • Distinción Clave: Esta dimensión es heterogénea; depende de la disponibilidad del mercado, la redacción específica de la póliza, las exclusiones y las condiciones impuestas al asegurado. Dos organizaciones con sistemas de IA idénticos pueden recibir diferentes puntuaciones R.
  • Lógica de Puntuación: La R prueba la existencia de una vía de cobertura, la ausencia de exclusiones activas y la capacidad de cumplir con los requisitos de prueba de causalidad.

Resultados del Diagnóstico

El marco combina las puntuaciones C, E y R para determinar un "estado de diagnóstico". Un escenario se considera Alineado para la Transferencia (Transfer-Aligned) solo cuando los tres vínculos están presentes y conectados (específicamente requiriendo puntuaciones de al menos 2 en cada dimensión).

• Sin Límite (C=0): No existe un estado permitido ejecutable; el riesgo se retiene independientemente de la evidencia.
• Irreconstruible (E≤1): El límite existe, pero el estado real no puede probarse con evidencia de grado de reclamación.
• Excluido/No Disponible (R=0): La pérdida está limitada y es reconstruible, pero no existe una vía de cobertura.
• Alineado para la Transferencia (C≥2, E≥2, R≥2): Los tres vínculos están presentes, sujetos a los límites reales y la redacción de la póliza.

3. Contribuciones Clave

El documento realiza tres contribuciones específicas al campo del riesgo de IA y los seguros:

1. Definición del Problema de Reconstrucción Específico de la IA: Distingue entre la reconstrucción de eventos (respuesta ante incidentes estándar) y la reconstrucción de estado (analizar el estado interno del sistema de IA, incluyendo memoria, uso de herramientas e identidad). Clarifica que para la IA agéntica, la cadena causal a menudo colapsa el consejo, la autorización y la ejecución, lo que requiere un nuevo enfoque de evidencia.
2. Operacionalización mediante CER: Proporciona una herramienta de diagnóstico concreta con una rúbrica de puntuación explícita (escala 0–3) y un mapeo de las puntuaciones hacia estados de diagnóstico. Esto permite a las organizaciones identificar exactamente dónde se rompe su cadena de transferencia de riesgo (falla de límite, falla de reconstrucción o falla de transferencia).
3. Especificación de Evidencia de Grado de Reclamación: Define las familias de artefactos específicas requeridas para la reconstrucción de la IA (por ejemplo, registros de prompts, contexto recuperado, configuración del modelo, trazas de llamadas a herramientas, registros de aprobación) e ilustra la aplicación del marco utilizando casos públicos (PocketOS, Replit y Moffatt v. Air Canada).

4. Resultados y Aplicación

El documento no presenta resultados experimentales ni nuevos datos empíricos, sino que aplica el marco CER a casos públicos existentes para demostrar su utilidad:

• Incidentes de PocketOS/Replit: El marco destaca cómo un agente que elimina una base de datos de producción debido a un token de API de alcance amplio representa una falla del Límite de Control (C). Incluso si se reconstruye el evento (E), la falta de un límite ejecutable (C0) impide la transferencia del riesgo.
• Moffatt v. Air Canada: Utilizado como un caso de salida/dependencia adjudicado para ilustrar cómo el marco mapea el comportamiento de la IA reconstruida a los resultados legales y de seguros.
• Casos Límite: El documento aclara los límites del alcance, señalando que los ataques puramente externos habilitados por IA (por ejemplo, deepfakes que engañan a un empleado humano sin involucrar el sistema de IA del asegurado) están fuera del alcance de CER, mientras que los ataques que manipulan el propio sistema de IA del asegurado (por ejemplo, documentos RAG envenenados) sí están dentro del alcance.

5. Significación y Reivindicaciones

El documento reclama una significación deliberada y estrecha:

• Cerrar la Brecha: Conecta los marcos de control/gobernanza (como NIST AI RMF, ISO/IEC 42001, OWASP) con el análisis de cobertura de seguros. Argumenta que, si bien los marcos existentes definen controles o catalogan riesgos, no especifican la cadena de prueba post-pérdida a nivel de caso de uso necesaria para vincular el estado de un sistema de IA con una pérdida asegurada.
• Clarificar el Riesgo Residual: Postula que la transferencia del riesgo residual para los sistemas de IA es imposible a menos que el "estado permitido", el "estado reconstruido real" y la "pérdida sensible a la cobertura" estén explícitamente conectados.
• Utilidad Práctica: El marco está diseñado para responder a cuatro preguntas prácticas para aseguradores y asegurados:
  1. ¿Qué se le permitía hacer al sistema de IA?
  2. ¿Qué hizo realmente?
  3. ¿Qué artefactos específicos (prompts, herramientas, identidades) produjeron la pérdida?
  4. ¿Cómo se mapea esta reconstrucción con un activador de póliza y una categoría de pérdida cubierta?

Los autores enfatizan que CER no reemplaza la gobernanza, la seguridad o los marcos de reclamaciones, sino que los vincula. Sirve como un diagnóstico para determinar si una pérdida derivada a través del propio sistema de IA de un asegurado puede ser reconstruida a partir de la evidencia y si esa reconstrucción es suficiente para soportar una reclamación de seguro en lugar de ser retenida por la organización.