Resumen Técnico: Gobernanza de Operaciones de Seguridad Asistidas por IA

1. Declaración del Problema

Los gerentes de ingeniería enfrentan un dilema crítico de adopción: la Inteligencia Artificial Generativa, la Generación Aumentada por Recuperación (RAG) y los agentes de codificación pueden acelerar los flujos de trabajo técnicos en los Centros de Operaciones de Seguridad (SOC), pero su uso no gestionado introduce riesgos significativos en entornos de telemetría privilegiados y de alto riesgo. Aunque la IA puede generar artefactos similares a código, resumir evidencia y proponer acciones, a menudo difumina la responsabilidad y crea vulnerabilidades en cuanto a privacidad, costos, auditabilidad y calidad de la decisión.

El problema específico abordado es cómo gobernar el soporte de decisiones operativas asistido por IA en funciones de seguridad sin debilitar el control. El documento utiliza el Lenguaje de Consulta Kusto (KQL) dentro del ecosistema de seguridad de Microsoft Azure (Defender XDR, Sentinel, Azure Data Explorer) como una instanciación técnica acotada. Aunque las consultas KQL suelen ser de solo lectura, las consultas generadas por IA no gestionadas aún pueden causar daño mediante:

• Escaneos amplios que provocan sobrecostos y degradación del rendimiento.
• Exposición de campos sensibles (por ejemplo, líneas de comandos, URLs, asuntos de correo electrónico) que violan la privacidad.
• Invalidación del esquema (referencia a tablas o columnas no disponibles).
• Interpretaciones engañosas de la evidencia o inteligencia de amenazas desactualizada.
• Ejecución descontrolada que elude las políticas de gobernanza establecidas.

El desafío central no es meramente si un modelo de IA puede generar una consulta sintácticamente correcta, sino si una organización puede gobernar el ciclo de vida de ese artefacto: desde la propuesta y validación hasta la ejecución, auditoría y mejora.

2. Metodología

El estudio emplea Investigación de Ciencia de Diseño (DSR) para desarrollar y evaluar un artefacto socio-técnico destinado a mejorar la capacidad organizacional. La metodología sigue el proceso DSRM: identificación del problema, definición de objetivos, diseño y desarrollo, demostración, evaluación y comunicación.

• Artefacto: Un Corredor de Consultas de IA Gobernado. Se trata de un sistema socio-técnico que separa la planificación de la IA de la ejecución operativa.
• Contexto: El artefacto se instancia dentro de flujos de trabajo de caza de amenazas centrados en Microsoft, pero está diseñado con principios de gestión transferibles.
• Estrategia de Evaluación: El estudio adopta un protocolo de evaluación escalonada para evitar afirmaciones prematuras sobre la eficacia en producción. Avanza desde:
  1. Validación Offline/Paquete: Pruebas contra datos sintéticos y trazas normalizadas de esquema.
  2. Reproducción Histórica: Recuperación de evidencia de casos cerrados.
  3. Simulación de Equipo Púrpura: Prueba de la utilidad de detección frente a comportamientos sembrados.
  4. Piloto en Modo Sombra: Telemetría en vivo limitada con supervisión de analistas y sin respuesta automatizada.
  5. Producción Controlada: Implementación limitada con monitoreo estricto de presupuesto y auditoría.
• Líneas Base: El corredor propuesto se compara frente a consultas KQL escritas manualmente por analistas, bibliotecas de consultas estáticas aprobadas y consultas KQL generadas por IA sin corredor.

3. Contribuciones Clave y Diseño del Artefacto

3.1 Arquitectura del Corredor de Consultas de IA Gobernado

La contribución central es un marco de gestión instanciado como una arquitectura de corredor. El flujo de control principal es:
Solicitud del Analista → Plan de Caza de IA → Fundamentación RAG → Selección de Plantilla Aprobada → Validación KQL → Decisión de Política → Ejecución API de Solo Lectura → Normalización de Resultados → Retroalimentación del Analista.

Los componentes clave incluyen:

• Planificador de IA: Convierte la intención en lenguaje natural en un plan de caza estructurado (intención, entidades, selección de fuente).
• Capa de Fundamentación RAG: Recupera esquemas actuales, plantillas aprobadas, manuales de procedimiento y contexto de inteligencia de amenazas para prevenir alucinaciones.
• Resolvedor de Plantillas: Mapea el plan a patrones KQL parametrizados y aprobados en lugar de generar código libre.
• Corredor KQL: El motor de aplicación que valida las consultas contra identidad, política, listas blancas de fuentes, límites de costos, límites de tiempo/filas y reglas de aprobación.
• Adaptadores de Fuente: Aíslan la ejecución en APIs específicas de solo lectura (Microsoft Graph, Log Analytics, Sentinel Data Lake, ADX).
• Capa de Retroalimentación: Registra la disposición del analista y las etiquetas de evaluación para apoyar la mejora continua.

3.2 Proposiciones de Diseño

El estudio establece seis proposiciones de diseño (P1–P6) que forman la columna vertebral teórica del marco:

• P1 (Ejecución Corregida): Separar la planificación de la IA del acceso ejecutable aumenta el control al convertir la salida de la IA en una solicitud evaluada por políticas.
• P2 (Generación Basada en Plantillas): Las consultas derivadas de plantillas aprobadas y parametrizadas con propietarios e historial de versiones son más gobernables.
• P3 (Inteligencia Consciente de la Proveniencia): La inteligencia de amenazas debe preservar la fuente, la confianza y la validez antes de influir en la generación de consultas.
• P4 (Evaluación Acotada por Evidencia): Las afirmaciones sobre el artefacto deben coincidir con niveles de evidencia apropiados (desde pruebas offline hasta despliegue naturalista).
• P5 (Contribución de Agentes en Entorno Aislado): Los agentes de codificación deben limitarse a repositorios no productivos y solicitudes de extracción (pull requests), nunca al acceso directo a APIs de producción.
• P6 (Gobernanza Centrada en Roles): La adopción sostenible requiere responsabilidades distribuidas entre la dirección del SOC, la ingeniería de detección, la ingeniería de plataformas y la gobernanza de IA, en lugar de centralizarse en el proveedor del modelo.

3.3 Modelo Operativo y Madurez

El documento define un modelo de madurez para la adopción:

• Etapa 0 (Offline): Datos sintéticos y adaptadores simulados.
• Etapa 1 (POC Controlado): Entorno no productivo con validación de paquetes.
• Etapa 2 (Modo Sombra): Telemetría en vivo limitada con supervisión de analistas.
• Etapa 3 (Producción Controlada): Analistas capacitados, ejecución auditada y controles de presupuesto.
• Etapa 4 (Ingeniería Asistida por Agentes): Los agentes de codificación proponen cambios mediante solicitudes de extracción bajo revisión humana.

También especifica una estructura de puerta del Consejo de Revisión de Ingeniería (ERB) para transitar entre etapas, requiriendo evidencia específica (por ejemplo, registros de auditoría, informes de costos, matrices RACI) antes de la promoción.

4. Resultados y Límites de la Evidencia

El documento no afirma haber demostrado la eficacia en producción multiempresarial ni métricas específicas de mejora en la detección. En cambio, los "resultados" son la plausibilidad del diseño y el protocolo de evaluación en sí mismo.

• Rastreabilidad: El artefacto permite la rastreabilidad de extremo a extremo desde la solicitud del usuario hasta la disposición del analista, permitiendo a los gerentes distinguir entre fallos en la planificación de la IA, fallos en el control de gobernanza y fallos en la adecuación operativa.
• Mitigación de Riesgos: El diseño aborda explícitamente modos de fallo como alucinaciones de esquema, escaneo excesivo de datos, exposición de datos sensibles e inyección de prompts mediante controles específicos (por ejemplo, fundamentación RAG, límites de filas, tratar los registros como evidencia en lugar de instrucciones).
• Reproducibilidad: El estudio propone un paquete de reproducibilidad que incluye tablas sintéticas, plantillas versionadas, archivos de política y manifiestos, permitiendo inspeccionar el artefacto sin exponer la telemetría empresarial en vivo.

5. Significado y Afirmaciones

La importancia del documento radica en replantear las operaciones de seguridad asistidas por IA como un problema de gestión de ingeniería en lugar de un problema puramente técnico o de rendimiento del modelo.

• Marco de Gestión: Proporciona un marco concreto para convertir la IA de una ayuda informal de productividad en una capacidad operativa socio-técnica responsable.
• Gobernanza sobre Fluidez: El mensaje central es que el valor de la IA en trabajos de ingeniería de alto riesgo depende menos de la fluidez del modelo y más de modelos operativos responsables, puertas de evidencia y control gerencial.
• Transferibilidad: Aunque instanciado en KQL/Microsoft, la contribución es la arquitectura de gobernanza (roles, plantillas, puertas de políticas, madurez de la evidencia) aplicable a otras funciones técnicas de alto riesgo como la automatización de infraestructura y el análisis crítico para la seguridad.
• Afirmaciones Modestas: Los autores declaran explícitamente que el artefacto no es un reemplazo para los analistas del SOC ni un algoritmo de detección universal. Es una arquitectura de gobernanza diseñada para ayudar a los gerentes a controlar el trabajo habilitado por IA, reservando las afirmaciones de eficacia en producción para futuras evaluaciones naturalistas.

En resumen, el estudio contribuye con un artefacto de ciencia de diseño y un marco de gestión que especifica cómo gobernar el soporte de decisiones operativas asistido por IA en infraestructura digital de alto riesgo, asegurando que se preserven la validez técnica, la auditabilidad, la privacidad y la disciplina de costos.