🤖 AI

A Framework for Using and Evaluating LLMs as Surrogate Experts in Security Surveys: Reliability, Bias, and Implications

Este artículo presenta un marco que demuestra que, si bien los LLM pueden generar respuestas sintéticas consistentes para encuestas de seguridad, exhiben sesgos sistemáticos y homogeneización que los hacen adecuados para el pilotaje y la generación de hipótesis, pero insuficientes para reemplazar la verdadera elicitación de expertos.

Autores originales: Despoina Giarimpampa, Roland Meier, Tegawendé F. Bissyandé, Vincent Lenders, Jacques Klein

Publicado 2026-08-19

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Despoina Giarimpampa, Roland Meier, Tegawendé F. Bissyandé, Vincent Lenders, Jacques Klein

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el mundo de alto riesgo de la ciberseguridad, comprender cómo piensan los expertos humanos es crucial. Cuando ocurre una brecha de seguridad, las decisiones tomadas por los analistas en un Centro de Operaciones de Seguridad (SOC) pueden determinar si una amenaza se contiene o se propaga por una red. Para comprender estos procesos de toma de decisiones, los investigadores suelen recurrir a encuestas y entrevistas con estos profesionales. Sin embargo, encontrar suficientes expertos para responder a estas encuestas es notoriamente difícil. Estos especialistas suelen estar sobrecargados de trabajo, lidiando con alertas constantes y la amenaza del agotamiento, y muchos trabajan bajo estrictas reglas de confidencialidad que les impiden compartir detalles sobre su labor diaria. Como resultado, los estudios suelen sufrir de muestras pequeñas, lo que deja a los investigadores con imágenes incompletas de la industria.

Recientemente, ha surgido una nueva herramienta que promete solucionar esta escasez: los modelos de lenguaje extensos. Estos son programas informáticos avanzados entrenados en vastas cantidades de escritura humana, capaces de generar texto que suena notablemente como una persona. Algunos investigadores han comenzado a preguntarse si estas inteligencias artificiales podrían actuar como sustitutos de los expertos reales, llenando los vacíos de los datos de las encuestas mediante la generación de miles de respuestas sintéticas. La idea es atractiva: si una computadora puede imitar a un experto, podría permitir a los científicos probar sus preguntas, explorar diferentes escenarios y recopilar datos sin necesidad de rastrear a humanos ocupados. Pero una pregunta crítica permanece: ¿puede una máquina pensar realmente como un profesional de la seguridad, o simplemente produce una imitación convincente que carece de los matices de la experiencia humana real?

Un equipo de investigadores se propuso responder a esta pregunta construyendo un marco riguroso para probar si estos modelos artificiales podrían servir como sustitutos fiables de los expertos humanos en las encuestas de seguridad. No se limitaron a hacerle a los modelos algunas preguntas y ver qué pasaba; en su lugar, diseñaron un experimento exhaustivo para ver si las respuestas generadas por computadora resistían el escrutinio. Los investigadores recopilaron datos reales de encuestas de seis profesionales de la ciberseguridad que trabajaban en diferentes sectores, desde la atención médica hasta las finanzas. Estos expertos tenían distintos niveles de experiencia y desempeñaban diferentes roles, como gerentes, analistas y especialistas. Luego, los investigadores pidieron a seis modelos de lenguaje extensos diferentes que simularan a estos expertos específicos, creando identidades digitales que coincidieran con los antecedentes y cargos laborales de las personas reales.

El experimento se llevó a cabo de tres maneras distintas para probar los modelos desde todos los ángulos. Primero, los investigadores pidieron a los modelos que actuaran como expertos individuales, intentando replicar las opiniones específicas de los humanos reales. Segundo, pidieron a los modelos que generaran los patrones generales de un grupo completo, simulando los resultados agregados de una encuesta a gran escala. Finalmente, probaron los modelos a lo largo del tiempo, pidiéndoles que predijeran cómo habían cambiado las opiniones de los expertos a través de varios años de datos del mundo real. Durante todo este proceso, los investigadores ejecutaron cada simulación varias veces para ver si los modelos daban las mismas respuestas al hacer la misma pregunta repetidamente, verificando la consistencia y la estabilidad.

Los resultados revelaron una brecha clara y significativa entre las simulaciones artificiales y la realidad humana. Si bien los modelos de lenguaje extensos eran notablemente consistentes consigo mismos —a menudo dando la misma respuesta al recibir la misma pregunta varias veces—, no lograron capturar la verdadera diversidad del pensamiento humano. Los verdaderos expertos en seguridad mostraban una amplia gama de opiniones; algunos estaban seguros de sus elecciones, mientras que otros tenían dudas, y sus respuestas variaban según sus experiencias específicas y las presiones únicas de sus lugares de trabajo. En contraste, los modelos tendían a converger en una única respuesta segura y de punto medio. Suavizaron los desacuerdos e incertidumbres que son naturales en los expertos humanos, produciendo respuestas que eran demasiado uniformes y demasiado corteses.

Cuando los investigadores compararon la distribución de las respuestas de los modelos frente a los datos reales, los modelos parecían estar captando la forma general de los datos, pero estaban perdiendo los detalles. Tendían a evitar las opiniones extremas o poco comunes, agrupando sus respuestas alrededor del promedio. Este "sesgo de tendencia central" significaba que, si bien los modelos podían generar un resultado de encuesta de apariencia plausible, estaban borrando efectivamente las variaciones que hacen valiosa la experiencia humana. Por ejemplo, cuando se les preguntaba sobre los desafíos de adoptar nuevas herramientas, los expertos reales destacaban obstáculos operativos específicos y crudos, mientras que los modelos ofrecían dificultades genéricas, de estilo de libro de texto, que carecían de la textura de la práctica real.

El estudio también examinó si estos modelos podían rastrear los cambios en la industria a lo largo del tiempo. Los investigadores descubrieron que los modelos eran mayormente insensibles al tiempo. Incluso cuando se les pedía simular respuestas de diferentes años, los modelos producían los mismos patrones estáticos, fallando en reflejar la naturaleza evolutiva de las amenazas y prácticas de ciberseguridad. Esto sugiere que los modelos no están "aprendiendo" o adaptándose a la nueva información de la manera en que lo haría un experto humano; en su lugar, están recordando un conjunto fijo de conceptos que no cambian con el tiempo. Esta falta de conciencia temporal significa que no pueden ser confiables para predecir cómo podrían cambiar las opiniones de los expertos en el futuro o para reflejar con precisión las tendencias históricas.

En última instancia, los investigadores concluyeron que, si bien estos modelos de lenguaje extensos son herramientas poderosas, no están listos para reemplazar a los expertos humanos en la investigación de seguridad. Los modelos son excelentes para las etapas iniciales de un estudio, como ayudar a los investigadores a redactar preguntas de encuesta, probar si una pregunta es clara o generar escenarios hipotéticos para explorar. Pueden servir como una plataforma útil para intercambiar ideas. Sin embargo, nunca deben utilizarse para reemplazar la recopilación real de opiniones de expertos. La naturaleza única, variada y a veces contradictoria del juicio humano es algo que no puede ser sintetizado por un algoritmo. Para comprender el mundo real de la ciberseguridad, los investigadores aún deben confiar en los conocimientos desordenados, complejos e invaluables de los humanos que viven y trabajan dentro de él. El estudio sirve como una guía vital, asegurando que, a medida que el campo adopta nuevas tecnologías, no pierda de vista la experiencia humana que sigue siendo la base de la seguridad.

Resumen Técnico: Un Marco para el Uso y la Evaluación de LLMs como Expertos Sustitutos en Encuestas de Seguridad

1. Planteamiento del Problema

La investigación en seguridad, particularmente dentro de los Centros de Operaciones de Seguridad (SOC), depende en gran medida de la elicitación de expertos mediante encuestas y entrevistas para comprender los flujos de trabajo, la toma de decisiones y la madurez organizacional de los profesionales. Sin embargo, reclutar expertos en el dominio es cada vez más difícil debido a las altas cargas de trabajo, el agotamiento (burnout), la escasez de personal y las restricciones de confidencialidad. Estos desafíos resultan frecuentemente en tamaños de muestra reducidos, bajas tasas de respuesta (que promedian un ~44% en encuestas en línea) e información frágil.

Si bien los Modelos de Lenguaje de Gran Escala (LLMs) ofrecen una solución potencial al generar respuestas sintéticas a escala, existe una falta crítica de orientación metodológica sobre su fiabilidad como participantes sustitutos. Los trabajos previos sugieren riesgos que incluyen la alucinación, el acuerdo exagerado y la suavización de los desacuerdos genuinos. Además, las evaluaciones existentes suelen carecer de comparaciones rigurosas frente a expertos del dominio, no logran evaluar la estabilidad entre ejecuciones o no consideran la generalización temporal. El problema central abordado es determinar si los encuestados sintéticos pueden representar con precisión las perspectivas humanas en las encuestas de ciberseguridad o si introducen sesgos sistemáticos que comprometen la validez de la investigación.

2. Metodología

Los autores proponen un marco metodológico general y reproducible para evaluar los LLMs como participantes sustitutos. Este marco se instancia a través de tres escenarios experimentales distintos para evaluar diferentes modos de simulación de encuestas:

El Marco de Evaluación

El marco consta de cuatro componentes principales:

Representación de la Encuesta: Las preguntas se codifican como ítems categóricos, de opción múltiple o de escala Likert con un formato estandarizado.
Enmarcado de Prompts y Condicionamiento de Rol: Los prompts definen la tarea y el formato de respuesta, incluyendo metadatos de la persona (ej. rol, industria), pero excluyen estrictamente ejemplos de respuestas (independencia zero-shot) para revelar los sesgos inductivos inherentes.
Estrategia de Muestreo: Para dar cuenta de la estocasticidad, cada modelo es consultado diez veces bajo condiciones idénticas por configuración. Esto permite la estimación de la estabilidad, la dispersión y la variabilidad entre ejecuciones.
Agregación y Representación: Las salidas se agregan utilizando reglas apropiadas para encuestas (ej. voto por pluralidad para categorías, mediana para escalas Likert) para formar respuestas comparables.

Escenarios Experimentales

Escenario 1: Simulación de Experto Individual: Los autores recolectaron respuestas de seis profesionales reales de SOC (gerentes, analistas, especialistas) y las compararon con LLMs instruidos para simular personas expertas coincidentes.
Escenario 2: Replicación de Distribución Agregada: Se solicitó a los LLMs generar distribuciones de respuesta a nivel poblacional basadas en estadísticas de resumen de un estudio previo de profesionales sobre el triaje de alarmas en SOC.
Escenario 3: Análisis de Robustez Temporal: Utilizando informes de encuestas SOC de SANS de 2017–2025, los autores evaluaron si los LLMs podían rastrear los cambios temporales en las respuestas de los profesionales, incluyendo puntos de datos antes y después de los cortes de entrenamiento de los modelos.

Modelos y Métricas

Se evaluaron seis LLMs (GPT-4o, GPT-4, DeepSeek, Llama 3.1-8B, Llama 3.2-3B, Gemini Flash), además de GPT-3.5-turbo para el contraste temporal. Las métricas de evaluación incluyeron:

Medidas de Acuerdo: Tasas de coincidencia exacta, similitud de Jaccard/Hamming y diferencias de mediana absoluta.
Divergencia Distribucional: Divergencia de Jensen–Shannon (JSD) y divergencia de Pearson $\chi^2$ para comparar las distribuciones sintéticas contra líneas base humanas.
Estabilidad: Consistencia intra-LLM (repetibilidad entre ejecuciones) y acuerdo inter-LLM.

3. Contribuciones Principales

El artículo realiza cuatro contribuciones primarias:

Marco Metodológico: Un marco generalizable para usar y evaluar LLMs como participantes sustitutos en encuestas de expertos en ciberseguridad.
Comparación Empírica: Una comparación exhaustiva entre expertos reales de SOC y encuestados generados por LLM a través de entornos individuales, agregados y temporales.
Identificación de Modos de Fallo: La identificación sistemática de sesgos específicos en los datos de encuestas generados por LLM, incluyendo la reducción de la varianza, el sesgo de tendencia central y la opinión homogeneizada.
Análisis de Factores Humanos: Una evaluación de los riesgos asociados con los encuestados sintéticos, específicamente la pérdida de variabilidad experta y la representación errónea de las perspectivas de los profesionales.

4. Resultados

El estudio arroja varios hallazgos críticos sobre la fiabilidad de los LLMs en este contexto:

Nivel Individual (Escenario 1): Aunque los LLMs producen respuestas internamente consistentes cuando se les proporciona una persona específica, divergen sistemáticamente de los expertos humanos. El acuerdo inter-LLM es bajo y la alineación con las respuestas humanas es débil (a menudo cero). Los modelos no convergen en respuestas simuladas similares, ni se aproximan a los juicios de expertos individuales.
Nivel Agregado (Escenario 2): Los LLMs generan distribuciones agregadas altamente estables a través de ejecuciones repetidas. Sin embargo, mientras que la similitud por pares (JSD) sugiere que los modelos producen formas distribucionales ampliamente similares, las medidas de divergencia absoluta ( $\chi^2$ ) revelan grandes discrepancias con las líneas base humanas. Los modelos tienden a sobreasignar masa de probabilidad a opciones raras y no logran reproducir fielmente las proporciones específicas de las respuestas de los profesionales.
Nivel Temporal (Escenario 3): Las distribuciones generadas por LLM son insensibles al tiempo. La alineación con los datos de encuestas humanas permanece consistentemente baja en todos los años (2017–2025) y no mejora para los años previos al corte de entrenamiento ni se degrada para los años posteriores al corte. Los modelos no logran rastrear los cambios históricos en las respuestas de los profesionales, lo que sugiere que reproducen conocimiento conceptual estático en lugar de un juicio profesional evolutivo.
Sesgos Sistemáticos: El análisis cualitativo y cuantitativo confirma que los LLM exhiben reducción de la varianza, sesgo de tendencia central (convergencia hacia respuestas moderadas) y opiniones homogeneizadas. Tienden a reflejar mejores prácticas genéricas en lugar de las realidades matizadas, conflictivas y dependientes del contexto de los expertos humanos.

5. Significado y Reivindicaciones

El artículo concluye con una postura modesta pero firme sobre el papel de los LLM en la investigación de seguridad:

No son un Reemplazo: Los LLM no son adecuados como reemplazos para la elicitación de expertos humanos en encuestas de ciberseguridad. Su divergencia sistemática de la variabilidad humana y su incapacidad para capturar la diversidad de las perspectivas de los profesionales limitan su validez como participantes sustitutos para extraer conclusiones empíricas sobre las operaciones de seguridad.
Útiles para Pilotaje y Generación de Hipótesis: Los autores argumentan que los LLM son valiosos como herramientas de aumento. Su controlabilidad y escalabilidad los hacen efectivos para:
- Pilotar instrumentos de encuesta.
  la puesta a prueba de diseños de cuestionarios.
- Explorar poblaciones contrafactuales.
- Generar hipótesis para investigaciones posteriores lideradas por humanos.
Orientación Metodológica: El trabajo proporciona orientación práctica para investigadores, enfatizando que las respuestas sintéticas deben tratarse como muestras estocásticas de distribuciones específicas del modelo, en lugar de opiniones expertas autoritativas. Los investigadores deben aplicar salvaguardas metodológicas y reportar transparentemente las limitaciones de las encuestas aumentadas por LLM para preservar la integridad de la investigación de seguridad centrada en el humano.

Los autores declaran explícitamente que, si bien los LLM pueden apoyar el proceso de investigación, no pueden sustituir el juicio matizado y consciente del contexto de los profesionales humanos, y confiar en ellos como tal conlleva el riesgo de inducir conclusiones erróneas y la erosión de la variabilidad experta en los estudios de seguridad.