What is Human in Judgment? Comparing Automation Bias and Algorithm Aversion Between the United States Military Academy and the General Public

Resumen Técnico: ¿Humano en el Juicio? Comparando el Sesgo de Automatización y la Aversión al Algoritmo entre la Academia Militar de los Estados Unidos y el Público General

Declaración del Problema
A medida que los ejércitos integran cada vez más Sistemas de Soporte a la Decisión (DSS) basados en Inteligencia Artificial (IA) en sus estructuras de mando, desde el mantenimiento predictivo hasta el reconocimiento automático de objetivos, el papel del juicio humano en la escalada de conflictos y la guerra sigue siendo central. Sin embargo, la interacción entre los operadores humanos y los sistemas automatizados introduce riesgos cognitivos específicos: el sesgo de automatización (la tendencia a confiar en exceso en las recomendaciones algorítmicas, lo que conduce a errores de comisión u omisión) y la aversión al algoritmo (el rechazo prematuro de los resultados automatizados en favor del juicio humano). Aunque la literatura existente destaca estos riesgos en contextos civiles, existe una brecha significativa en la investigación conductual sobre cómo el personal militar, específicamente los futuros oficiales, interactúa con los DSS de IA. El problema central abordado es si la formación militar y la exposición a la IA mitigan estas distorsiones cognitivas o si los operadores militares siguen siendo susceptibles a los mismos sesgos que el público general, lo que potencialmente aumentaría el riesgo de errores de cálculo y una escalada accidental en entornos de alto riesgo.

Metodología
El estudio emplea un diseño experimental de encuesta comparativa para probar la susceptibilidad al sesgo de automatización y a la aversión al algoritmo.

• Muestras: Los autores comparan dos grupos distintos:
  1. Cadetes de West Point (USMA): 236 cadetes de la Academia Militar de los Estados Unidos, encuestados en mayo de 2025. Este grupo representa un subconjunto demográficamente específico de futuros líderes militares que reciben formación obligatoria en combate, toma de decisiones y fundamentos de la IA.
  2. Público General: Una muestra demográficamente emparejada de 702 encuestados de una encuesta transnacional (Horowitz y Kahn, 2024), restringida a individuos de 25 años o menos con educación universitaria para garantizar la comparabilidad con la muestra de cadetes.
• Tarea Experimental: Los participantes realizaron una tarea de identificación de objetivos que implicaba la clasificación de aeronaves (amigas vs. adversarias) basada en características visuales (afinación del ala, forma de la punta del ala, forma de la cola).
• Diseño: Un diseño intra-sujeto, pre-post, donde los participantes realizaron una clasificación inicial, recibieron una recomendación de un Sistema de Soporte a la Decisión (DSS) y luego tuvieron la oportunidad de revisar su identificación.
• Tratamientos: El estudio utilizó una estructura factorial 2x4 (más una condición de control) manipulando:
  • Fuente: Analista Humano vs. Algoritmo de IA.
  • Nivel de Confianza: Alta (pruebas/entrenamiento extensos) vs. Baja (en proceso de pruebas/entrenamiento).
  • Precisión: Las recomendaciones se aleatorizaron para ser precisas o imprecisas.
• Variables:
  • Variable Dependiente: La decisión binaria de "cambiar" una identificación inicial después de recibir asesoramiento.
  • Variables Independientes: "Antecedentes de IA" (un índice que agrupa conocimientos, familiaridad y experiencia), confianza en la IA y grupo de muestra (USMA vs. Público).
  • Codificación de Resultados: El "sesgo de automatización" se definió como seguir consejos incorrectos; la "aversión al algoritmo" se definió como rechazar consejos correctos.

Resultados Clave
El estudio arroja varias hallazgos estadísticamente significativos sobre la calibración cognitiva de los cadetes militares en comparación con el público general:

1. Competencia Básica en IA: Los cadetes de West Point demostraron niveles significativamente más altos de conocimiento, familiaridad y experiencia en IA (p < 0.001) en comparación con la muestra emparejada del público general. También exhibieron un perfil de confianza más matizado: aunque optimistas sobre el potencial de la IA, expresaron mayor cautela respecto a su precisión y limitaciones.
2. Comportamiento de Cambio:
   • Público General: Mostró una tasa general de cambio de identificaciones más alta (0.116) y mostró un sesgo general hacia la automatización, cambiando con más frecuencia cuando el consejo provenía de una IA que de un humano, independientemente de los niveles de confianza.
   • Cadetes de West Point: Exhibieron una tasa base de cambio significativamente menor (0.065). Crucialmente, su comportamiento de cambio fue impulsado por señales de confianza (cambiando casi el doble de veces en condiciones de alta confianza frente a baja confianza) en lugar de la fuente del consejo (IA vs. Humano). Esto sugiere un enfoque en la justificación de la recomendación en lugar del tipo de recomendador.
3. Sesgo de Automatización (Errores de Comisión): En los ensayos donde los participantes recibieron consejos incorrectos que podían verificar visualmente, el público general siguió los consejos incorrectos el 9.0% de las veces. Los cadetes de West Point siguieron los consejos incorrectos solo el 3.9% de las veces. El análisis de regresión confirmó que ser un cadete de West Point redujo significativamente la probabilidad de sesgo de automatización (p < 0.05), incluso al controlar por antecedentes de IA, edad y sexo.
4. Aversión al Algoritmo (Errores de Omisión): Contrario a la hipótesis de que la formación podría reducir la aversión, el estudio encontró ninguna diferencia estadísticamente significativa en las tasas de aversión al algoritmo entre los dos grupos (Público General: 45.1%; West Point: 44.4%). Ambos grupos fueron significativamente más propensos a rechazar consejos correctos que a seguir consejos incorrectos.

Contribuciones Clave

• Evidencia Empírica sobre la IA Militar: Este documento proporciona la primera evidencia experimental directa que compara el sesgo de automatización en una población militar (futuros oficiales) con una muestra del público general demográficamente similar.
• Diferenciación de Tipos de Sesgo: El estudio demuestra empíricamente que el sesgo de automatización y la aversión al algoritmo son fenómenos distintos que pueden requerir estrategias de mitigación diferentes. Los datos sugieren que la formación militar reduce efectivamente la susceptibilidad al sesgo de automatización (confianza excesiva), pero no necesariamente reduce la aversión al algoritmo (confianza insuficiente).
• Papel de la Formación: Los hallazgos desafían la suposición de que los operadores militares son inherentemente más propensos al sesgo de automatización debido a entornos de alta presión. En cambio, los datos sugieren que la educación específica y la exposición a la IA (como la encontrada en la USMA) pueden conducir a una "confianza mejor calibrada", donde los operadores confían en señales de fiabilidad del sistema (por ejemplo, estado de pruebas) en lugar de confiar ciegamente en el algoritmo.

Significado y Afirmaciones
Los autores afirman que sus hallazgos ofrecen una visión "modesta" pero significativa sobre el futuro de la política internacional y los conflictos. El documento argumenta que:

• La Mitigación es Posible: Las consecuencias negativas de los DSS de IA en los errores de cálculo no son inevitables. La educación y la formación militar pueden dar forma significativamente a cómo la IA influye en la toma de decisiones, reduciendo potencialmente el riesgo de accidentes causados por el sesgo de automatización.
• Calibración sobre Confianza Ciega: El objetivo de la integración de la IA militar debería ser la "confianza justificada", donde los operadores están entrenados para distinguir entre resultados algorítmicos de alta y baja confianza, en lugar de simplemente confiar o desconfiar de la tecnología.
• Limitaciones y Direcciones Futuras: Los autores notan explícitamente que sus resultados se limitan a una demografía específica (cadetes jóvenes, educados, de la USMA) y a un tipo específico de sesgo (errores de comisión). No afirman que todo el personal militar sea inmune al sesgo, ni sugieren que los Procedimientos Operativos Estándar (SOP) organizacionales no puedan anular la formación individual. Solicitan más investigación sobre oficiales no comisionados, diferentes ramas y oficiales de carrera mayores para determinar si el modelo de formación de la USMA es escalable o si otros grupos siguen siendo más susceptibles a distorsiones cognitivas.

En última instancia, el documento postula que, aunque la IA introduce nuevos riesgos para la toma de decisiones en crisis, la agencia humana, específicamente cuando se apoya en una educación dirigida, sigue siendo una variable crítica para prevenir la erosión del juicio apropiado en la guerra y la paz.