What is Human in Judgment? Comparing Automation Bias and Algorithm Aversion Between the United States Military Academy and the General Public

Résumé technique : L'humain dans le jugement ? Comparaison du biais d'automatisation et de l'aversion aux algorithmes entre l'Académie militaire des États-Unis et le grand public

Énoncé du problème
Alors que les armées intègrent de plus en plus des systèmes d'aide à la décision (SAD) basés sur l'intelligence artificielle (IA) dans leurs structures de commandement — de la maintenance prédictive à la reconnaissance automatique de cibles —, le rôle du jugement humain dans l'escalade des conflits et la guerre demeure central. Cependant, l'interaction entre les opérateurs humains et les systèmes automatisés introduit des risques cognitifs spécifiques : le biais d'automatisation (la tendance à surestimer les recommandations algorithmiques, entraînant des erreurs de commission ou d'omission) et l'aversion aux algorithmes (le rejet prématuré des sorties automatisées en faveur du jugement humain). Alors que la littérature existante met en lumière ces risques dans des contextes civils, il existe un écart significatif dans la recherche comportementale concernant la manière dont le personnel militaire, et plus spécifiquement les futurs officiers, interagissent avec les SAD basés sur l'IA. Le problème central abordé est de savoir si la formation militaire et l'exposition à l'IA atténuent ces distorsions cognitives ou si les opérateurs militaires restent vulnérables aux mêmes biais que le grand public, augmentant potentiellement le risque de miscalculation et d'escalade accidentelle dans des environnements à haut risque.

Méthodologie
L'étude emploie un design d'expérience par enquête comparative pour tester la susceptibilité au biais d'automatisation et à l'aversion aux algorithmes.

• Échantillons : Les auteurs comparent deux groupes distincts :
  1. Cadets de West Point (USMA) : 236 cadets de l'Académie militaire des États-Unis, interrogés en mai 2025. Ce groupe représente un sous-ensemble démographique spécifique de futurs leaders militaires recevant une formation obligatoire en combat, en prise de décision et en fondamentaux de l'IA.
  2. Grand public : Un échantillon démographiquement apparié de 702 répondants issus d'une enquête transnationale (Horowitz et Kahn, 2024), restreint aux individus âgés de 25 ans ou moins et ayant un niveau d'études universitaires pour assurer la comparabilité avec l'échantillon des cadets.
• Tâche expérimentale : Les participants ont effectué une tâche d'identification de cibles impliquant la classification d'aéronefs (amical vs adversaire) basée sur des caractéristiques visuelles (flèche de l'aile, forme de l'extrémité de l'aile, forme de la queue).
• Design : Un design intra-sujet, pré-post, où les participants effectuaient une classification initiale, recevaient une recommandation d'un système d'aide à la décision (SAD), puis avaient la possibilité de réviser leur identification.
• Traitements : L'étude a utilisé une structure factorielle 2x4 (plus une condition témoin) manipulant :
  • Source : Analyste humain vs Algorithme d'IA.
  • Niveau de confiance : Élevé (tests/formation étendus) vs Faible (en cours de tests/formation).
  • Précision : Les recommandations étaient randomisées pour être soit exactes, soit inexactes.
• Variables :
  • Variable dépendante : La décision binaire de « changer » une identification initiale après avoir reçu un avis.
  • Variables indépendantes : « Antécédents en IA » (un indice agrégant connaissances, familiarité et expérience), confiance en l'IA, et groupe d'échantillon (USMA vs Public).
  • Codage des résultats : Le « biais d'automatisation » était défini comme le suivi d'un avis incorrect ; l'« aversion aux algorithmes » était définie comme le rejet d'un avis correct.

Résultats clés
L'étude produit plusieurs résultats statistiquement significatifs concernant l'étalonnage cognitif des cadets militaires par rapport au grand public :

1. Compétence de base en IA : Les cadets de West Point ont démontré des niveaux significativement plus élevés de connaissances, de familiarité et d'expérience en IA (p < 0,001) par rapport à l'échantillon de grand public apparié. Ils ont également fait preuve d'un profil de confiance plus nuancé : bien qu'optimistes quant au potentiel de l'IA, ils ont exprimé une plus grande prudence concernant sa précision et ses limites.
2. Comportement de changement :
   • Grand public : A montré un taux global de changement d'identification plus élevé (0,116) et a affiché un biais général en faveur de l'automatisation, changeant plus souvent lorsque l'avis provenait d'une IA que d'un humain, indépendamment des niveaux de confiance.
   • Cadets de West Point : Ont affiché un taux de changement de base significativement plus faible (0,065). Crucialement, leur comportement de changement était piloté par les signaux de confiance (changement presque deux fois plus fréquent dans les conditions de haute confiance par rapport à la faible confiance) plutôt que par la source de l'avis (IA vs Humain). Cela suggère une focalisation sur la justification de la recommandation plutôt que sur le type de recommandateur.
3. Biais d'automatisation (Erreurs de commission) : Dans les essais où les participants recevaient un avis incorrect qu'ils pouvaient vérifier visuellement, le grand public a suivi l'avis incorrect 9,0 % du temps. Les cadets de West Point n'ont suivi l'avis incorrect que 3,9 % du temps. L'analyse de régression a confirmé que le fait d'être un cadet de West Point réduisait significativement la probabilité de biais d'automatisation (p < 0,05), même en contrôlant les antécédents en IA, l'âge et le sexe.
4. Aversion aux algorithmes (Erreurs d'omission) : Contrairement à l'hypothèse selon laquelle la formation pourrait réduire l'aversion, l'étude n'a trouvé aucune différence statistiquement significative dans les taux d'aversion aux algorithmes entre les deux groupes (Grand public : 45,1 % ; West Point : 44,4 %). Les deux groupes étaient significativement plus susceptibles de rejeter un avis correct que de suivre un avis incorrect.

Contributions clés

• Preuves empiriques sur l'IA militaire : Cet article fournit la première preuve expérimentale directe comparant le biais d'automatisation dans une population militaire (futurs officiers) à un échantillon de grand public démographiquement similaire.
• Différenciation des types de biais : L'étude démontre empiriquement que le biais d'automatisation et l'aversion aux algorithmes sont des phénomènes distincts qui peuvent nécessiter des stratégies d'atténuation différentes. Les données suggèrent que la formation militaire réduit efficacement la susceptibilité au biais d'automatisation (sur-confiance) mais ne réduit pas nécessairement l'aversion aux algorithmes (sous-confiance).
• Rôle de la formation : Les résultats remettent en question l'hypothèse selon laquelle les opérateurs militaires seraient intrinsèquement plus enclins au biais d'automatisation en raison des environnements à haute pression. Au contraire, les données suggèrent qu'une éducation et une exposition spécifiques à l'IA (comme celles trouvées à l'USMA) peuvent conduire à une « confiance mieux étalonnée », où les opérateurs s'appuient sur des signaux de fiabilité du système (par exemple, le statut des tests) plutôt que de faire aveuglément confiance à l'algorithme.

Signification et affirmations
Les auteurs affirment que leurs résultats offrent un aperçu « modeste » mais significatif sur l'avenir de la politique internationale et des conflits. L'article soutient que :

• L'atténuation est possible : Les conséquences négatives des SAD basés sur l'IA sur les miscalculations ne sont pas inévitables. L'éducation et la formation militaires peuvent façonner de manière significative la manière dont l'IA influence la prise de décision, réduisant potentiellement le risque d'accidents causés par le biais d'automatisation.
• Étalonnage plutôt que confiance aveugle : L'objectif de l'intégration de l'IA militaire devrait être une « confiance justifiée », où les opérateurs sont formés à distinguer les sorties algorithmiques de haute et de faible confiance, plutôt que de simplement faire confiance ou se méfier de la technologie.
• Limites et orientations futures : Les auteurs notent explicitement que leurs résultats sont limités à une démographie spécifique (jeunes, éduqués, cadets de l'USMA) et à un type spécifique de biais (erreurs de commission). Ils ne prétendent pas que tout le personnel militaire est immunisé contre les biais, ni ne suggèrent que les procédures opérationnelles standard (POS) organisationnelles ne peuvent pas primer sur la formation individuelle. Ils appellent à davantage de recherches sur les sous-officiers, les différentes branches et les officiers de carrière plus âgés pour déterminer si le modèle de formation de l'USMA est évolutif ou si d'autres groupes restent plus vulnérables aux distorsions cognitives.

En fin de compte, l'article postule que si l'IA introduit de nouveaux risques pour la prise de décision en temps de crise, l'agence humaine — spécifiquement lorsqu'elle est soutenue par une éducation ciblée — demeure une variable critique pour prévenir l'érosion du jugement approprié en temps de guerre et de paix.