💻 computer science

Explainable artificial intelligence in interface design influences user outcomes and cybersecurity literacy

Cette étude démontre que l'intégration de l'intelligence artificielle explicable (XAI) dans les outils de conception d'interfaces améliore significativement les résultats des utilisateurs, notamment la confiance créative, l'apprentissage perçu, la confiance, l'autonomie et l'utilisabilité, lors de tâches de conception d'interface utilisateur, suggérant que la XAI favorise un engagement critique envers les recommandations de l'IA tout en soulignant la nécessité de recherches futures pour mesurer directement son impact sur les comportements de littératie en matière de cybersécurité et de confidentialité.

Auteurs originaux : Ahmed Al-sa'di, Mahmoud Al-Sarayreh, Esraa Ahmad

Publié 2026-09-25

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Ahmed Al-sa'di, Mahmoud Al-Sarayreh, Esraa Ahmad

Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Dans le monde numérique, les écrans que nous touchons et les boutons sur lesquels nous cliquons ne sont pas neutres. Ils sont conçus avec une intention spécifique, parfois pour nous guider avec douceur et d'autres fois pour nous orienter vers des choix que nous ne ferions pas si nous réfléchissions plus attentivement. Ces conceptions manipulatrices, souvent appelées « dark patterns » (interfaces truquées), exploitent le fonctionnement de notre cerveau. Elles utilisent des astuces visuelles, des mises en page déroutantes et des paramètres par défaut automatiques pour nous inciter à partager nos données personnelles, à accepter des autorisations intrusives ou à souscrire à des paiements récurrents sans pleinement réaliser le coût. Le problème n'est pas seulement l'existence de ces conceptions, mais le fait qu'elles reposent sur notre rapidité et notre inattention. Lorsqu'une décision semble facile et nécessite peu d'effort, nous cliquons souvent sans nous poser de questions. Pour nous protéger, nous avons besoin de plus que de simples connaissances ; nous avons besoin d'interfaces qui nous encouragent à faire une pause, à regarder de plus près et à comprendre ce qui nous est demandé.

C'est ici qu'intervient l'idée de l'intelligence artificielle explicable. Imaginez un programme informatique qui vous aide à concevoir un site web ou une application. Une version standard d'un tel outil pourrait simplement proposer une suggestion : « Placez ce bouton ici. » Elle donne la réponse, mais pas le raisonnement. Une version explicable, cependant, fait plus. Elle propose la même suggestion, mais fournit également une explication claire de la raison pour laquelle elle a été faite, des compromis qui ont été pris et du degré de confiance du système dans son choix. L'objectif est de transformer l'utilisateur passif en un partenaire actif capable d'évaluer le conseil plutôt que de simplement l'accepter. Les chercheurs se demandent depuis longtemps si cette couche supplémentaire de transparence aide réellement les gens à apprendre, à faire davantage confiance au système et à se sentir plus en contrôle de leurs propres décisions.

Une équipe de chercheurs a entrepris de tester cette idée lors d'une expérience contrôlée impliquant 128 participants. Ils ont demandé à ces individus d'accomplir une tâche spécifique : concevoir un tableau de bord pour une équipe de recherche en santé. Le tableau de bord devait aider les chercheurs à suivre les chiffres de recrutement, les échéances et les rapports pour plusieurs études en cours. Les participants disposaient de trente minutes pour créer des composants d'interface pour ce scénario à l'aide d'un outil assisté par l'IA. Les chercheurs ont divisé le groupe en deux équipes. Une équipe utilisait un outil d'IA standard qui proposait des suggestions de conception sans aucun contexte supplémentaire. L'autre équipe utilisait un outil d'IA explicable qui présentait les mêmes suggestions, mais incluait un panneau expliquant les principes de conception, le contexte et les compromis potentiels pour chaque recommandation.

Les résultats ont montré une différence claire dans la manière dont les deux groupes ont vécu la tâche. Ceux qui utilisaient l'outil explicable ont fait état d'un renforcement significatif de leur confiance créative. Avant la tâche, leur croyance en leur capacité à générer des idées était plus faible, mais après, elle a augmenté bien plus haut que pour le groupe utilisant l'outil standard. Le groupe « explicable » a également estimé avoir appris davantage de l'expérience, a fait plus confiance aux suggestions de l'IA et s'est senti doté d'un sentiment d'autonomie plus fort sur ses décisions finales. Ils ont jugé le système beaucoup plus utilisable et engageant. En fait, le groupe disposant des explications a interagi avec l'interface beaucoup plus souvent, ouvrant les panneaux d'explication pour lire les détails, tandis que l'autre groupe a cliqué sur moins d'éléments informatifs.

Cependant, les chercheurs ont été prudents quant à la signification réelle de ces résultats. Bien que les participants se soient sentis plus confiants et aient appris davantage pendant la tâche de conception, l'étude n'a pas testé si cette expérience les rendait plus aptes à repérer les conceptions trompeuses dans le monde réel. L'expérience n'incluait aucun test de littératie en matière de confidentialité, et n'a pas mesuré si les participants pouvaient résister aux « dark patterns » lorsqu'ils y étaient confrontés ultérieurement. L'étude a explicitement écarté l'idée qu'ils avaient prouvé que l'IA explicable crée un bouclier contre la manipulation. Au lieu de cela, les conclusions suggèrent que le fait de fournir des raisons aux côtés des suggestions de l'IA améliore l'expérience immédiate d'utilisation de l'outil et aide les utilisateurs à se sentir plus capables et informés durant le processus de conception.

L'étude a également souligné que les bénéfices n'étaient pas limités à ceux qui étaient déjà experts en technologie. Même les participants ayant moins de familiarité avec l'intelligence artificielle ont montré des gains de confiance et d'apprentissage lorsqu'ils avaient accès aux explications. Cela suggère que la valeur de la transparence n'est pas seulement destinée aux technophiles, mais peut soutenir un éventail plus large d'utilisateurs. Pourtant, les auteurs ont noté que l'expérience était une session unique d'environ quarante-cinq minutes. Ils ne pouvaient pas déterminer si ces sentiments de confiance et de confiance envers le système dureraient dans le temps ou s'ils se transféreraient à d'autres situations, telles que la prise de décisions concernant les données personnelles ou la sécurité.

En fin de compte, la recherche pointe vers une direction prometteuse pour la façon dont nous interagissons avec les systèmes intelligents. En ajoutant des explications aux suggestions de l'IA, les concepteurs peuvent créer des outils qui permettent aux utilisateurs de se sentir plus en contrôle et plus disposés à s'engager de manière critique avec la technologie. Cette approche s'aligne sur les efforts réglementaires croissants, tels que ceux de l'Union européenne, qui exigent que les systèmes d'IA à haut risque soient suffisamment transparents pour que les utilisateurs puissent les comprendre et les utiliser correctement. Bien que cette étude n'ait pas résolu le problème plus large de la cybersécurité ou de la manipulation de la vie privée, elle a démontré que lorsqu'un outil d'IA prend le temps d'expliquer son raisonnement, les gens se sentent plus confiants, apprennent davantage et font plus confiance au processus. La prochaine étape pour la science est de voir si cet engagement accru peut se traduire par une protection réelle contre les conceptions trompeuses qui menacent nos vies numériques.

Résumé Technique : L'Intelligence Artificielle Explicable dans la Conception d'Interfaces Influence les Résultats des Utilisateurs et la Littératie en Cybersécurité

1. Énoncé du Problème

L'article traite de l'intersection entre la conception d'interface, l'intelligence artificielle (IA) et la littératie de l'utilisateur en matière de sécurité. Il postule que les « dark patterns » (interfaces conçues pour manipuler les utilisateurs vers des choix contraires à leurs intérêts, tels que la divulgation de données ou les permissions intrusives) exploitent les contraintes attentionnelles et la prise de décision rapide. Bien que les réglementations comme le Règlement sur les services numériques (DSA) et l'IA Act de l'UE imposent la transparence, la simple transparence ne garantit pas la littératie ou le comportement protecteur de l'utilisateur.

Le problème central étudié est de savoir si l'Intelligence Artificielle Explicable (XAI), lorsqu'elle est intégrée aux outils de conception d'interface, peut favoriser des compétences pertinentes pour la confidentialité et la cybersécurité. Plus précisément, les auteurs se demandent si le fait de fournir des justifications et des compromis aux côtés des recommandations générées par l'IA encourage les utilisateurs à marquer une pause, à évaluer de manière critique et à s'engager plus profondément avec les sorties du système, afin de potentiellement développer le « engagement critique » nécessaire pour résister aux interfaces trompeuses. L'étude note un manque de preuves concernant la question de savoir si l'interaction soutenue par l'explication développe réellement ces compétences ou si elle augmente simplement la confiance sans améliorer le calibrage de la prise de décision.

2. Méthodologie

L'étude a utilisé une expérience contrôlée entre groupes avec 128 participants recrutés via Prolific. Les participants ont été assignés aléatoirement à l'une des deux conditions suivantes :

Condition XAI ( $n=64$ ) : Les participants ont utilisé un outil de conception d'UI assisté par IA où chaque suggestion de conception était accompagnée d'un panneau d'explication. Ce panneau comprenait la justification de la conception, les considérations contextuelles, les compromis potentiels et un indicateur de confiance.
Condition IA Standard ( $n=64$ ) : Les participants ont utilisé le même outil et ont reçu des suggestions de conception identiques, mais sans le panneau d'explication dédié.

Tâche :
Les participants ont réalisé une tâche de conception d'UI de 30 minutes axée sur l'amélioration d'un tableau de bord pour l'administration de la recherche en santé (surveillance du recrutement et des échéances). La tâche était explicitement non clinique afin d'éviter d'exiger des connaissances médicales.

Mesures :

Confiance Créative : Mesurée via une échelle de Likert à 3 items pré- et post-tâche pour calculer le « gain ».
Perceptions Post-Tâche : Confiance rapportée, autonomie perçue et apprentissage perçu (échelles de Likert à 3 items chacune).
Utilisabilité : Mesurée à l'aide du System Usability Scale (SUS).
Qualité de la Tâche : Évaluée par deux évaluateurs en aveugle sur une échelle de 0 à 100.
Interactions Enregistrées : Nombre d'interactions utilisateurs enregistré automatiquement (ouverture des panneaux d'explication dans la condition XAI vs clics sur les info-bulles/métadonnées dans la condition Standard).
Covariables : La familiarité préalable avec l'IA et l'expérience en conception d'UI ont été stratifiées lors du recrutement.

Analyse :
Les données ont été analysées par des tests t pour échantillons indépendants pour les différences entre les groupes, des tests t appariés pour les changements intra-groupes, et des corrélations de Pearson. Des modèles de régression hiérarchique ont été utilisés pour évaluer les prédicteurs du gain de confiance créative. La taille de l'effet a été rapportée via le $d$ de Cohen.

3. Résultats Clés

L'étude a révélé des différences statistiquement significatives en faveur de la condition XAI à travers plusieurs mesures comportementales et auto-rapportées :

Confiance Créative : Le groupe XAI a montré un gain de confiance créative significativement plus élevé ( $d=0,68$ ) que le groupe Standard. Les deux groupes se sont améliorés, mais le groupe XAI s'est davantage amélioré.
Apprentissage Perçu : La condition XAI a produit une taille d'effet importante pour l'apprentissage perçu ( $d=1,17$ ), indiquant que les participants ont eu le sentiment d'avoir plus appris de la tâche.
Confiance Rapportée : La confiance envers l'outil d'IA était significativement plus élevée dans la condition XAI ( $d=0,97$ ).
Autonomie Perçue : Les participants de la condition XAI ont rapporté une autonomie perçue plus élevée ( $d=0,42$ ).
Utilisabilité : Le score SUS était significativement plus élevé pour la condition XAI ( $M=71,52$ ) que pour la condition Standard ( $M=58,36$ ), avec une taille d'effet de $d=1,78$ . La moyenne du groupe XAI a dépassé le seuil « supérieur à la moyenne » (68), contrairement au groupe Standard.
Qualité de la Tâche : Le groupe XAI a produit des designs de meilleure qualité ( $M=82,80$ ) que le groupe Standard ( $M=75,54$ ), avec une taille d'effet importante ( $d=0,97$ ).
Interactions Enregistrées : Les comptes d'interactions étaient significativement plus élevés dans la condition XAI ( $d=2,66$ ). Cependant, les auteurs notent que ces comptes représentent des actions différentes (ouverture de panneaux vs clics sur info-bulles) et ne doivent pas être traités comme des mesures d'engagement équivalentes.
Corrélations : Sur l'ensemble de l'échantillon, les comptes d'interactions enregistrés étaient positivement corrélés avec l'apprentissage perçu, l'utilisabilité, la confiance rapportée et la qualité de la tâche. Cependant, dans le groupe Standard, les comptes d'interactions n'étaient corrélés à aucun résultat.

4. Contributions Clés

L'article apporte une preuve empirique que la conception d'interface enrichie par la XAI influence positivement les résultats des utilisateurs lors de tâches assistées par l'IA. Plus précisément, il démontre que le fait de fournir des justifications et des compromis aux côtés des suggestions de l'IA :

Augmente la confiance créative et l'apprentissage perçu.
Améliore la confiance rapportée et l'autonomie perçue.
Améliore l'utilisabilité du système et la qualité de la tâche.
Encourage des niveaux d'interaction plus élevés avec l'interface.

L'étude soutient l'hypothèse selon laquelle les explications peuvent servir de caractéristique d'interface favorisant l'engagement critique avec les recommandations de l'IA, allant au-delà de la simple transparence pour viser une implication active de l'utilisateur.

5. Signification et Revendications

Les auteurs maintiennent un champ de portée modeste et précis concernant la signification de leurs résultats :

Pertinence pour la Littératie, non Preuve de Résilience : L'article stipule explicitement que les résultats ne démontrent pas que la XAI améliore la littératie en matière de confidentialité, la littératie en cybersécurité ou la résistance aux dark patterns. L'étude n'a pas mesuré la reconnaissance des dark patterns, les comportements d'évitement ou le calibrage de la confiance (l'alignement de la confiance avec l'exactitude du système).
Potentiel vs Démontré : Les conclusions suggèrent une pertinence potentielle pour la littératie en matière de confidentialité et de cybersécurité. Les auteurs soutiennent qu'en favorisant l'engagement critique et l'autonomie perçue lors d'une tâche de conception, la XAI pourrait informer de futures interventions pour les décisions de confidentialité. Cependant, le transfert direct vers des contextes de sécurité (par exemple, résister au phishing ou aux flux de consentement trompeurs) reste une question ouverte nécessitant des tests distincts.
Calibrage de la Confiance : L'étude a trouvé une confiance rapportée plus élevée dans le groupe XAI, mais précise que cela ne équivaut pas à une confiance calibrée. Une confiance accrue sans mesures d'exactitude pourrait potentiellement mener à une dépendance excessive si l'IA se trompe.
Limites : Les auteurs reconnaissent des limites, notamment l'absence de données longitudinales (persistance des effets), la nature spécifique de la tâche (non clinique, non sécuritaire) et la source de recrutement (utilisateurs de Prolific), ce qui peut limiter la généralisation à des populations ayant une littératie numérique plus faible.

En conclusion, l'article établit que les interfaces soutenues par l'explication améliorent l'expérience utilisateur et l'auto-efficacité lors de tâches de conception assistées par l'IA. Les auteurs présentent ces résultats comme une fondation nécessaire pour de futures recherches visant à déterminer si de telles interfaces peuvent effectivement construire une résilience comportementale contre les modèles de conception trompeurs, plutôt que de prétendre avoir résolu directement le problème de la littératie en cybersécurité.