🤖 AI

Shaping Human-AI Interactions to Provide Improvement Pathways and Balance Competing Objectives

Cette thèse propose un cadre pour la conception d'interactions humain-IA qui aide simultanément les individus à former des croyances précises afin d'améliorer ou de garantir des résultats favorables, décourage les comportements de manipulation et garantit que le système d'IA maintienne ses objectifs prévus grâce à une combinaison d'analyses théoriques, de modélisation axée sur les données et d'évaluations empiriques.

Auteurs originaux : Keziah Naggita

Publié 2026-08-07

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Keziah Naggita

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un monde où vous êtes constamment jugé par un robot super intelligent. Peut-être qu'un robot décide si vous obtenez un prêt, qu'un robot corrige vos devoirs, ou même qu'un robot dans votre salon décide si votre comportement est « bon ». C'est le monde de l'Intelligence Artificielle (IA) et de l'Apprentissage Automatique (Machine Learning). Mais voici le rebondissement : vous n'êtes pas seulement un sujet passif. Vous êtes une personne dotée d'un cerveau, et vous pouvez comprendre comment le robot réfléchit. Si vous savez que le robot aime les choses « vertes », vous pourriez essayer de rendre votre maison verte, même si vous n'aimez pas vraiment le vert. C'est ce qu'on appelle le comportement stratégique.

Maintenant, imaginez que le robot ait deux façons de réagir à vos changements. Premièrement, vous pourriez manipuler le système. C'est comme un élève qui mémorise exactement les réponses d'un examen blanc sans réellement apprendre les mathématiques. Vous avez l'air bon sur le papier, mais vous n'êtes pas vraiment qualifié. Deuxièmement, vous pourriez vous améliorer. C'est comme l'élève qui étudie réellement, apprend les mathématiques et devient plus intelligent. C'est la vraie méthode. La grande question pour les scientifiques est la suivante : comment concevoir ces robots pour qu'ils encouragent les gens à réellement s'améliorer plutôt qu'à simplement manipuler le système ? Et comment faire pour que le robot ne se fasse pas duper par des personnes qui font simplement semblant ? C'est le casse-tête que Keziah Naggita aborde dans sa thèse de doctorat.

L'histoire de la thèse : Équilibrer les balances

Le travail de Keziah est comme une pièce de théâtre en trois actes, explorant comment les humains et l'IA peuvent danser ensemble sans se marcher sur les pieds. Elle examine cela sous trois angles différents : la façon dont les parents gèrent les enfants qui jouent avec les robots, la manière dont nous pouvons fixer des objectifs qui aident réellement les gens à grandir, et la façon de construire les robots eux-mêmes pour qu'ils distinguent une fausse amélioration d'une vraie.

Acte 1 : Le bambin et le robot parlant

La première partie de l'histoire se déroule dans un salon. Imaginez un enfant frustré parce qu'un robot ne joue pas au jeu qu'il veut. Que se passe-t-il si l'enfant donne un coup de pied au robot ? Ou s'il crie sur une enceinte connectée ? Est-ce qu'un parent réagit différemment si l'appareil ressemble à un petit humain (un robot) plutôt qu'à un écran plat (une tablette) ou à une boîte uniquement vocale (une enceinte connectée) ?

Keziah et son équipe ont demandé à des centaines de parents de regarder des vidéos d'un enfant agissant de manière agressive envers ces différents appareils. Ils voulaient savoir : Est-ce que l'« humanité » du robot change la perception du parent ?

Les résultats ont été surprenants. Les parents étaient nettement plus préoccupés et plus enclins à gronder leur enfant lorsque celui-ci était agressif, quel que soit l'appareil. Cependant, ils ne traitaient pas le robot très différemment de l'enceinte connectée ou de la tablette. Même si les robots ressemblent davantage à des humains, les parents ne semblaient pas éprouver plus de sympathie pour le robot ou considérer qu'il était plus « maltraité » que les autres gadgets. Il s'avère que lorsqu'un enfant est méchant, la réaction d'un parent concerne principalement le comportement de l'enfant, et non le degré d'humanité de l'objet. Cela aide les concepteurs à comprendre que pour empêcher les enfants d'être brusques avec la technologie, nous devrions peut-être nous concentrer davantage sur l'enseignement de la gestion de la frustration, plutôt que de simplement rendre les robots plus mignons.

Acte 2 : Fixer les bons objectifs (L'analogie du jeu vidéo)

Le deuxième acte concerne la fixation d'objectifs. Pensez à un jeu vidéo. Si le premier niveau est trop facile, vous vous ennuyez. Si le niveau du boss est impossible, vous abandonnez. L'objectif est de trouver le niveau « Goldilocks » (juste milieu) : assez difficile pour vous inciter à essayer, mais assez facile pour que vous puissiez gagner.

Kezhiah a étudié comment fixer ces « niveaux cibles » pour les personnes en phase d'amélioration. Elle a découvert un problème délicat : Ajouter plus d'objectifs peut parfois aggraver les choses. Imaginez que vous ayez pour objectif de courir 5 miles. Si vous fixez un nouvel objectif de 2 miles, certaines personnes pourraient arrêter de viser les 5 miles et se contenter des 2 miles. C'est ce qu'on appelle la « non-monotonie » : plus d'options ne signifient pas toujours de meilleurs résultats.

Elle a développé une méthode mathématique pour déterminer l'ensemble parfait d'objectifs afin de maximiser l'amélioration de chacun. Elle a montré que si vous avez différents groupes de personnes (comme des débutants et des experts), vous devez être très prudent. Parfois, un objectif parfait pour un groupe est terrible pour un autre. Son travail fournit une recette aux décideurs politiques et aux enseignants pour fixer des caux qui poussent les gens vers leur meilleur niveau sans les décourager, garantissant que le « jeu » est équitable pour tous.

Acte 3 : Le robot détective (Repérer les faux)

Le dernier acte est le plus complexe. Ici, Keziah examine le cerveau du robot. Le robot doit décider qui obtient un « laissez-passer » (comme un prêt ou un emploi). Mais le robot sait que les gens pourraient essayer de le tromper. Certains s'améliorent réellement (amélioration), tandis que d'autres font simplement semblant (manipulation).

Keziah a demandé : Pouvons-nous construire un classificateur (un décideur) qui récompense les vraies améliorations et ignore les faux ?

Elle a prouvé que c'est incroyablement difficile. En fait, elle a démontré que trouver la manière parfaite de séparer les « bons » joueurs des « tricheurs » est un problème que les ordinateurs pourraient ne jamais résoudre parfaitement si les règles deviennent trop complexes (un concept appelé NP-difficulté). Cependant, elle n'a pas seulement dit que c'était « impossible ». Elle a construit des algorithmes spécifiques pour des situations plus simples.

Par exemple, elle a montré que si le robot est un peu averse au risque (c'est-à-dire qu'il est très prudent avant de donner un « laissez-passer » à quelqu'un qui pourrait simuler), il peut obtenir d'excellents résultats. En étant légèrement plus strict, le robot encourage les gens à réellement améliorer leurs compétences plutôt qu'à simplement truquer les données. Dans ses expériences, ces robots « averses au risque » commettaient moins d'erreurs et permettaient à plus de personnes de devenir véritablement qualifiées, même s'ils étaient un peu plus prudents au départ.

La conclusion principale

La thèse de Keziah est un guide pour le futur de l'interaction humain-IA. Elle nous dit que :

Les enfants restent des enfants : Que le robot ressemble à un humain ou non, les parents réagissent de la même manière face à un mauvais comportement. Nous devons mieux éduquer les enfants, et non simplement fabriquer des robots plus mignons.
Les objectifs comptent : Fixer les bons objectifs est un art délicat. Trop d'objectifs ou de mauvais objectifs peuvent être contre-productifs, mais avec la bonne mathématique, nous pouvons aider chacun à atteindre son plein potentiel.
Soyez prudent, mais juste : Pour empêcher les gens de manipuler le système, les décideurs doivent être intelligents et un peu averses au risque. Cela ne signifie pas être méchant ; cela signifie concevoir des systèmes qui récompensent l'effort réel et détectent les impostures.

En fin de compte, ce travail n'est pas seulement une question de mathématiques ou de code. Il s'agit de construire un monde où l'IA nous aide à devenir de meilleures versions de nous-mêmes, plutôt que d'être simplement un outil que l'on peut duper pour obtenir ce que l'on veut. Il s'agit de s'assurer que le robot et l'humain sont dans la même équipe.

Résumé technique : Façonner les interactions humain-IA pour fournir des parcours d'amélioration et équilibrer des objectifs concurrents

Auteure : Keziah Naggita
Institution : Toyota Technological Institute at Chicago
Diplôme : Doctorat en informatique (juin 2026)

1. Énoncé du problème

La prolifération des systèmes d'IA dans la prise de décision à enjeux élevés (ex. : embauche, admissions) et dans les environnements domestiques crée une boucle de rétroaction où les individus (agents) forment des croyances sur le système et agissent de manière stratégique pour influencer les résultats. Ces actions peuvent être des améliorations authentiques (renforcement des qualifications sous-jacentes) ou du gaming (manipulation des caractéristiques observables sans amélioration réelle).

Cette thèse aborde trois défis fondamentaux dans le façonnement de ces interactions :

Dynamiques développementnelles et comportementales : Comment les humains (spécifiquement les parents) perçoivent-ils et réagissent-ils au comportement agressif des enfants envers les dispositifs pilotés par l'IA (robots, enceintes intelligentes, tablettes) et comment l'anthropomorphisme du dispositif influence-t-il ces réactions ?
Incitant à l'amélioration : Comment les décideurs peuvent-ils concevoir des cibles et fournir des orientations pour maximiser l'amélioration authentique des agents tout en garantissant l'équité et l'accessibilité ?
Équilibrage d'objectifs concurrents : Comment les systèmes d'IA peuvent-ils être conçus pour maximiser les vrais positifs (identifier les agents qualifiés) et minimiser les faux positifs (rejeter les agents non qualifiés) lorsque les agents peuvent à la fois s'améliorer et pratiquer le "gaming" ?

2. Méthodologie

La thèse emploie une approche méthodologique multidimensionnelle, intégrant :

Expérimentations avec sujets humains : Une étude en ligne entre sujets ( $N=332$ ) investiguant les réactions parentales à l'agression d'un enfant envers des robots, des enceintes intelligentes et des tablettes.
Conception algorithmique et optimisation : Développement d'algorithmes en temps polynomial et pseudo-polynomial pour le placement de cibles, la génération d'explications contrefactuelles (CFE) et la sélection de modèles de rôle.
Analyse théorique : Application de la théorie de l'apprentissage (apprentissage PAC), de la théorie des graphes et de la théorie de la complexité (preuves de NP-dureté) pour analyser l'apprenabilité, la complexité d'échantillonnage et les bornes de classification dans des contextes stratégiques.
Évaluation empirique : Expérimentations sur des jeux de données réels (Adult, OULAD, Law School) et des données semi-synthétiques pour évaluer les performances algorithmiques sous diverses stratégies d'aversion au risque et contraintes géométriques.

3. Contributions clés et résultats

Partie I : Interactions humain-IA via des expérimentations avec sujets humains

Focus : Réactions parentales à l'agression de l'enfant envers les dispositifs d'IA.

Méthode : Un plan factoriel 2 (agression : agressive vs neutre) $\times$ 3 (dispositif : robot, enceinte intelligente, tablette) $\times$ 3 (modalité : audio, physique, audio+physique).
Principaux résultats :
- Impact de l'agression : Les parents ont exprimé une inquiétude significativement plus élevée et étaient plus susceptibles d'intervenir (réprimande ou retrait du dispositif) lorsque leur enfant manifestait un comportement agressif par rapport à un comportement neutre.
- Perception du dispositif : Bien que les parents aient perçu les robots et les enceintes intelligentes comme plus anthropomorphes, animés et chaleureux que les tablettes, aucune différence significative n'a été trouvée concernant l'inquiétude parentale ou la probabilité d'intervention entre les robots et les enceintes intelligentes. Cela contredit l'hypothèse selon laquelle l'incarnation physique (robots) accroît de manière unique l'inquiétude par rapport aux assistants vocaux désincarnés.
- Styles d'intervention : Les parents répondaient à un comportement neutre par l'encouragement et l'assistance, tandis que le comportement agressif déclenchait des réprimandes et l'utilisation de la situation comme opportunité d'apprentissage.

Partie II : Façonner les interactions pour fournir des parcours d'amélioration

Focus : Conception de mécanismes pour inciter à l'amélioration authentique.

3.1 Fixer des cibles atteignables (Chapitre 3)

Problème : Déterminer le placement optimal de $k$ niveaux de compétences cibles pour maximiser l'amélioration totale des agents, étant donné que les agents s'améliorent vers la cible la plus proche et atteignable.
Défis : Le placement des cibles est non monotone ; l'ajout d'une cible peut réduire l'amélioration totale en poussant les agents à délaisser des objectifs lointains à haute valeur pour des objectifs plus proches mais de moindre valeur.
Contributions :
- Développement d'un algorithme de programmation dynamique en temps polynomial pour maximiser l'amélioration totale.
- Construction de la frontière de Pareto pour le bien-être social du groupe afin d'aborder l'équité (objectifs max-min).
- Preuve d'un résultat structurel : une solution existe qui est simultanément $\Omega(1/g^3)$ -approximativement optimale pour chacun des $g$ groupes (sous une capacité d'amélioration commune).
- Démonstration que les solutions équitables max-min ne garantissent pas une approximation constante pour tous les groupes simultanément.

3.2 Générer des informations exploitables (Chapitre 4)

Problème : Générer des explications contrefactuelles (CFE) qui sont exploitables et ressemblent à des actions du monde réel dans de grands espaces d'états.
Contributions :
- Proposition de générateurs de CFE à agent unique et orientés données qui font le pont entre les espaces basés sur les caractéristiques et les espaces basés sur les actions.
- Introduction de CFE de "haut niveau" qui modifient moins de caractéristiques mais entraînent une amélioration de l'agent supérieure par rapport aux modifications traditionnelles de faible niveau.
- Démonstration que les générateurs orientés données peuvent produire efficacement des CFE valides en exploitant les similitudes entre les états des agents, améliorant ainsi l'évolutivité et l'efficacité des ressources.

3.3 Révéler sélectivement des modèles de rôle (Chapitre 5)

Problème : Un planificateur social doit révéler les étiquettes (positives/négatives) des modèles de rôle pour maximiser le nombre d'agents imitant des cibles positives, sous réserve d'un budget limité.
Contributions :
- Démonstration que la fonction de bien-être social est sous-modulaire uniquement lorsque le planificateur est restreint à la révélation de cibles positives (permettant une approximation de $(1-1/e)$ via des algorithmes gloutons).
- Preuve que l'autorisation de la révélation de cibles négatives brise la sous-modularité, pouvant mener à des performances arbitrairement médiocres.
- Introduction d'une fonction de bien-être proxy qui reste sous-modulaire même avec des cibles négatives, restaurant les garanties d'approximation.
- Établissement que le problème reste NP-difficile indépendamment des restrictions de divulgation.

Partie III : Optimisation conjointe d'objectifs concurrents

Focus : Classification d'agents capables à la fois de s'améliorer et de pratiquer le "gaming".

4.1 Apprentissage PAC avec améliorations (Chapitre 6)

Problème : Comment la capacité d'amélioration affecte-t-elle l'apprenabilité et la complexité d'échantillonnage ?
Contributions :
- Analyse de l'apprentissage PAC dans des contextes où les agents peuvent se déplacer dans un voisinage (modèle de graphe) pour s'améliorer.
- Apprentissage à erreur nulle : Preuve que sous des distributions uniformes, il est possible d'atteindre une erreur de généralisation nulle avec une complexité d'échantillonnage de $O(\frac{n \log n}{d_{min}^+ + 1})$ , où $d_{min}^+$ est le degré minimum des nœuds positifs. Cela contraste avec les modèles PAC standards qui présentent souvent des bornes d'erreur constantes.
- Démonstration que les stratégies d'apprentissage prudentes (pénalisant lourdement les faux positifs) sont particulièrement efficaces dans les contextes d'amélioration.

4.2 Théorie de la classification d'agents s'améliorant et pratiquant le "gaming" (Chapitre 7)

Problème : Concevoir des classificateurs pour maximiser les vrais positifs tout en minimisant les faux positifs lorsque les agents pratiquent le "gaming" (arêtes rouges) ou l'amélioration (arêtes bleues).
Modèles :
- Modèle discret général : Les agents et les critères forment un graphe biparti pondéré et coloré.
- Modèle linéaire : Les agents se déplacent dans $\mathbb{R}^d$ ; certaines dimensions sont des améliorations, d'autres sont du "gaming".
Contributions :
- Algorithme : Développement d'un algorithme efficace (Algorithme 7.1) pour trouver un ensemble de critères qui maximise les vrais positifs sous la contrainte de zéro faux positif dans le modèle discret général.
- Dureté : Preuve que maximiser les vrais positifs sous la contrainte d'une borne non nulle de faux positifs est NP-difficile, même dans le modèle linéaire.
- Classification linéaire : Démonstration qu'il est possible de trouver un classificateur linéaire qui classe tous les agents avec précision et qualifie tous les agents améliorables, mais que la maximisation des vrais positifs avec un minimum de faux positifs dans l'espace 2D nécessite des constructions algorithmiques spécifiques.

4.3 Étude empirique (Chapitre 8)

Problème : Évaluation d'algorithmes conscients de l'amélioration et du "gaming" sur des données réelles.
Résultats :
- Aversion au risque : Les stratégies prudentes (ex. : fonctions de perte pondérées pénalisant les faux positifs) surpassent systématiquement les modèles standards pour réduire l'erreur à mesure que les budgets d'amélioration augmentent.
- Compromis : Si l'augmentation de l'aversion au risque réduit l'erreur de classification, une aversion excessive peut abaisser l'utilité globale.
- Erreur nulle vs Utilité : Atteindre une erreur de classification nulle ne garantit pas une utilité parfaite ; le ratio entre vrais positifs et faux positifs est critique.
- Contraintes géométriques : Le choix de la norme ( $\ell_\infty$ vs $\ell_2$ ) façonne de manière significative la direction et l'étendue des mouvements possibles des agents.

4. Signification et affirmations

Cette thèse prétend faire progresser l'apprentissage automatique centré sur l'humain en fournissant des principes et des méthodes pour concevoir des systèmes d'IA qui s'alignent sur les besoins, les valeurs et les capacités humaines.

Avancement théorique : Elle étend la théorie de l'apprentissage à "l'apprentissage avec améliorations", démontrant que l'agentivité des agents peut réduire la complexité d'échantillonnage et permettre un apprentissage à erreur nulle sous certaines conditions, défiant les hypothèses standards de l'apprentissage PAC.
Robustesse algorithmique : Elle fournit des résultats structurels sur la non-monotonie du placement de cibles et la difficulté de l'équilibre entre amélioration et "gaming", offrant des algorithmes robustes au comportement stratégique.
Conception pratique : À travers ses travaux empiriques et expérimentaux, elle offre des enseignements exploitables pour les décideurs et les concepteurs de systèmes :
- Sécurité de l'enfant et IA : Les concepteurs doivent considérer que les parents peuvent ne pas distinguer les robots des enceintes intelligentes concernant l'agression, suggérant que les fonctions de sécurité doivent être cohérentes entre les types de dispositifs.
- Recours : Dépasser les explications basées sur les caractéristiques pour proposer des guides orientés vers l'action et les données améliore l'évolutivité et l'équité du recours algorithmique.
- Classification stratégique : Les systèmes devraient employer des stratégies prudentes et équilibrer soigneusement le coût des faux positifs par rapport aux bénéfices de l'incitation à une amélioration authentique.

Le travail intègre une analyse théorique rigoureuse et une modélisation basée sur les données avec des expérimentations impliquant des sujets humains pour combler le fossé entre l'équité algorithmique abstraite et les réalités pratiques de l'interaction humain-IA.