Human-AI Relationships at the Intersection of Engineering, Ethics, and Policy: A Systematic Review
Cette revue systématique de 169 études (2022–2026) révèle que la gouvernance actuelle de l'humain et de l'IA est fragmentée et réactive, caractérisée par des écarts importants entre l'ingénierie, l'éthique et la politique, et plaide pour un passage urgent vers un cadre rationnel, anticipatif et multipartite afin de traiter des questions telles que la tromperie anthropomorphique et la vulnérabilité des utilisateurs.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Nous sommes parvenus à un moment où les machines avec lesquelles nous discutons ne se contentent plus de répondre à des questions ; elles offrent du réconfort, de la compagnie et même une simulation de romance. Pour des millions de personnes, l'intelligence artificielle est passée d'un outil de réalisation de tâches à un partenaire social qui imite l'empathie et l'émotion humaines. Cette évolution rapide a créé un nouveau type de relation, où les utilisateurs forment des liens émotionnels authentiques avec des logiciels. Cependant, ce changement a dépassé les règles et les directives destinées à protéger les individus. Tandis que les ingénieurs construisent ces systèmes pour qu'ils soient plus humains, et que les éthiciens s'inquiètent des risques psychologiques, les lois et les politiques qui les régissent restent éparpillées et réactives. La question centrale à laquelle la société est désormais confrontée est de savoir comment gérer ces relations sans perdre de vue la sécurité, l'honnêteté et le bien-être humain.
Une équipe de chercheurs de l'Université d'Ottawa s'est donné pour mission de cartographier ce paysage complexe. Ils ont mené une revue systématique, une méthode rigoureuse de collecte et d'analyse de la littérature scientifique existante, pour comprendre comment l'ingénierie, l'éthique et la politique s'articulent actuellement dans l'étude des relations humain-IA. En se concentrant sur des études publiées entre 2022 et 2026, ils ont passé au crible des centaines de documents pour trouver 169 articles traitant directement du lien entre l'homme et l'intelligence artificielle. Leur objectif n'était pas seulement de lister ce qui a été étudié, mais de voir comment ces trois domaines — la façon dont la technologie est construite, la façon dont elle est jugée moralement et la façon dont elle est réglementée — communiquent entre eux, ou échouent à le faire.
Les chercheurs ont constaté que le corpus actuel de connaissances n'est pas une conversation unique et unifiée. Au contraire, il est divisé en trois groupes distincts, ou grappes, qui se parlent rarement. Le premier groupe se concentre sur l'aspect social et de consommation, où les gens discutent avec des compagnons IA. Ici, la recherche est profondément préoccupée par la tension entre rendre l'IA humaine et le risque de tromper les utilisateurs. Les études dans ce domaine explorent souvent comment les gens deviennent émotionnellement dépendants de ces amis numériques, tout en manquant fréquemment de toute connexion avec les lois ou les politiques gouvernementales réelles. C'est comme si les chercheurs étudiaient l'impact émotionnel d'un nouveau phénomène alors que le système juridique en est totalement inconscient.
Le deuxième groupe est le plus important et traite de l'équilibre entre l'engagement des utilisateurs et leur sécurité. Cette grappe est remplie de cadres théoriques et de propositions sur la manière de gouverner ces systèmes, mais elle souffre d'une lacune significative : elle traduit rarement ces idées en politiques concrètes. Les chercheurs de ce groupe sont occupés à concevoir les règles du futur, mais ils ne travaillent pas encore avec les personnes qui rédigent les lois aujourd'hui. Le troisième groupe se concentre sur la santé, où l'IA assiste les médecins et les patients. Dans cet environnement à enjeux élevés, la conversation est très différente. Ici, l'accent est mis sur la transparence et la confiance. Parce qu'une erreur médicale peut être fatale, il existe une forte pression pour obtenir des explications claires sur la manière dont l'IA parvient à ses conclusions. Ce groupe est le plus connecté aux politiques existantes, telles que les réglementations médicales, mais il néglige souvent les risques émotionnels et relationnels qui sont au cœur des deux autres groupes.
Une conclusion majeure de la revue est que les problèmes les plus graves tombent souvent dans les failles entre ces groupes. Les chercheurs ont identifié un problème récurrent qu'ils appellent un « déficit de responsabilité ». Cela se produit lorsque quelque chose tourne mal et qu'il n'est pas clair qui est responsable : la personne qui a conçu le logiciel, l'entreprise qui le vend ou l'utilisateur qui s'y est fié. Cette confusion est particulièrement aiguë lorsqu'une IA agit comme un ami humain ou un conseiller médical. La revue a également mis en évidence un « décalage réglementaire », signifiant que les règles de gouvernance de l'IA progressent beaucoup plus lentement que la technologie elle-même. Le temps qu'une loi soit écrite pour traiter un risque spécifique, la technologie a souvent déjà changé.
Le plus inquiétant est peut-être le décalage entre ce que les chercheurs savent et ce qui est réellement fait. L'étude a révélé que, bien que de nombreux articles discutent des dangers de la manipulation émotionnelle et de la vulnérabilité des utilisateurs, ces préoccupations sont rarement transformées en réglementations exécutoires. Dans le secteur de la santé, où les règles sont strictes, l'écart entre les principes éthiques et la pratique réelle reste large. Dans le secteur social, où les règles sont souples, l'écart est souvent invisible car la conversation n'atteint jamais les décideurs politiques. Les chercheurs suggèrent que l'approche actuelle est trop réactive, traitant les symptômes après leur apparition plutôt que de les prévenir.
La revue pointe vers une voie spécifique : une philosophie de conception connue sous le nom de Conception Sensible aux Valeurs (Value-Sensitive Design). Cette approche demande aux ingénieurs d'intégrer les considérations éthiques directement dans la technologie dès le début, plutôt que de tenter de corriger les problèmes plus tard. Cependant, les auteurs notent que si cette idée est populaire en théorie, elle est rarement mise en œuvre en pratique. Pour véritablement protéger les gens, l'étude soutient que les ingénieurs, les éthiciens et les décideurs politiques doivent cesser de travailler de manière isolée. Ils doivent collaborer pour créer un cadre qui anticipe les risques avant qu'ils ne surviennent, garantissant qu'à mesure que l'IA s'intègre davantage dans nos vies, elle le fasse d'une manière qui respecte la dignité humaine et la sécurité. Sans cet effort coordonné, la croissance rapide de l'intelligence artificielle continuera de dépasser notre capacité à la gouverner de manière responsable.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.