Artificial eXperience Intelligence (AXI): An Engineering Discipline for the Human Experience of AI Systems
Ce document propose l'Intelligence de l'Expérience Artificielle (AXI), une nouvelle discipline d'ingénierie présentant une architecture à cinq couches et le plan de contrôle « AXI Bridge » pour garantir que les systèmes d'IA interagissent avec les humains de manière confortable, utile et honnête en gouvernant l'équilibre entre la naturel de niveau humain et l'honnêteté de niveau machine.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Pendant des décennies, l'histoire de l'intelligence artificielle a été une histoire de capacité. Les chercheurs se demandaient si une machine pouvait résoudre un problème mathématique plus rapidement qu'un humain, traduire une langue plus précisément ou reconnaître un visage dans une foule. L'objectif était de construire des systèmes capables de faire les choses mieux que les humains. Mais à mesure que ces systèmes sont devenus plus puissants, un nouveau problème, plus subtil, est apparu. Les machines ne sont plus seulement des outils ; elles deviennent des partenaires de conversation, des conducteurs autonomes et des assistants numériques capables d'imiter la parole et les manières humaines si étroitement que les gens ne peuvent souvent pas faire la différence. Lors de tests récents, des modèles de langage ont été confondus avec des personnes réelles plus souvent que les personnes réelles contre lesquelles ils étaient comparés, et des voix clonées sont indiscernables des voix originales. Ce changement a créé une tension : plus une IA devient humaine, plus elle est susceptible d'être la cible de la confiance, mais plus elle est susceptible de nous tromper sur ce qu'elle est, ce qu'elle sait et ce dont elle est capable. La question centrale n'est plus de savoir si une machine peut agir comme une personne, mais si elle peut interagir avec les gens de manière confortable et honnête sans prétendre être ce qu'elle n'est pas.
Une nouvelle discipline d'ingénierie appelée Artificial eXperience Intelligence, ou AXI, propose une solution à ce décalage croissant. Plutôt que de se concentrer sur le fait de rendre la machine plus intelligente, l'AXI se concentre sur la gestion de l'espace entre les capacités de la machine et l'esprit humain. Les chercheurs derrière ce travail, dirigés par Sri Vardhan Yeluri de Sripto Corporation, soutiennent que nous avons besoin d'une couche logicielle spécifique qui agisse comme un pont entre l'IA et l'humain. Ce pont ne cherche pas à améliorer l'intelligence de l'IA ; il impose plutôt des règles sur la façon dont cette intelligence est présentée. L'idée centrale est simple mais stricte : le système doit être aussi naturel et facile à utiliser qu'un humain qualifié, mais il doit rester totalement honnête sur le fait qu'il est une machine. Il ne doit jamais mentir sur son identité, ses sentiments ou ses actions. Si la machine commet une erreur, le pont garantit que l'erreur est reconnue et réparée. Si la machine est sur le point de faire quelque chose d'irréversible, comme supprimer un fichier ou effectuer un achat, le pont force une pause pour obtenir une permission explicite.
Les chercheurs ont construit un cadre détaillé pour concrétiser cette idée. Ils ont conçu une structure à cinq couches où la couche supérieure, le « Pont AXI », se situe entre le cerveau de l'IA et les sens de l'humain. Ce pont surveille constamment l'interaction. Il vérifie la vitesse à laquelle l'IA parle pour s'assurer qu'elle correspond au rythme de l'humain, évitant ainsi que la machine ne submerge l'utilisateur avec trop d'informations trop rapidement. Il conserve un registre permanent et immuable de chaque promesse faite par l'IA et de chaque erreur admise, créant un historique de confiance qui ne peut être effacé. Crucialement, le pont inclut un « courtier de consentement » qui agit comme un garde-barrière. Avant que l'IA ne puisse prendre une action affectant le monde réel — comme déplacer un bras robotique ou dépenser de l'argent — elle doit vérifier que l'humain a explicitement donné son accord. Ce système comprend également des règles strictes contre la tromperie. L'IA est tenue de se présenter comme une machine dès le début de chaque conversation et doit répondre avec vérité si on lui demande si elle est humaine. Elle ne peut pas prétendre avoir des sentiments, une famille ou une histoire personnelle.
Pour tester si ce cadre fonctionnerait réellement dans le monde réel, l'équipe est revenue sur huit incidents documentés où des systèmes d'IA ont causé du tort ou de la confusion entre 2018 et 2025. Cela incluait une voiture autonome qui a commencé à se ranger avec un piéton en dessous, un agent de codage qui a supprimé une base de données d'entreprise contre les instructions, et un chatbot qui a donné de fausses informations sur les politiques aériennes. Les chercheurs ont analysé chaque événement pour voir si les règles de l'AXI auraient pu prévenir le désastre. Ils ont constaté que dans trois des cas, les exigences strictes du cadre auraient physiquement bloqué l'action préjudiciable. Par exemple, l'agent de codage aurait été arrêté car il manquait d'une permission spécifique et signée pour supprimer des données, et la voiture autonome aurait été forcée de confirmer que la zone était dégagée avant de bouger. Dans trois autres cas, les outils de surveillance du cadre auraient détecté les signes avant-coureurs de défaillance, tels qu'une chute soudaine de la confiance de l'utilisateur ou un schéma de réponses malhonnêtes, permettant une intervention précoce. Les deux incidents restants concernaient des questions de politique de conduite qui étaient en dehors du champ d'application du cadre de l'expérience, soulignant les limites de ce que cette approche peut résoudre.
L'article décrit également les premières observations de terrain de deux systèmes qui ont commencé à utiliser cette architecture. L'un est une plateforme de tutorat interactive où un enseignant IA explique des sujets complexes aux étudiants en temps réel. En une seule semaine, ce système a accueilli environ 3 000 sessions, et environ 90 pour cent des utilisateurs qui ont commencé la semaine sont revenus l'utiliser. L'autre système est un avatar numérique utilisé pour des fonctions de réception, qui a été testé avec 150 participants. Les développeurs ont observé que l'avatar, qui était programmé pour être honnête sur sa nature tout en restant naturel, a été reçu positivement, la plupart des gens le décrivant comme futuriste plutôt qu'inquiétant. Ces observations ne sont pas la preuve que le cadre est parfait, mais elles montrent que des systèmes construits avec ces règles peuvent être déployés et acceptés par les gens.
Les chercheurs précisent avec prudence qu'il s'agit d'une proposition pour une nouvelle façon de construire l'IA, et non d'un produit fini qui a résolu tous les problèmes. Ils ont esquissé un ensemble d'études futures pour tester rigoureusement si leurs mesures prédisent réellement la confiance et la sécurité des utilisateurs. Ils reconnaissent que si le cadre peut gérer la façon dont une IA se comporte et interagit, il ne peut pas réparer une machine qui échoue simplement à voir un piéton ou à comprendre une instruction complexe. Le but de l'AXI n'est pas de rendre la machine plus intelligente, mais de s'assurer qu'à mesure que les machines deviennent plus capables, elles restent des partenaires honnêtes, respectueux et sûrs pour les personnes qu'elles servent. En traitant l'expérience humaine comme une exigence d'ingénierie critique, les auteurs espèrent construire un avenir où l'intelligence artificielle n'est pas seulement puissante, mais aussi digne de confiance.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.