What Questions Should Robots Be Able to Answer? A Dataset of User Questions for Explainable Robotics
Cet article présente un ensemble de données de 1 893 questions d'utilisateurs pour des robots domestiques, recueillies auprès de 100 participants répartis sur 12 catégories, afin d'orienter le développement de la robotique explicable en révélant que, bien que les utilisateurs posent fréquemment des questions sur l'exécution des tâches, ils privilégient la compréhension de la manière dont les robots gèrent les scénarios difficiles, les modèles de questions variant considérablement entre les utilisateurs novices et expérimentés.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous venez d'acheter un robot tout neuf, ultra-intelligent, pour vous aider dans les tâches ménagères. Vous le regardez passer l'aspirateur dans le salon, laver la vaisselle et plier votre linge. Mais en l'observant, votre cerveau se met à bourdonner de questions.
- « Pourquoi as-tu sauté la cuisine ? »
- « Peux-tu aussi nettoyer les fenêtres ? »
- « Et si tu fais tomber une assiette ? »
- « Comment sais-tu que la nourriture est cuite ? »
Ce document est essentiellement un inventaire massif de ces questions. Les chercheurs voulaient savoir : Exactement de quoi les humains sont curieux lorsqu'ils voient un robot travailler ? Ils n'ont pas seulement deviné ; ils ont demandé à 100 personnes réelles de regarder des vidéos et de lire des histoires sur des robots effectuant des tâches ménagères, puis d'écrire chaque question qu'elles auraient voulu poser.
Voici la répartition de leurs résultats, en utilisant quelques analogies simples :
1. La « Bibliothèque de questions » (L'ensemble de données)
Les chercheurs ont collecté 1 893 questions et les ont organisées dans une immense bibliothèque comportant 12 sections principales et 70 étagères secondaires.
- L'étagère la plus populaire (Détails d'exécution) : Environ 21 % des questions ressemblaient à la vérification d'un reçu. Les gens voulaient connaître les détails précis : Qu'as-tu fait ? Quels objets as-tu touchés ? Comment l'as-tu fait ?
- Analogie : C'est comme un parent demandant à un enfant : « As-tu vraiment sorti les poubelles et as-tu noué le sac ? »
- L'étagère « Peux-tu faire cela ? » (Capacités) : Le deuxième groupe le plus courant (12,6 %) concernait des gens interrogeant les compétences du robot. Peux-tu laver la vaisselle ? Peux-tu le faire plus vite ?
- L'étagère « As-tu bien fait ? » (Auto-évaluation) : Les gens voulaient savoir si le robot pensait avoir bien travaillé. C'était difficile ? As-tu fait des erreurs ?
2. La grande surprise : Ce à quoi les gens réellement tiennent
Voici le rebondissement. Dans le monde de la recherche en intelligence artificielle, les scientifiques pensent souvent que les gens accordent le plus d'importance aux questions « Pourquoi » (par exemple : « Pourquoi as-tu choisi la tasse rouge ? »). Ils supposent que nous voulons comprendre la logique du robot.
Le document a trouvé le contraire.
Bien que les questions « Pourquoi » soient courantes, elles ont été jugées moins importantes par les utilisateurs.
Au contraire, les questions jugées les plus critiques (les « indispensables ») par les gens portaient sur la Sécurité et les Problèmes Potentiels.
- Analogie : Si vous engagez une baby-sitter, vous vous souciez moins de pourquoi elle a choisi un jouet spécifique pour jouer. Vous vous souciez profondément de : « Que feriez-vous si le bébé tombait ? » ou « Comment vous assurez-vous qu'il ne mange rien de dangereux ? »
- Les utilisateurs voulaient savoir : Que se passe-t-il si vous faites tomber quelque chose ? Comment vous assurez-vous de ne pas casser la vaisselle ?
3. Le « Débutant » contre l'« Expert »
Les chercheurs ont remarqué que les questions changeaient selon qui les posait, de la même manière qu'un nouveau conducteur pose des questions différentes de celles d'un pilote de course.
- Les Novices (Nouveaux dans le domaine des robots) : Ils posaient des questions simples et factuelles. Qu'as-tu fait ? Où est le chat ? Ils se concentraient sur les faits immédiats de la situation.
- Les Experts (Personnes qui connaissent les robots) : Ils posaient des questions plus profondes et complexes. Comment géreriez-vous une situation difficile ? Comment avez-vous décidé de prioriser cette tâche ? Ils s'intéressaient moins au « quoi » et davantage au « comment » et au « et si ».
4. Pourquoi cela compte pour les constructeurs de robots
Le document soutient que pour que les robots soient vraiment utiles et dignes de confiance, ils doivent être construits avec une « mémoire » et un « kit d'explication » spécifiques.
- Le problème de la « Boîte noire » : Si un robot utilise une IA sophistiquée (comme un Grand Modèle de Langage) pour vous parler, mais que cette IA n'a pas accès aux journaux réels du robot (comme une boîte noire d'avion), l'IA risque simplement de inventer des choses (halluciner).
- La solution : Les concepteurs de robots doivent savoir quoi enregistrer. Si les gens accordent le plus d'importance à la sécurité et aux scénarios « et si », le robot doit enregistrer des données sur les erreurs potentielles et les processus de prise de décision, et non pas seulement une simple liste d'actions.
Résumé
Considérez ce document comme un manuel d'utilisation pour construire le cerveau d'un robot. Il dit aux ingénieurs : « Ne construisez pas seulement un robot capable d'expliquer pourquoi il a déplacé une chaise. Construisez un robot capable de vous dire avec assurance comment il gérerait une assiette cassée, car c'est ce qui rend réellement les gens en sécurité et leur fait confiance dans la machine. »
Les chercheurs ont également noté que leur étude utilisait des vidéos et des histoires textuelles (comme un scénario de film) plutôt que des interactions réelles. Bien que cela ne soit pas une simulation parfaite de la vie réelle, cela leur a permis de tester rapidement une grande variété de scénarios, leur donnant une carte claire de ce que les gens veulent savoir avant même que les robots n'entrent dans nos foyers.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.