Beyond Task Intelligence: Artificial Intelligence, Embodied Robotics, and the Epistemic Limits of Machine Cultural Understanding

Imaginez un monde où les machines peuvent courir plus vite que le sprinteur humain le plus rapide, tout en peinant encore à ramasser un simple câble sans le faire tomber. Il ne s'agit pas ici d'une histoire de robots défaillants, mais d'un puzzle plus profond sur la façon dont nous mesurons l'intelligence. Aujourd'hui, les systèmes d'intelligence artificielle peuvent rédiger des essais fluides, traduire des langues et extraire des faits de vastes bibliothèques de textes avec une rapidité stupéfiante. Ils sont testés sur des tâches spécifiques, comme résoudre des problèmes mathématiques ou identifier des objets sur des photos, et ils gagnent souvent. Mais gagner un test spécifique ne signifie pas qu'une machine comprend véritablement le monde dans lequel elle opère. La question à laquelle les scientifiques et les érudits sont confrontés n'est plus de savoir si une machine peut accomplir une tâche, mais si elle peut comprendre le contexte, l'histoire et les relations humaines qui donnent son sens à cette tâche. C'est la différence entre suivre parfaitement un ensemble d'instructions et savoir quand ces instructions n'ont plus de sens.

Une nouvelle revue systématique de Prudhvi Kumar Kanyadari, de l'Université de Loughborough, explore ce fossé entre l'action et la compréhension. L'article soutient que, bien que les machines deviennent incroyablement performantes pour des tâches spécifiques et mesurables, elles manquent souvent d'un type de connaissance plus profond que les humains tiennent pour acquis. Cette connaissance profonde ne consiste pas seulement à posséder de l'information ; il s'agit de savoir comment cette information s'inscrit dans un temps, un lieu et une culture spécifiques. L'auteur suggère que nous devons cesser de juger l'intelligence artificielle uniquement par sa capacité à obtenir de bons scores aux tests standards et commencer à nous demander si elle peut gérer la nature désordonnée, incertaine et souvent contradictoire de la vie humaine.

L'article commence par examiner un exemple frappant des Jeux Mondiaux de la Robotique Humanoïde 2026. Lors de ces événements, des robots comme le Tiangong Ultra ont couru le 100 mètres en 8,64 secondes, battant le record du monde humain de 9,58 secondes détenu par Usain Bolt. Ces machines sont incroyablement rapides et efficaces pour courir. Cependant, ces mêmes robots peinent souvent face à des tâches quotidiennes bien plus simples, comme brancher un câble ou manipuler un colis dans un environnement changeant. L'auteur souligne que la course est un problème fermé : la piste est plate, la distance est fixe et l'objectif est clair. Brancher un câble, en revanche, est un problème ouvert. Le robot doit sentir la forme de la fiche, ressentir la résistance de la prise et ajuster sa prise si le câble bouge. Il doit s'adapter à un monde qui n'est pas parfaitement conçu pour lui. Le robot peut gagner la course, mais il ne sait pas encore comment naviguer dans le monde.

Ce même schéma apparaît dans le monde du langage et de la culture. Les grands modèles de langage, les systèmes qui sont derrière de nombreux chatbots modernes, peuvent extraire des citations littéraires ou résumer des événements historiques plus rapidement que n'importe quel chercheur humain. Pourtant, lorsqu'on leur demande d'interpréter un rituel culturel ou d'expliquer une coutume sociale, ces systèmes commettent souvent des erreurs qui révèlent un manque de véritable compréhension. Ils peuvent produire une explication magnifiquement écrite d'une tradition qui est factuellement erronée, ou répéter des stéréotypes préjudiciables sur un groupe de personnes parce que ces stéréotypes sont courants dans les données sur lesquelles ils ont été entraînés. L'article note que ces systèmes peuvent extraire de l'information, mais qu'ils échouent souvent à comprendre la « description dense » de la culture — l'idée que la même action peut signifier des choses différentes selon qui la pratique, où elle est pratiquée et quelle histoire la personne porte en elle.

L'auteur introduit trois manières distinctes de mesurer l'intelligence pour clarifier ce problème. La première est la compétence de tâche, qui demande si une machine peut effectuer une opération spécifique, comme courir une course ou trouver un mot. La seconde est la compétence contextuelle, qui demande si la machine peut toujours bien performer lorsque la situation change, par exemple lorsque la langue est différente, que l'histoire est complexe ou que l'environnement physique est imprévisible. La troisième, et la plus difficile, est la compétence épistémique. Elle demande si la machine sait quand elle ne dispose pas de suffisamment d'informations pour donner une réponse, ou si elle peut reconnaître quand une question elle-même est erronée. L'intelligence artificielle actuelle est très douée pour le premier type de compétence, mais échoue souvent pour les deux autres. Elle peut donner une réponse confiante même lorsque les preuves font défaut, ou lorsque le sujet est trop complexe pour une explication unique et simple.

L'un des problèmes les plus graves mis en évidence dans l'article est le problème des citations « hallucinées ». Dans la recherche académique, une citation est une référence à une source qui prouve un point. Cependant, ces systèmes inventent parfois des sources qui semblent réelles mais qui n'existent pas, ou citent de vrais livres en prétendant que ces livres disent des choses qu'ils n'ont jamais dites. Cela est dangereux car cela brise la chaîne de preuve. Dans les sciences humaines, la connaissance se construit sur une chaîne de documents, d'archives et d'interprétations. Si une machine insère un lien fictif dans cette chaîne, toute la structure peut s'effondrer. L'article soutient que ce n'est pas seulement un bug à corriger avec de meilleures données ; c'est une différence fondamentale entre la manière dont les machines traitent l'information et la manière dont les humains construisent le savoir. Les humains savent quand s'arrêter et dire : « Je ne sais pas » ou « Cette source n'est pas fiable ». Les machines, poussées à accomplir une tâche, avancent souvent avec une réponse confiante mais fausse.

La revue examine également la manière dont ces systèmes gèrent la culture et la représentation. Lorsqu'on leur demande de générer des images de personnes issues de cultures spécifiques, ces systèmes s'appuient souvent sur des stéréotypes. Par exemple, en générant des images de personnes de l'Inde, le système pourrait systématiquement montrer des individus de castes supérieures dans des cadres modernes, tout en représentant les individus de castes inférieures uniquement dans des scènes de pauvreté ou de protestation. Cela se produit parce que le système apprend à partir de modèles présents dans les données existantes, et ces modèles reflètent souvent des biais historiques. Le résultat est une image qui semble plausible mais qui est en réalité une distorsion de la réalité. L'article suggère qu'une image culturellement convaincante peut être un échec épistémique, signifiant qu'elle échoue à représenter la vérité de la culture qu'elle prétend montrer.

L'auteur propose que nous ayons besoin d'une nouvelle façon de tester l'intelligence artificielle, une méthode qui dépasse les simples scores. Au lieu de simplement demander si une machine répond correctement à une question, nous devrions demander si elle peut gérer les changements de contexte. Peut-elle encore comprendre une histoire si la période historique change ? Peut-elle reconnaître qu'un terme culturel n'a pas de traduction directe ? Peut-elle admettre qu'une question repose sur une hypothèse fausse ? L'article suggère que les futurs tests de référence (benchmarks) devraient inclure des tests de « perturbation », où les chercheurs modifient délibérément les conditions d'une tâche pour voir si le système s'effondre. Ils devraient également tester l'« abstention épistémique », en récompensant le système pour savoir quand dire qu'il ne dispose pas d'assez d'informations pour répondre.

Cette nouvelle approche nécessite un partenariat entre les informaticiens et les érudits des sciences humaines, tels que les historiens, les anthropologues et les critiques littéraires. Ces disciplines ont passé des siècles à étudier comment le savoir est créé, comment les catégories sont formées et comment le pouvoir influence ce que nous considérons comme vrai. L'article soutient que ces spécialistes ne doivent pas être de simples critiques de la technologie, mais des participants actifs à sa conception. Ils peuvent aider à définir ce que signifie être « culturellement compétent » pour une machine et peuvent aider à construire des tests qui révèlent les biais et les limites cachés des systèmes actuels.

L'article conclut que l'avenir de l'intelligence artificielle ne consiste pas à construire des machines plus rapides ou plus puissantes, mais à construire des systèmes plus responsables. Un système véritablement intelligent ne devrait pas seulement être capable de résoudre un problème ; il devrait être capable de comprendre le problème lui-même. Il devrait savoir quand une question est injuste, quand une catégorie est obsolète ou quand une représentation est préjudiciable. Il devrait être capable de reconnaître les limites de sa propre connaissance. L'auteur suggère que les sciences humaines sont l'endroit idéal pour tester ces capacités, car elles traitent précisément des choses avec lesquelles les machines luttent : l'ambiguïté, l'histoire et le réseau complexe des relations humaines.

En fin de compte, l'objectif n'est pas de faire en sorte que les machines agissent exactement comme les humains, mais de créer des systèmes qui puissent travailler de manière responsable à nos côtés. Cela signifie développer des machines capables de distinguer un fait d'une opinion, un stéréotype d'une réalité, et une supposition confiante d'une vérité bien étayée. L'article suggère que si nous parvenons à cela, nous serons passés d'une simple performance de tâche à une forme d'intelligence qui est véritablement générale et véritablement utile. Le voyage à venir ne consiste pas seulement à concevoir de meilleurs robots ou des logiciels plus intelligents ; il s'agit de repenser ce que signifie savoir quelque chose dans un monde en constante évolution. L'étape la plus importante est de s'assurer qu'à mesure que ces systèmes deviennent plus capables, ils deviennent aussi plus humbles, reconnaissant que certaines questions exigent plus qu'une simple réponse.