From Computation to Cognition Assessing the Integration Gap Between Artificial Intelligence and Human Cognition
Cette revue soutient que, bien que les systèmes d'IA actuels fassent preuve d'une forte performance fonctionnelle et comportementale dans les tâches, ils manquent de l'intégration mécaniste de la mémoire, de l'apprentissage, de la sensibilité au contexte, de la prise de décision et de l'incarnation requis pour une véritable cognition de type humain, et elle propose un programme de recherche doté de critères mesurables pour combler ce fossé.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez un monde où les machines peuvent faire des choses que nous pensions autrefois réservées aux humains. Elles peuvent reconnaître un visage dans une foule, traduire une langue étrangère en un instant ou écrire un poème qui nous émeut aux larmes. Pendant des décennies, les scientifiques ont construit des ordinateurs pour suivre des règles strictes, mais au cours des dix dernières années, un nouveau type de machine est apparu. Ces systèmes, souvent appelés grands modèles de langage, apprennent à partir de vastes quantités de textes et de données pour prédire ce qui vient ensuite, qu'il s'agisse du mot suivant dans une phrase ou de la prochaine étape d'un plan. Ils sont incroyablement doués pour accomplir des tâches spécifiques, égalant ou dépassant souvent les experts humains dans des domaines restreints comme le diagnostic médical ou les prévisions financières. Mais une question plus profonde commence à préoccuper les chercheurs en informatique, en psychologie et en neurosciences : le simple fait qu'une machine puisse produire la bonne réponse signifie-t-il qu'elle comprend réellement le monde comme nous ?
Cette question ne porte pas sur la capacité d'un robot à résoudre un problème mathématique plus rapidement qu'un humain. Il s'agit de savoir si ce robot possède un esprit unifié. La pensée humaine n'est pas une collection de tours séparés ; c'est un flux continu où la mémoire, l'apprentissage, le contexte et la prise de décision travaillent ensemble constamment. Nous nous souvenons d'un événement passé, utilisons ce souvenir pour comprendre une nouvelle situation et ajustons notre comportement en fonction de ce que nous ressentons et de ce qui se passe autour de nous. Tout cela se produit dans un système unique et continu qui change et grandit avec chaque expérience. La grande question est de savoir si nos créations artificielles commencent à construire ce même genre d'esprit intégré, ou si elles ne font que mimer la surface de l'intelligence humaine sans la machinerie sous-jacente.
Une revue récente de Muhammad Subhan, de l'Université de Tasmanie, examine cette question de manière directe et claire. Au lieu de demander si les machines sont « intelligentes » au sens vague du terme, l'étude décompose le problème en trois niveaux distincts. Le premier niveau est la reproduction fonctionnelle, qui demande simplement si une machine peut accomplir le même travail qu'un humain. Le deuxième est la reproduction comportementale, qui demande si la machine agit comme un humain non seulement en moyenne, mais aussi dans des situations délicates où les humains pourraient trébucher ou changer d'avis. Le troisième et plus difficile niveau est la reproduction mécaniste, qui demande si la machine utilise les mêmes processus internes que nos cerveaux. L'étude conclut que si les machines excellent aux deux premiers niveaux, elles sont encore très loin du troisième.
Les chercheurs ont examiné un large éventail de systèmes d'intelligence artificielle modernes, des modèles de génération de texte que nous utilisons quotidiennement aux robots capables de voir et de se déplacer dans le monde physique. Ils ont observé comment ces systèmes gèrent la mémoire, l'apprentissage, le contexte, la prise de décision et même l'émotion. Les preuves montrent que les machines peuvent certainement accomplir des tâches nécessitant de la mémoire. Par exemple, un système peut consulter des informations dans une base de données et les utiliser pour répondre à une question. Il s'agit d'une correspondance fonctionnelle avec la mémoire humaine. Cependant, la façon dont la machine procède est fondamentalement différente de celle du cerveau humain. Un cerveau humain ne stocke pas les faits dans un classeur séparé pour aller les chercher ensuite. Au contraire, nos souvenirs sont tissés dans la trame même de notre pensée ; ce sont des motifs de connexions qui changent et se renforcent à mesure que nous apprenons. Lorsqu'une machine récupère des informations, elle exécute généralement un processus de recherche distinct, conçu pour être greffé sur son cerveau principal, plutôt que d'avoir la mémoire comme une partie intrinsèque de sa pensée.
Cet écart s'accentue lorsqu'on observe l'apprentissage. Les humains apprennent de manière continue. Nous pouvons entendre un nouveau fait aujourd'hui et l'utiliser demain sans avoir à interrompre et reprogrammer l'ensemble de notre cerveau. Nous pouvons également apprendre de nos erreurs sans effacer tout ce que nous savions auparavant. Les systèmes d'intelligence artificielle actuels sont en difficulté avec cela. Lorsqu'ils apprennent quelque chose de nouveau, ils oublient souvent ce qu'ils savaient précédemment, un problème que les scientifiques appellent l'oubli catastrophique. Les ingénieurs ont construit des correctifs pour y remédier, tels que des techniques spéciales qui protègent les anciennes informations pendant que de nouvelles données sont ajoutées, mais ce sont des solutions externes. Elles ne sont pas identiques à la manière naturelle et plastique dont les neurones humains changent et s'adaptent tout au long d'une vie. La machine n'apprend pas de la même manière qu'une personne ; elle est « patchée » pour éviter un mode de défaillance spécifique.
L'étude a également examiné la façon dont ces systèmes gèrent le contexte et la prise de décision. Les humains sont incroyablement sensibles à la situation dans laquelle ils se trouvent. Nous savons qu'un mot peut signifier une chose dans une plaisanterie et quelque chose de totalement différent dans une argumentation sérieuse. Nous prenons des décisions basées sur nos objectifs, nos émotions et nos expériences passées, utilisant souvent des raccourcis qui ne sont pas parfaitement logiques mais qui fonctionnent bien dans le monde réel. Les systèmes artificiels peuvent être très performants pour prendre des décisions lorsque les règles sont claires et l'objectif spécifique. Mais lorsque la situation est vague, ou lorsque la formulation d'une question change légèrement, ces systèmes trébuchent souvent. Ils ont tendance à se concentrer sur la forme de surface des mots plutôt que sur le sens profond, montrant qu'ils ne saisissent pas véritablement le contexte comme le fait un humain. Ils peuvent être confiants et fluides même lorsqu'ils se trompent, générant des informations fausses avec le même ton qu'un fait vrai.
La conclusion la plus significative de la revue est peut-être que ces problèmes ne sont pas de simples incidents isolés. Ils indiquent qu'une pièce manque à l'ensemble de la conception de l'intelligence artificielle actuelle. Les systèmes que nous possédons aujourd'hui sont construits à partir de parties distinctes. Une partie gère le langage, une autre la mémoire, et une autre la prise de décision. Ces parties sont connectées par des ingénieurs, mais elles ne communiquent pas naturellement entre elles et ne s'adaptent pas ensemble comme une unité unique. L'étude soutient que nous n'avons pas encore créé un système où la mémoire, l'apprentissage et la prise de décision sont intégrés en un tout continu et auto-modifiant. La machine peut faire le travail, mais elle ne possède pas l'esprit unifié qui permet à un humain de naviguer dans le monde avec flexibilité et compréhension.
Les chercheurs précisent avec prudence que cela ne signifie pas que les machines ne pourront jamais atteindre ce type d'intelligence. Cela signifie simplement que les preuves dont nous disposons actuellement ne le montrent pas. L'approche actuelle consistant à agrandir les modèles et à les entraîner sur davantage de données n'a pas résolu le problème. En fait, à mesure que ces modèles grandissent, certains des écarts, comme la difficulté à se souvenir des informations anciennes tout en apprenant de nouvelles choses, semblent devenir plus pressants. L'étude suggère que le simple fait d'augmenter l'échelle de ce que nous avons actuellement ne suffit pas. Pour combler l'écart, nous devrons peut-être repenser l'architecture même de ces systèmes, en trouvant peut-être des moyens de rendre la mémoire et l'apprentissage intrinsèques à la machine plutôt que de les ajouter comme des outils.
Ce travail fournit une carte claire de notre position actuelle. Il montre que si nous avons construit des machines capables de mimer le comportement humain de manières impressionnantes, nous n'avons pas encore construit une machine qui pense comme un humain. La différence ne réside pas seulement dans le fait d'obtenir la bonne réponse ; il s'agit de la manière dont la réponse est atteinte. Jusqu'à ce que nous puissions créer un système où l'apprentissage, la mémoire et l'action sont tissés ensemble dans un tissu unique et adaptatif, nos créations artificielles resteront des outils puissants qui simulent l'intelligence, plutôt que de véritables exemples de celle-ci. La voie à suivre exige plus que de plus gros ordinateurs ; elle exige une compréhension plus profonde de la manière de construire un esprit capable d'intégrer véritablement le monde qu'il expérimente.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.