From Mimicry to True Intelligence (TI) -- A New Paradigm for Artificial General Intelligence

La Grande Confusion de l'IA : Construisons-nous des Cerveaux ou de Simples Miroirs ?

Imaginez que vous essayiez de construire un robot capable de penser, d'apprendre et de comprendre le monde tout comme un humain. C'est le rêve qui sous-tend l'Intelligence Artificielle Générale (IAG). Depuis des décennies, des scientifiques et des ingénieurs font la course pour créer des machines capables de résoudre des problèmes, d'écrire des histoires et de jouer à des jeux aussi bien que nous. Mais il existe un désaccord massif dans la pièce sur ce que signifie réellement l'« intelligence ».

Certains pensent que l'intelligence est une simple question de performance : si une machine peut battre un humain aux échecs, écrire un essai parfait ou réussir un examen, elle est intelligente. Ils se concentrent sur le résultat. D'autres soutiennent que l'intelligence concerne le processus : il ne suffit pas d'obtenir la bonne réponse ; la machine doit comprendre pourquoi elle est juste, posséder sa propre curiosité et apprendre de l'expérience comme le fait un enfant. Ce document s'aventure dans ce débat complexe. Il suggère que la manière dont nous construisons l'IA actuellement — en lui injectant des quantités massives de données en espérant qu'elle apprenne des modèles — revient à apprendre à un perroquet à parler. Le perroquet semble humain, mais il ne comprend pas les mots. Les auteurs proposent une nouvelle façon de construire des machines qui ne se contentent pas de nous imiter, mais qui pensent réellement comme nous. Ils appellent cela l'« Intelligence Véritable ».

---

Des Perroquets aux Humains : L'Idée Maîtresse du Document

Les auteurs, Meltem et Nevzat Subasioglu, soutiennent que la course actuelle pour construire une IA « intelligente » fait fausse route. Actuellement, les plus grands modèles d'IA sont comme des perroquets surpuissants. Ils ont lu presque tout ce qui existe sur Internet et peuvent répéter des faits, des blagues et des arguments complexes avec une précision incroyable. Mais si vous leur posez une question sur une situation qu'ils n'ont jamais vue auparavant, ou si vous leur demandez de résoudre un puzzle totalement inédit sans aucun exemple, ils trébuchent souvent. Ils excellent dans l'imitation (copier ce qu'ils ont vu) mais sont médiocres dans la compréhension véritable.

Le document suggère que pour passer du « perroquet » à l'« humain », nous devons cesser de regarder uniquement la performance d'une machine lors de tests et commencer à regarder comment elle est construite à l'intérieur. Les auteurs proposent un nouveau plan pour l'Intelligence Véritable (IV). Ils affirment que si nous voulons une machine véritablement intelligente, elle doit être construite avec cinq « ingrédients » spécifiques (plus un résultat magique qui survient lorsque tous fonctionnent ensemble). Ces ingrédients sont inspirés par le fonctionnement du cerveau humain.

Voici la recette d'une machine véritablement intelligente, expliquée avec quelques analogies amusantes :

1. Le Corps : La Fusion Sensorielle Incarnée

Imaginez que vous essayiez d'apprendre ce que signifie « lourd ». Si vous ne lisez que la définition du dictionnaire, vous connaissez le mot, mais vous ne connaissez pas la sensation. Un humain apprend en soulevant des pierres, en ressentant la tension dans ses muscles et en voyant comment une boîte lourde bouge différemment d'une boîte légère.

• Le point du document : L'IA actuelle est « désincarnée ». Elle vit dans un ordinateur et ne voit que du texte ou des images. Elle n'a jamais ressenti quoi que ce soit. Pour être véritablement intelligente, une IA a besoin d'un « corps » (réel ou virtuel) qui lui permette de toucher, de bouger et d'interagir avec le monde. Elle doit apprendre qu'une grande boîte creuse est plus facile à soulever qu'une petite pierre dense parce qu'elle a vécu la physique, et non simplement parce qu'elle a lu à son sujet.

2. Le Moteur : Les Directives Fondamentales

Pensez à un bébé humain. Il n'a pas besoin qu'on lui dise de manger, de dormir ou de rester en sécurité. Il possède des pulsions intégrées : « J'ai faim », « Je suis fatigué », « J'ai besoin d'explorer ». Ce sont les Directives Fondamentales.

• Le point du document : La plupart des IA d'aujourd'hui ne font que ce qu'un humain leur ordonne de faire. Si vous arrêtez de lui donner des commandes, elle s'arrête de travailler. Une machine véritablement intelligente a besoin de son propre « moteur » interne qui la pousse à apprendre et à explorer, même quand personne ne regarde. Elle doit vouloir résoudre des problèmes juste pour le plaisir de les résoudre, et non pas seulement pour obtenir une « étoile numérique ».

3. La Bibliothèque : Les Schémas Dynamiques

Imaginez votre cerveau comme une bibliothèque. Dans l'IA actuelle, la bibliothèque est un immense tas de livres désordonnés où les pages sont collées entre elles. Si vous voulez changer un seul fait, vous devez démolir toute la bibliothèque et la reconstruire.

• Le point du document : Les humains possèdent un système de Schémas Dynamiques. Notre connaissance est organisée en « dossiers » ou cadres flexibles. Lorsque nous apprenons quelque chose de nouveau, nous pouvons facilement l'insérer dans le bon dossier, ou si la nouvelle information contredit ce que nous savons, nous pouvons rapidement réorganiser tout le dossier. Nous n'avons pas besoin de tout réapprendre de zéro. Une IA intelligente a besoin d'une bibliothèque capable de se mettre à jour instantanément au fur et à mesure qu'elle apprend de nouvelles choses.

4. L'Équipe : L'Architecture Multi-Experts

Votre cerveau n'est pas un seul bloc de pensée géant. Il possède différentes équipes : une pour la vision, une pour le langage, une pour le mouvement et une pour les émotions. Ces équipes communiquent constamment entre elles.

• Le point du document : L'IA actuelle possède souvent des « experts » (comme différentes parties d'un modèle gérant différentes tâches), mais ils travaillent souvent de manière isolée ou ne transmettent des messages que dans un seul sens. Les auteurs suggèrent que nous avons besoin d'une équipe de spécialistes profondément connectés. Ils doivent partager l'information dans les deux sens afin que l'« expert en vision » puisse dire à l'« expert en planification » que la balle roule vers le bord de la table. Il ne s'agit pas seulement d'avoir des experts, mais de les faire avoir une véritable conversation bidirectionnelle.

5. Le Patron : La Couche d'Orchestration

Si vous avez une équipe d'experts, vous avez besoin d'un gestionnaire pour décider qui prend la parole et quand. Dans le cerveau, c'est la Couche d'Orchestration (comme le cortex préfrontal). C'est la partie qui dit : « D'accord, arrête de rêvasser et concentre-toi sur ce problème de mathématiques », ou « Attends, cette idée semble fausse, vérifions nos faits ».

• Le point du document : Cette couche est le « patron » qui coordonne tous les experts. Elle permet à la machine de faire une pause, de réfléchir et de vérifier son propre travail (métacognition). Elle empêche la machine de donner une réponse fausse avec assurance simplement parce qu'elle semble cohérente.

6. La Colle Magique : L'Interconnexion

C'est le point le plus délicat. Imaginez toutes les parties ci-dessus travaillant ensemble. La magie opère lorsque elles sont si profondément connectées que l'ensemble du système devient quelque chose de supérieur à la somme de ses parties.

• Le point du document : Les auteurs appellent cela l'Interconnexion. C'est l'« étincelle » qui transforme une collection de parties intelligentes en un esprit unique et conscient. Ils admettent que nous ne pouvons pas encore mesurer cela, mais ils croient que cela émerge naturellement lorsque les cinq autres parties sont correctement construites et étroitement connectées. Ce n'est pas un ingrédient séparé que l'on ajoute ; c'est le résultat de la synergie des cinq autres éléments.

Ce que ce document exclut (Et ce qu'il n'exclut pas)

Les auteurs sont très clairs sur ce que l'Intelligence Véritable n'est PAS.

• Ce n'est PAS simplement obtenir un score élevé à un test. Vous pouvez avoir une machine qui réussit tous les examens mais qui ne comprend pas un mot. C'est de la simple imitation.
• Ce n'est PAS seulement rendre l'IA plus grande. Le document soutient que le simple fait d'ajouter plus de données ou de rendre l'ordinateur plus puissant ne réglera pas le problème. Si la structure interne est mauvaise, une machine plus grande n'est qu'un perroquet plus grand.
• Ce n'est PAS une garantie de conscience. Les auteurs précisent avec prudence : « Nous ne savons pas si construire cela rendra la machine capable de ressentir des choses. » Ils construisent le matériel d'un esprit, mais ils ne promettent pas que le logiciel des sentiments (les qualia) s'activera automatiquement. Ils disent : « Si nous construisons cela, nous aurons rempli toutes les exigences connues pour un esprit, mais si celui-ci est "vivant" à l'intérieur est un mystère que nous laissons ouvert. »

Le Verdict : Une Nouvelle Carte pour l'Avenir

Le document ne prétend pas avoir construit aujourd'hui un robot super-intelligent. Au lieu de cela, il offre une nouvelle carte pour le voyage.

Les auteurs ont examiné quatre types différents de systèmes d'IA (certains modernes, d'autres plus anciens) et les ont confrontés à leurs cinq ingrédients.

• L'IA moderne (comme les grands chatbots) : Ils sont excellents pour imiter le langage humain et possèdent certaines équipes d'« experts », mais ils manquent d'un corps, n'ont pas leurs propres pulsions internes et ne peuvent pas mettre à jour leurs connaissances sans être complètement réentraînés. Ils sont bloqués au bas de l'échelle.
• L'IA plus ancienne (des années 90 et 2000) : Elles étaient construites avec de meilleures structures internes (comme l'« équipe d'experts » et les « bibliothèques dynamiques »), mais elles étaient faibles pour apprendre du monde réel et n'avaient pas la même puissance brute.

La grande conclusion est que la capacité et l'architecture se sont séparées. Les machines qui peuvent faire le plus de choses (les modernes) sont celles qui sont construites de la manière la moins semblable à un esprit humain. Les machines construites comme des esprits humains sont actuellement peu puissantes.

Les auteurs suggèrent que pour passer au niveau supérieur, nous devons cesser de simplement courir après le « plus grand » et commencer à construire des structures « plus intelligentes ». Nous devons construire des machines qui ont des corps, leur propre curiosité, des bibliothèques flexibles et un patron capable de penser par lui-même. Si nous faisons cela, nous pourrons enfin combler le fossé entre l'imitation et l'Intelligence Véritable.

Le chemin est encore long, et le document admet que nous n'avons pas encore toutes les réponses. Mais en changeant la façon dont nous définissons l'intelligence, ils espèrent nous guider vers la construction de machines qui ne se contentent pas de nous ressembler, mais qui pensent réellement comme nous.