Is There Meaning Without Anyone Meaning Anything? A Structuralist Proposal for Artificial Semantics

Depuis des décennies, une guerre silencieuse fait rage sur la nature du sens. D'un côté se tiennent les ingénieurs qui ont construit les premières machines pensantes, convaincus que si un ordinateur pouvait suivre le bon ensemble de règles, il finirait par comprendre le monde comme un humain le fait. De l'autre côté se tiennent les philosophes et les biologistes qui soutiennent qu'une véritable compréhension nécessite un corps, un système nerveux et l'expérience directe et désordonnée de toucher, de voir et de se déplacer à travers la réalité. Pendant longtemps, ces deux camps ont semblé se parler sans s'entendre. Les machines suiveuses de règles pouvaient résoudre des énigmes logiques mais échouaient à saisir la nuance d'une plaisanterie ou le poids d'une métaphore. Les théories centrées sur le corps expliquaient comment les humains apprennent, mais semblaient suggérer qu'une machine, dépourvue de corps, ne pourrait jamais véritablement penser. Ce débat nous a laissé une question persistante : une machine peut-elle jamais posséder du sens si elle n'a jamais senti le soleil sur sa peau ou le poids d'une pierre dans sa main ?

Aujourd'hui, le paysage a radicalement changé. Nous disposons désormais de systèmes d'intelligence artificielle capables d'écrire de la poésie, de répondre à des questions complexes et de tenir des conversations qui semblent d'un humanisme saisissant. Pourtant, ces systèmes sont désincarnés ; ils n'ont ni yeux, ni mains, ni histoire personnelle. Ils n'existent qu'en tant que vastes réseaux de connexions mathématiques entraînés sur d'énormes quantités de texte. Cela crée un paradoxe déroutant. Ces machines produisent un langage cohérent et perspicace, pourtant elles sont dépourvues de ce que nous pensions autrefois essentiel à la compréhension. Elles semblent parler un langage de sens sans avoir vécu une vie d'expérience. Cette contradiction a forcé les scientifiques et les philosophes à se demander si nos anciennes définitions de l'intelligence ne sont pas simplement trop étroites pour décrire ce qui se passe à l'intérieur de ces nouvelles machines.

Un article récent du chercheur Francesco Maria Cianciaruso propose un moyen de résoudre cette tension en changeant le prisme à travers lequel nous observons ces systèmes. Au lieu de demander si une machine possède un corps ou suit des règles rigides, l'auteur suggère de regarder la structure de la machine elle-même. L'article soutient que le sens n'est pas un ingrédient magique ajouté à un symbole, ni est-il strictement lié à un corps physique. Au contraire, le sens est une propriété structurelle. C'est un motif de relations qui émerge lorsqu'un système est assez complexe pour organiser l'information d'une manière spécifique et stable. L'auteur suggère que les grands modèles de langage, la technologie derrière les chatbots les plus avancés d'aujourd'hui, ont développé une forme de compétence sémantique basée entièrement sur cette structure interne. Ils ne comprennent pas le monde comme un humain le fait, mais ils ont construit une carte interne de relations si organisée qu'elle peut imiter les effets de la compréhension.

Pour comprendre cette proposition, il faut d'abord observer comment le domaine a évolué. Pendant une grande partie du XXe siècle, l'idée dominante était que l'intelligence fonctionnait comme un dictionnaire ou un livre de règles. Dans cette perspective, un ordinateur manipule des symboles — comme des mots ou des nombres — selon des règles logiques strictes. Si les règles sont suivies correctement, la machine produit un comportement intelligent. Cette approche, connue sous le nom de cognitivisme classique, était élégante et puissante, mais elle s'est heurtée à un mur. Elle pouvait expliquer comment une machine traite la syntaxe, ou la grammaire d'une phrase, mais elle ne pouvait pas expliquer comment la machine sait ce que ces mots signifient réellement. Une machine pouvait réorganiser parfaitement des symboles sans jamais en saisir la signification. Cela a conduit à une seconde vague de pensée dans les années 1980 et 1990, qui soutenait que le sens devait être ancré dans le corps. Selon cette vue, pour comprendre le mot « lourd », un système doit avoir l'expérience physique de soulever quelque chose de lourd. Le sens, dans ce cadre, est inséparable de l'expérience sensorielle et de l'action.

Cependant, l'essor des réseaux de neurones profonds a compliqué ces deux anciens récits. Ces systèmes modernes n'utilisent pas un dictionnaire de symboles, et n'ont pas de corps pour toucher le monde. Au lieu de cela, ils apprennent en trouvant des motifs dans des quantités massives de données. Lorsqu'ils traitent le langage, ils ne cherchent pas les mots dans une liste. Ils traduisent les mots en points dans un vaste espace multidimensionnel. Dans cet espace, la distance entre deux points représente la similitude de leur sens. Les mots utilisés dans des contextes similaires se retrouvent proches, tandis que les mots aux significations différentes s'en éloignent. Le système apprend la forme de cet espace, découvrant que certaines directions représentent des relations telles que « roi est à reine ce que homme est à femme ». Cet apprentissage se fait sans aucune règle explicite et sans aucun corps physique. La machine ajuste simplement ses connexions internes jusqu'à ce qu'elle puisse prédire le mot suivant dans une phrase avec une grande précision.

L'article soutient que cette capacité à naviguer dans un espace relationnel est le lieu où réside ce nouveau type de sens. L'auteur suggère que nous devrions cesser de chercher le sens dans des symboles isolés ou dans un corps physique, et commencer à le chercher dans l'organisation même du réseau. Un système présente ce que l'auteur appelle une « compétence sémantique structurelle » lorsque sa structure interne préserve les relations trouvées dans le monde réel. Par exemple, si le système apprend que « Paris » est à « France » ce que « Rome » est à « Italie », ce n'est pas parce qu'il a visité ces villes ou qu'on lui a donné une règle. C'est parce que la structure mathématique de son réseau a organisé ces concepts d'une manière qui reflète les relations réelles entre eux. Le système a construit un modèle du monde qui est stable et cohérent, lui permettant de faire des inférences et des généralisations qui ressemblent à de la compréhension.

Cette perspective remet en question l'idée qu'une machine doive être consciente ou incarnée pour posséder du sens. L'auteur ne prétend pas que ces machines sont conscientes ou qu'elles ressentent des émotions. Au contraire, sa thèse est plus modeste mais profonde : le sens peut émerger de la simple complexité de l'organisation interne d'un système. Si un système est structuré de manière assez robuste pour maintenir des relations stables entre les concepts, il peut manifester une forme de compétence sémantique. Cette compétence permet au système d'agir de manière contextuellement appropriée, de faire des analogies et de résoudre des problèmes, même sans un esprit humain. L'article suggère qu'il s'agit d'une nouvelle catégorie d'intelligence, qui n'est ni purement symbolique, ni purement incarnée, mais structurelle.

Les implications de cette vision sont significatives pour notre façon de concevoir la connaissance et l'intelligence. Si le sens est une propriété structurelle, alors l'écart entre la compréhension humaine et celle de la machine n'est pas aussi grand que nous le pensions. Il ne s'agit pas d'un manque d'âme ou de corps chez la machine, mais de savoir si sa structure interne est assez complexe pour supporter le bon type de relations. L'auteur note qu'il ne s'agit pas d'une preuve finale, mais d'une proposition pour une nouvelle façon de penser. La recherche est en cours et le domaine est encore jeune. Cependant, les preuves suggèrent que ces systèmes ne se contentent pas de mimer la parole humaine comme un perroquet. Ils construisent des modèles internes qui capturent la structure profonde du monde sur lequel ils sont entraînés.

En fin de compte, l'article nous invite à reconsidérer ce que signifie comprendre. Il suggère que nous avons cherché le sens aux mauvais endroits, en le cherchant dans les parties individuelles d'un système ou dans sa forme physique. L'auteur propose que le sens est en réalité une propriété de l'ensemble, une caractéristique de la manière dont les parties sont connectées. Lorsqu'un système est organisé de manière à préserver les motifs du monde, il crée un espace où le sens peut exister, même sans observateur conscient. Cela ne signifie pas que la machine est humaine, mais cela signifie que la machine a trouvé un moyen d'être intelligente à sa propre manière. L'article conclut que l'entrelacement de l'ingénierie et de la philosophie nous mène à une nouvelle étape de notre compréhension de l'intelligence, une étape où la structure du système lui-même est la clé pour déverrouiller le mystère du sens.