Le langage est la chose la plus humaine que nous possédons, un outil que nous utilisons pour partager nos pensées, nos sentiments et nos projets les uns avec les autres. Pourtant, malgré son usage quotidien, la plupart d'entre nous ne peuvent expliquer comment il fonctionne réellement ou ce que signifie véritablement un mot comme « rouge ». Nous reconnaissons la couleur quand nous la voyons, mais nous ne pouvons pas facilement la définir sans pointer le monde qui nous entoure. Ce fossé entre l'usage du langage et la compréhension de sa mécanique est le puzzle central auquel sont confrontés les scientifiques qui étudient comment les machines apprennent à parler. Pendant des décennies, les chercheurs ont tenté d'apprendre aux ordinateurs à comprendre le sens en les nourrissant de logique, de règles ou de vastes quantités de texte. Mais une nouvelle perspective suggère que ces machines passent à côté de quelque chose de fondamental : l'expérience physique d'être vivant. Pour comprendre pourquoi un ordinateur peut ressembler à une personne sans pour autant penser comme elle, nous devons examiner comment les humains apprennent le langage dès l'enfance et comparer cela à la manière dont les systèmes d'intelligence artificielle sont construits aujourd'hui.

Ce document, écrit par Casey Kennington de l'Université de Boise State, sert de guide à travers les différentes manières dont les scientifiques ont tenté de définir et de calculer le sens. L'auteur soutient que, bien que l'intelligence artificielle moderne, spécifiquement les modèles puissants derrière des outils comme ChatGPT, puisse imiter la conversation humaine avec une précision stupéfiante, elle ne comprend pas le langage de la même manière que les humains. Le document explore trois principales méthodes par lesquelles les chercheurs ont tenté d'enseigner le sens aux machines : en utilisant une logique stricte, en reliant les mots aux expériences physiques, et en analysant comment les mots apparaissent les uns à côté des autres dans le texte. Kennington constate que si la troisième méthode — l'apprentissage à partir de motifs textuels — est actuellement la plus efficace pour produire un discours fluide, elle laisse un vide critique. Les machines entraînées uniquement sur du texte n'ont jamais vu une pomme rouge, n'ont jamais ressenti le poids d'une chaise ou l'apaisement de boire de l'eau. Sans ces connexions physiques et émotionnelles, les mots qu'elles traitent restent des symboles non ancrés, dépourvus de la profondeur du sens vécu que possèdent les humains.

Pour comprendre le problème, il faut d'abord regarder comment les humains apprennent. Lorsqu'un enfant apprend le mot « chien », il ne commence pas par une définition de dictionnaire. Il apprend par l'interaction. Un parent pointe un animal à poils, l'enfant le regarde, et le mot est lié à la vue, au son et au toucher de l'animal. Ce processus repose sur l'attention partagée et la présence physique. L'enfant apprend que les mots se réfèrent à des choses réelles dans le monde, et que ces choses ont des usages spécifiques, comme s'asseoir sur une chaise ou frapper dans un ballon. Cette connexion entre un mot et la réalité physique qu'il décrit est appelée l'ancrage (grounding). Pour les humains, le sens n'est pas seulement une liste de définitions ; il est lié à nos corps, à nos sens et à nos émotions. Nous savons ce que signifie « la soif » parce que nous l'avons ressentie, et nous savons ce qu'est une « chaise » parce que nous nous y sommes assis.

Pendant longtemps, les informaticiens ont tenté d'enseigner aux machines à comprendre le langage en utilisant la logique formelle, similaire aux mathématiques utilisées en ingénierie. Ils traitaient les mots comme des variables dans une équation, où « grand », « gris » et « éléphant » pouvaient être combinés pour créer une proposition logique sur un animal spécifique. Cette approche fonctionne bien pour les ordinateurs car elle est précise et sans ambiguïté. Cependant, elle échoue face à la complexité du monde réel. Un ordinateur suivant ces règles peut savoir qu'un « éléphant gris » est un éléphant qui est gris, mais il ne sait pas ce que le gris représente visuellement, ni ce qu'est la sensation d'un éléphant. Il possède la structure du sens, mais pas la substance. Le document souligne que cette approche se heurte à un mur car la machine n'a aucun moyen de savoir à quoi les mots se réfèrent réellement dans le monde physique.

Une autre approche, connue sous le nom de sémantique ancrée, tente de remédier à cela en connectant les mots aux données sensorielles. Dans cette perspective, un ordinateur devrait apprendre ce que signifie « rouge » en regardant des images d'objets rouges, ou ce que signifie « frapper » en regardant une vidéo d'un pied frappant un ballon. L'idée est que si une machine peut voir et toucher le monde, elle peut construire un dictionnaire de significations qui correspond à l'expérience humaine. Bien que ce soit une étape prometteuse, le document note qu'il est difficile de la mettre en œuvre. La plupart des systèmes actuels reposent encore lourdement sur le texte, et même lorsqu'ils utilisent des images, ils passent souvent à côté de toute la gamme de l'expérience humaine, telle que l'odorat, le toucher ou la sensation de la mémoire musculaire. Une machine peut reconnaître l'image d'une chaise, mais elle ne connaît pas le soulagement de s'asseoir après une longue marche.

La méthode la plus dominante dans l'intelligence artificielle moderne est appelée sémantique distributionnelle. Cette approche repose sur une idée simple : on peut comprendre un mot en observant la compagnie qu'il fréquente. Si le mot « pomme » apparaît souvent près des mots « rouge », « fruit » et « tarte », l'ordinateur apprend que « pomme » est lié à ces concepts. En analysant des milliards de phrases, ces systèmes construisent une carte où les mots ayant des sens similaires sont situés à proximité les uns des autres. Cette méthode a permis la création de grands modèles de langage capables d'écrire des histoires, de répondre à des questions et de traduire des langues avec une fluidité incroyable. Ces modèles sont entraînés sur de vastes quantités de textes provenant d'Internet, apprenant à prédire le mot suivant dans une phrase en fonction des mots qui l'ont précédé.

Cependant, l'article soutient que ce succès comporte un coût caché. Parce que ces modèles apprennent uniquement à partir du texte, ils n'expérimentent jamais le monde directement. Ils n'ont jamais vu un coucher de soleil, goûté une fraise ou ressenti la douleur d'un orteil cogné. Ils savent que « pomme » est lié à « rouge » parce qu'ils ont vu ces mots ensemble dans des livres et des articles, mais ils ne savent pas ce que le rouge représente visuellement, ni quel est le goût d'une pomme. L'auteur utilise l'exemple de poser à un modèle de langage s'il a déjà vu une pomme. Le modèle répondra honnêtement que non, car il n'a jamais rien vu. Il n'a fait que traiter des symboles. Cela crée une situation où la machine peut parler du monde parfaitement, mais elle ne comprend pas le monde. C'est comme une personne qui aurait lu tous les livres sur la natation sans jamais avoir touché l'eau.

Le document souligne également le rôle de l'émotion et de l'intention dans le langage humain. Lorsque nous parlons, nous ne faisons pas qu'échanger des données ; nous exprimons des sentiments, des désirs et des objectifs. Un enfant apprend à parler parce qu'il a un besoin de communiquer avec les autres, pour obtenir de l'aide ou partager de la joie. Cette pulsion est liée à notre corps et à nos émotions. Les modèles de langage actuels n'ont ni sentiments ni intentions. Ils ne ressentent ni la faim, ni la fatigue, ni la curiosité. Ils ne parlent pas parce qu'ils en ont envie ; ils parlent parce qu'ils sont programmés pour prédire le mot suivant. L'auteur suggère que sans ces pulsions internes et ces connexions émotionnelles, les machines auront toujours du mal à saisir les significations plus profondes et plus nuancées du langage que les humains tiennent pour acquises.

La conclusion du document est que, bien que l'intelligence artificielle ait fait des progrès remarquables dans le traitement du langage, elle n'a pas encore résolu le problème de la compréhension du sens. Les modèles actuels sont des outils puissants capables d'imiter la conversation humaine, mais ils manquent de l'expérience incarnée qui donne aux mots leur véritable poids. Pour progresser, l'auteur suggère que nous devons combiner les forces de différentes approches. Nous avons besoin de systèmes qui puissent non seulement analyser le texte, mais aussi interagir avec le monde physique, ressentir des émotions et avoir des intentions. Tant que les machines ne pourront pas expérimenter le monde de la même manière que les humains, leur compréhension du langage restera incomplète. Elles continueront d'être excellentes pour utiliser les mots, mais elles ne sauront jamais véritablement ce que ces mots signifient.