Surprisal contributes little beyond contextual embeddings in high-gamma ECoG encoding
Cette étude démontre que la surprisal des mots dérivée de GPT-2 XL n'apporte qu'un pouvoir prédictif supplémentaire négligeable pour les réponses ECoG en haute fréquence gamma au-delà des plongements contextuels, suggérant qu'elle fonctionne simplement comme une lecture compressée du même état prédictif sous-jacent capturé par les plongements.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA d'un preprint qui n'a pas été évalué par des pairs. Ce n'est pas un avis médical. Ne prenez pas de décisions de santé basées sur ce contenu. Lire la clause de non-responsabilité complète
Lorsque nous écoutons une histoire ou lisons une phrase, nos cerveaux ne se contentent pas de recevoir passivement des sons ou des symboles ; ils tentent activement de deviner ce qui vient ensuite. Cet acte constant de prédiction est une partie fondamentale de la manière dont les humains comprennent le langage. Les scientifiques essaient depuis longtemps de mesurer ce jeu de devinettes, en utilisant souvent un concept appelé « surprisal » (ou étonnement). En termes simples, le surprisal est un nombre qui nous indique à quel point un mot spécifique est inattendu, compte tenu des mots qui l'ont précédé. Si vous entendez « Le chat est assis sur le... », votre cerveau attend « tapis » ou « paillasson ». Si le mot suivant est « tapis », il n'est pas surprenant. Si le mot suivant est « banane », il est hautement surprenant. Pendant des années, les chercheurs ont utilisé ce nombre unique pour tenter d'expliquer pourquoi certaines parties du cerveau s'activent lorsque nous entendons des mots inattendus.
Cependant, les outils que les scientifiques utilisent pour étudier le cerveau sont également devenus beaucoup plus puissants. Les programmes informatiques modernes, connus sous le nom de grands modèles de langage, peuvent désormais traiter des phrases entières et créer des cartes de sens complexes et multidimensionnelles pour chaque mot. Ces cartes, appelées plongements contextuels (contextual embeddings), capturent non seulement la définition d'un mot, mais aussi son rôle dans la phrase spécifique, sa relation avec les mots précédents et les nuances subtiles du contexte environnant. La grande question restée sans réponse est de savoir si le simple nombre de « surprisal » importe encore une fois que nous disposons de ces cartes riches et détaillées. Le cerveau se soucie-t-il de l'erreur de prédiction simple, ou réagit-il à l'état de compréhension beaucoup plus riche et complexe que le modèle informatique a déjà construit ?
Une étude récente de Takayuki Sakuma, de l'Université de Soka, aborde directement cette question en observant l'intérieur des cerveaux de personnes écoutant un discours naturel. Les chercheurs ont utilisé une technique appelée électrocorticographie, ou ECoG, qui consiste à placer des électrodes directement sur la surface du cerveau pour enregistrer l'activité électrique avec une précision extrême. Ils se sont concentrés sur un type spécifique de signal appelé activité gamma haute, qui est un rythme électrique rapide reflétant l'activation de groupes de neurones à proximité. Cette activité est largement considérée comme un signe fiable qu'une partie spécifique du cerveau est engagée dans le traitement de l'information. L'étude impliquait neuf participants qui écoutaient un récit parlé de trente minutes, similaire à un podcast, tandis que leur activité cérébrale était enregistrée.
Les chercheurs ont construit un modèle informatique pour prédire ces signaux cérébraux en fonction des mots entendus par les participants. D'abord, ils ont testé un modèle qui n'utilisait que des caractéristiques basiques du discours, telles que le son des mots et leur structure grammaticale. Ensuite, ils ont ajouté les cartes complexes et multidimensionnelles issues d'un grand modèle de langage appelé GPT-2 XL. Comme prévu, l'ajout de ces cartes riches a considérablement amélioré la capacité du modèle à prédire ce que faisait le cerveau. L'étape critique est venue ensuite : les chercheurs ont ajouté le nombre simple de « surprisal » au modèle qui contenait déjà les cartes complexes. Ils voulaient voir si ce nombre unique fournissait de nouvelles informations que les cartes complexes avaient manquées.
Les résultats étaient clairs et étonnamment discrets. L'ajout du nombre de surprisal au modèle n'a fait presque aucune différence dans la précision des prédictions. L'amélioration était si infime qu'elle était statistiquement indiscernable de zéro. En fait, les chercheurs ont découvert que les cartes complexes contenaient déjà presque toute l'information que le nombre de surprisal pouvait offrir. C'est comme si la carte complexe savait déjà exactement à quel point le mot était surprenant, et ajouter le nombre simple revenait à essayer d'ajouter une goutte d'eau dans un seau déjà plein. L'étude a testé ce résultat de nombreuses façons, en vérifiant différents délais, différentes régions cérébrales et différents types d'ondes cérébrales, et le résultat est resté le même : une fois que la réponse du cerveau est prédite par le contexte riche de la phrase, le simple score de surprise n'ajoute rien de nouveau.
Cela ne signifie pas que le cerveau ignore la surprise. Cela suggère plutôt que la réponse du cerveau à un mot est dictée par le contexte complet et complexe dans lequel ce mot apparaît, plutôt que par un calcul simple de son caractère inattendu. Le nombre de surprisal n'est pas faux ; il est simplement un résumé compressé d'un état de compréhension beaucoup plus vaste que le cerveau suit déjà. L'étude a également vérifié si d'autres manières simples de mesurer comment la compréhension du cerveau change d'un mot à l'autre — comme la façon dont le sens dévie ou le degré d'incertitude de la prédiction — feraient une différence. Aucune de ces mesures simplifiées n'a non plus amélioré les prédictions.
Les chercheurs ont veillé à ce que leurs méthodes soient assez sensibles pour détecter un effet s'il existait. Ils ont réalisé un test où ils ont artificiellement injecté un signal de forme « surprisal » dans les données cérébrales. Le modèle a réussi à détecter ce signal artificiel, prouvant que leur méthode était capable de trouver un effet de surprisal si celui-ci était présent. Le fait qu'ils n'en aient pas trouvé dans les données cérébrales réelles suggère que le cerveau n'utilise pas un signal de surprise simple et isolé de la manière dont les chercheurs l'espéraient. Au lieu de cela, le cerveau semble répondre au flux riche et continu de sens que les modèles de langage complexes capturent si bien.
Cette découverte aide à affiner notre compréhension de la manière dont le cerveau traite le langage. Elle suggère que le cerveau ne se contente pas de réagir aux lacunes de ses prédictions, mais qu'il maintient une représentation détaillée et de haute dimension de l'ensemble du contexte. Le nombre de « surprisal » simple, bien qu'utile pour résumer le comportement, est peut-être trop compressé pour expliquer l'activité électrique complexe du cerveau lors d'un discours naturel. L'étude conclut que pour le type spécifique d'activité cérébrale mesuré ici, les cartes contextuelles riches sont la clé pour comprendre la réponse du cerveau, et que le simple score de surprise est largement redondant. Cette perspective rapproche le domaine d'une compréhension selon laquelle la compréhension du langage dans le cerveau est un processus holistique, où le tout est bien plus grand que la somme de ses surprises individuelles.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.