Focus particles and scalar inferences across humans and language models
Cet article examine si les humains et les grands modèles de langage génèrent des jugements scalaires cohérents pour des particules de focalisation comme « même » et « seulement », constatant que bien que leurs résultats s'alignent souvent, ils reposent probablement sur des mécanismes sous-jacents fondamentalement différents.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous essayez de comprendre comment un cerveau — ou un ordinateur super intelligent — décide de la signification de quelque chose. Les scientifiques se demandent depuis longtemps si nos cerveaux traitent les mots comme des objets physiques que l'on peut déplacer dans l'espace, ou s'ils les traitent plutôt comme des signaux émotionnels. Pensez-y de cette façon : quand vous entendez un mot qui signifie « bien », est-ce que vous pensez automatiquement à « droite » ou « haut », et quand vous entendez « mal », est-ce que vous pensez à « gauche » ou « bas » ? Cette idée est appelée « codage spatial », et elle suggère que nos esprits pourraient être comme une carte où le sens est dessiné avec des flèches. Mais il existe une autre idée : peut-être que nos cerveaux regardent simplement le sentiment du mot (est-il positif ou négatif ?) et ignorent totalement la carte. C'est la vision « évaluative ». Comprendre laquelle de ces visions est vraie est important, car cela nous aide à déterminer si l'intelligence artificielle pense comme nous, ou si elle est juste un très bon imitateur qui ne « ressent » pas réellement les choses comme nous le faisons.
Dans cette étude, les chercheuses Catherine Brousse et Nelu Radpour ont décidé de mettre cela à l'épreuve en utilisant deux « cerveaux » très différents : un groupe de 108 volontaires humains et un modèle de langage massif appelé Llama 3.3 70B. Elles ont utilisé un type spécial de tour de mots appelé « particules de focalisation ». Vous savez, ces petits mots comme « même » et « seulement » qui changent l'ambiance d'une phrase sans changer les faits principaux ? Par exemple, dire « Mike peut même faire un gâteau » donne l'impression que faire un gâteau est une surprise ou un niveau de base, tandis que « Mike peut seulement faire un gâteau » donne l'impression qu'il n'a pas d'autres compétences, ce qui est un jugement très spécifique et limitatif. Les chercheuses voulaient voir si changer la disposition des choix de réponses changerait la façon dont les gens et l'IA évaluaient ces phrases.
Elles ont mis en place quatre manières différentes de demander des réponses. Imaginez un curseur pour évaluer la capacité : parfois, c'était une ligne horizontale (bas à gauche, haut à droite), parfois, c'était une ligne verticale (bas en bas, haut en haut). Elles ont aussi inversé les étiquettes, de sorte que « bas » était à droite ou en haut, juste pour voir si le cerveau était confus par la direction. Les humains et l'IA ont tous deux lu 60 phrases sur des personnes accomplissant des tâches, certaines avec « même » et d'autres avec « seulement », et ont évalué la capacité de la personne sur une échelle de 1 à 5.
Les résultats ont été fascinants. Les humains et l'IA étaient d'accord sur la logique de base : les phrases avec « seulement » recevaient des évaluations élevées (signifiant que la personne semblait très capable d'une manière spécifique), et les phrases avec « même » recevaient des évaluations plus basses. Crucialement, peu importait que les boutons de réponse soient inversés de haut en bas ou de côté. Les jugements restaient les mêmes. Cela suggère que pour les humains comme pour l'IA, ces jugements de mots sont dictés par le sens des mots, et non par l'emplacement des boutons sur l'écran. La théorie de la « carte » n'a pas gagné ; la théorie du « sens » a gagné.
Cependant, l'IA et les humains n'étaient pas des jumeaux identiques. L'IA était beaucoup plus extrême dans ses opinions. Quand l'IA voyait une phrase avec « seulement », elle donnait le score maximum de 5 à chaque fois, sans aucune variation. Les humains, quant à eux, étaient plus nuancés, donnant un mélange de scores élevés mais pas toujours le 5 parfait. Les chercheuses ont découvert que même lorsqu'elles essayaient de rendre l'IA plus « aléatoire » en changeant ses paramètres internes (appelés température), elle donnait toujours la même réponse de manière répétée. Cela suggère que si l'IA peut copier le schéma général de la pensée humaine, elle manque de la variabilité naturelle et désordonnée que possèdent les vraies personnes. C'est comme si l'IA était un robot qui avait mémorisé parfaitement le livre de règles, tandis que les humains sont une foule de personnes qui sont toutes d'accord sur la règle mais qui ont tout de même leurs propres petites particularités. L'étude suggère que les modèles d'IA actuels sont peut-être excellents pour obtenir la « moyenne » correcte, mais qu'ils ne sont peut-être pas les meilleurs modèles pour comprendre comment les esprits humains réels fonctionnent, car ils ne semblent pas posséder ce même éventail de différences individuelles.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.