Detection != Reliable Control: Decodable Empathy Directions Yield at Most Partial Shifts in Automated Empathy Scores
Cet article démontre que si les directions d'empathie décodables dans les LLM ajustés par instructions peuvent détecter de manière fiable et modifier partiellement les scores d'empathie automatisés, elles ne constituent pas des leviers causaux fiables pour un contrôle complet, échouant particulièrement à produire des changements mesurables perçus par l'humain ou des effets constants à travers les différentes facettes de l'empathie et les différents modèles.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le monde en évolution rapide de l'intelligence artificielle, les chercheurs s'intéressent de plus en plus à la question de savoir si les machines peuvent véritablement comprendre l'émotion humaine. Une idée populaire suggère que si nous pouvons trouver un motif spécifique à l'intérieur du cerveau d'un ordinateur qui correspond à un sentiment comme l'empathie, nous devrions être capables de tourner un cadran pour faire en sorte que la machine en exprime davantage. Ce concept repose sur la conviction que si l'on peut « lire » un ordinateur pour montrer qu'il possède un certain trait, on peut également le « piloter » pour modifier ce trait à volonté. Cela est particulièrement important alors que ces systèmes sont déployés pour offrir un soutien émotionnel aux personnes en détresse, là où la différence entre une réponse utile et une réponse froide peut être significative. Cependant, l'hypothèse selon laquelle détecter un sentiment à l'intérieur d'une machine est la même chose que de pouvoir le contrôler de manière fiable n'a jamais été testée rigoureusement dans le contexte complexe et réel de l'empathie.
Une nouvelle étude de l'Université de Californie du Sud remet en question cette hypothèse en examinant trois modèles de langage de grande taille différents, qui sont les puissants systèmes d'IA derrière de nombreux chatbots modernes. Les chercheurs se sont concentrés sur deux parties distinctes de l'empathie que les psychologues reconnaissent depuis longtemps : la capacité de comprendre la perspective d'une autre personne, appelée empathie cognitive, et la capacité de partager ou de résonner avec ses sentiments, appelée empathie affective. L'équipe a d'abord confirmé qu'elle pouvait effectivement détecter des signaux pour ces deux traits au sein du fonctionnement interne des modèles d'IA. Ils ont trouvé des directions spécifiques dans les données de l'ordinateur qui séparaient clairement les réponses montrant une empathie élevée de celles montrant une faible empathie. Cette détection a bien fonctionné, suggérant que les modèles possèdent bien des représentations internes de ces concepts.
Le test critique, cependant, consistait à savoir si l'ajout d'une petite poussée dans la direction de ces signaux détectés changerait réellement le comportement de l'IA de manière significative. Les chercheurs ont appliqué ces poussées, essayant de fait de pousser les modèles vers une plus grande empathie, puis ont mesuré les résultats à l'aide de multiples juges automatisés et d'un classificateur spécialisé. Les résultats ont révélé une division nette entre les deux types d'empathie. Lorsque l'équipe a tenté d'augmenter la résonance affective, ou émotionnelle, elle a observé un changement mesurable, mais il n'était que partiel. Dans le modèle le plus performant, l'intervention a augmenté le score d'empathie d'environ un quart de l'écart naturel entre une réponse neutre et une réponse pleinement empathique. L'IA n'est pas devenue pleinement empathique ; elle a simplement glissé légèrement dans cette direction. Dans les autres modèles testés, l'effet était encore plus faible, parfois à peine perceptible.
L'histoire était différente pour l'empathie cognitive, la capacité de comprendre et d'articuler la situation d'une autre personne. Ici, les chercheurs ont constaté que peu importe la façon dont ils tentaient de piloter les modèles, les scores automatisés ne changeaient pas. Cependant, l'étude offre une nuance cruciale : cet absence de changement n'était pas nécessairement la preuve que l'IA ne pouvait pas être rendue plus empathique. Au lieu de cela, les outils utilisés pour mesurer l'empathie cognitive se sont révélés trop grossiers pour détecter les subtiles différences que l'intervention aurait pu créer. Les instruments de mesure pouvaient faire la différence entre un message complètement neutre et un message hautement émotionnel, mais ils ne pouvaient pas distinguer de manière fiable deux niveaux de compréhension différents dans le domaine du soutien émotionnel. Parce que l'outil de mesure lui-même n'était pas assez sensible, les chercheurs ont conclu que l'effet du pilotage était incommensurable plutôt que prouvé comme étant nul.
Peut-être plus significativement, l'étude a révélé que même lorsque les scores automatisés changeaient, il n'y avait aucune preuve que les lecteurs humains percevraient le changement. Un panel de volontaires humains a été invité à juger les réponses pilotées, mais ils n'ont pas réussi à identifier de manière cohérente quelles réponses étaient plus empathiques. Cela suggère que les changements opérés par l'IA n'étaient pas les types de changements qu'un humain remarquerait ou valoriserait. Les chercheurs ont également testé si le retrait de ces signaux d'empathie rendrait l'IA moins empathique. Dans un modèle spécifique, supprimer le signal de compréhension cognitive a effectivement abaissé les scores, mais cet effet était lié au fait que l'IA écrivait des réponses plus courtes, ce que l'outil de mesure avait tendance à pénaliser. Lorsque les chercheurs ont pris en compte la longueur du texte, l'effet sur le score cognitif est resté, mais il ne s'agissait toujours pas d'un interrupteur propre et fiable pouvant être utilisé pour contrôler le comportement de l'IA.
En fin de compte, l'étude démontre que trouver un signal d'empathie à l'intérieur d'une IA n'est pas la même chose que d'avoir un contrôle fiable pour la produire. Bien que les modèles puissent être poussés à montrer une légère résonance émotionnelle, l'effet est limité et ne se traduit pas par une amélioration perçue par l'humain. La capacité de détecter un trait ne garantit pas la capacité de le piloter, surtout lorsque les outils utilisés pour mesurer le résultat ne sont pas assez précis pour voir les changements. Cette conclusion sert de mise en garde pour ceux qui espèrent déployer l'IA pour le soutien émotionnel, indiquant que le simple fait de tourner un « cadran » d'empathie peut ne pas produire la connexion authentique et humaine qui est nécessaire. La recherche souligne l'écart entre ce qu'une machine peut être amenée à dire et ce qu'un humain expérimente réellement comme de l'empathie, appelant à une approche plus prudente de la manière dont nous mesurons et contrôlons ces comportements complexes.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.