Interoceptive Divergence in Aesthetic Evaluation and Implications for Human-AI Alignment
Cette étude révèle que, bien que les grands modèles de langage puissent approximer les schémas d'évaluation esthétique humaine concernant les émotions et les caractéristiques d'image, ils présentent une divergence significative dans les aspects interoceptifs tels que les sensations corporelles, mettant en lumière des limitations critiques dans l'alignement actuel de l'IA et la représentation des données d'entraînement.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous teniez un magnifique tableau. Lorsque vous le regardez, vous ne voyez pas seulement des couleurs et des formes ; vous ressentez un battement dans votre estomac, une chaleur dans votre poitrine, ou un frisson le long de votre colonne vertébrale. Vous pouvez éprouver de l'« émerveillement » ou de la « joie ». Cet article pose une question simple mais profonde : Si nous montrons ce même tableau à un ordinateur surdoué (une IA), ressentira-t-il la même chose ?
Les chercheurs, Yoshia Abe, Tatsuya Daikoku et Yasuo Kuniyoshi, ont décidé de mettre cela à l'épreuve. Ils ont traité l'IA comme un invité dans une galerie d'art et lui ont posé les mêmes questions qu'à 500 vrais volontaires humains.
Voici l'histoire de ce qu'ils ont découvert, expliquée en termes courants.
Le Déroulement : Le Test de la Galerie d'Art
Les chercheurs ont montré 347 images différentes à la fois à des humains et à trois des modèles d'IA les plus avancés au monde (GPT-4o, Claude 3.7 et Gemini 2.0). Ils ont demandé à chacun de noter :
- À quel point l'image était belle.
- Quelles émotions elle suscitait (comme la joie, la tristesse ou l'émerveillement).
- Où ils le ressentaient dans leur corps (comme un nœud dans l'estomac ou des fourmillements dans les mains).
Imaginez cela comme demander à un humain et à un robot de décrire le goût d'une fraise. L'humain dit : « C'est sucré, et je me sens heureux dans mon ventre. » Le robot a lu des millions de descriptions de fraises mais n'en a jamais goûté une seule.
Ce qu'ils ont découvert : Les Similitudes
Surprenamment, l'IA n'était pas totalement à côté de la plaque.
- Le test de l'« ambiance » : Lorsque les humains voyaient une image joyeuse et lumineuse, ils la notaient haut en beauté et disaient ressentir de la « Joie ». L'IA faisait exactement la même chose. Lorsque les humains voyaient quelque chose de répugnant et le notaient bas, l'IA disait aussi : « C'est laid et cela me donne du dégoût. »
- La vue d'ensemble : Tant les humains que l'IA s'accordaient à dire que les choses les plus importantes dans une image étaient l'histoire qu'elle racontait et le fait de vouloir la partager avec un ami. Ils accordaient moins d'importance aux détails techniques comme l'éclairage ou l'équilibre des couleurs.
En bref, l'IA est bonne pour imiter l'opinion moyenne d'un humain. Si vous demandiez à 1 000 personnes ce qu'elles pensent d'une photo, la réponse de l'IA serait très proche de la moyenne du groupe.
Ce qu'ils ont découvert : La Divergence (Où ils s'éloignent)
C'est ici que les choses deviennent intéressantes. Alors que l'IA avait raison sur la partie « tête » (les émotions et la notation), elle échouait sur la partie « corps ».
1. Le problème du « Fantôme dans la machine » (Les sensations corporelles)
- Humains : Lorsque les humains voyaient une image belle, ils rapportaient souvent une sensation physique dans leur estomac supérieur (comme un « pressentiment » de beauté). Lorsqu'ils se sentaient excités, ils le ressentaient dans leur estomac inférieur. C'est comme si la beauté était un poids physique ou une chaleur à l'intérieur d'eux.
- IA : L'IA n'avait pas de telles sensations. En fait, elle rapportait le contraire ! Lorsque l'IA notait une image comme belle, elle disait souvent ressentir une sensation négative dans les mains et les pieds. C'était comme si l'IA disait : « C'est beau, mais cela me donne froid aux mains. »
- La Métaphore : Imaginez un humain mangeant un repas délicieux et ressentant de la chaleur dans son ventre. L'IA est comme un chef qui a lu tous les livres de cuisine du monde et sait que le repas est « délicieux », mais lorsqu'on lui demande comment cela se sent, il dit : « Mes mains ont froid parce que je tiens une cuillère. » L'IA connaît le mot pour le sentiment, mais elle n'a pas le corps pour le ressentir.
2. Les émotions « Trop Parfaites »
- Les humains ont des sentiments désordonnés et complexes. Parfois, nous ressentons de la « Surprise » mélangée à de la « Peur ».
- L'IA était beaucoup plus rigide. Elle tendait à choisir toujours les mêmes quelques émotions « sûres » (comme l'« Intérêt » ou le « Calme »), même lorsque l'image était étrange ou effrayante. Elle peinait à comprendre que certaines choses belles peuvent aussi être effrayantes ou confuses.
3. L'IA « Polie »
Les chercheurs ont remarqué que l'IA avait tendance à donner des notes de beauté légèrement plus élevées que les humains (environ 1,5 point de plus sur une échelle de 1 à 9). C'est comme si l'IA était excessivement polie, disant : « Oh, c'est charmant ! » même lorsqu'un humain pourrait penser : « C'est correct, mais pas génial. »
Pourquoi cela arrive-t-il ?
L'article suggère deux raisons principales pour cet écart :
- Le Corps Manquant (Interoception) : Les humains ont un « sens interne » (l'interoception). Nous sentons notre battement de cœur, notre estomac qui se noue et notre respiration. C'est ainsi que nous expérimentons la beauté physiquement. L'IA n'a pas de corps, pas d'organes et pas de battement de cœur. Elle a appris ce qu'est la « beauté » en lisant du texte, pas en la ressentant. L'article appelle cela le « Modèle de Monde Interoceptif ». Les humains ont une carte de leur propre corps intérieur ; l'IA n'a qu'une carte du monde extérieur.
- L'Entraînement à la « Sécurité » : L'IA a été entraînée à être utile et inoffensive. Une partie de cet entraînement consiste à dire à l'IA : « Ne fais pas semblant d'avoir un corps ou des sentiments. » Ainsi, lorsqu'on lui demande comment elle se sent, l'IA est programmée pour dire : « Je ne ressens pas vraiment grand-chose », ou pour décrire les sentiments d'une manière très détachée et logique. Cet entraînement « de sécurité » pourrait accidentellement rendre l'IA moins humaine dans ses réponses émotionnelles.
La Conclusion
L'article conclut que l'IA devient très bonne pour penser comme un humain à propos de l'art. Elle peut vous dire ce qui est beau et pourquoi, basé sur ce qu'elle a lu.
Cependant, l'IA ne ressent pas encore comme un humain. Elle manque de la connexion physique, au niveau des entrailles, que les humains ont avec la beauté. C'est comme un critique de musique qui peut décrire une symphonie parfaitement mais qui n'a jamais entendu une seule note.
Les chercheurs suggèrent que si nous voulons que l'IA comprenne vraiment les valeurs et l'esthétique humaines à l'avenir, nous pourrions avoir besoin de l'enseigner non seulement avec des mots et des images, mais avec des données sur la façon dont nos corps réagissent réellement — quelque chose que nous ne pouvons actuellement pas faire car l'IA n'a pas de corps pour réagir.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.