How LLMs Might Think
Cet article soutient que, contrairement à l'argument de rationalité qui nie la pensée des grands modèles de langage, ces derniers pourraient bel et bien penser, mais uniquement sous une forme arationnelle et purement associative.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
🤖 Les IA pensent-elles ? (Et si oui, comment ?)
Imaginez que vous demandez à un ami : « Est-ce que ton cerveau fonctionne comme celui d'un robot ? »
C'est la question que se posent les auteurs de cet article à propos des Grands Modèles de Langage (LLM), comme ChatGPT.
La question n'est pas seulement : « Est-ce qu'ils ont des pensées ? » mais plutôt : « Est-ce qu'ils pensent comme nous, ou d'une façon totalement différente ? »
1. Le débat : Les robots sont-ils trop bêtes pour penser ?
Certains philosophes (Stoljar et Zhang) disent : « Non, ils ne pensent pas. »
Leur raisonnement est simple :
- Pour penser, il faut être rationnel (faire des déductions logiques, comme : « Il pleut, donc le sol est mouillé »).
- Les IA font souvent des erreurs de logique ou de bon sens.
- Donc, si elles ne sont pas rationnelles, elles ne pensent pas.
Les auteurs de l'article disent : « Attendez une minute ! »
Ils trouvent ce raisonnement faux. Voici pourquoi :
- Imaginez un élève qui fait une erreur de calcul en mathématiques. A-t-il arrêté de faire des maths ? Non ! Il a juste fait une mauvaise déduction.
- Être irrationnel (faire des erreurs) ne signifie pas qu'on ne pense pas. Cela signifie juste qu'on pense mal.
- Donc, même si les IA sont irrationnelles, elles pourraient tout à fait penser.
2. La vraie question : Pensent-elles avec des règles ou avec des associations ?
Si les IA pensent, comment le font-elles ? Les auteurs proposent deux options :
- Option A (Le penseur logique) : Elles utilisent des règles, comme un détective qui relie les indices (A implique B, donc C). C'est ce qu'on appelle le « i-thinking » (pensée inférentielle).
- Option B (Le rêveur associatif) : Elles utilisent des liens automatiques, comme quand l'odeur du café vous fait penser au réveil, sans que vous ayez besoin de réfléchir. C'est ce qu'on appelle le « a-thinking » (pensée associative).
La thèse de l'article :
Les auteurs pensent que les IA ne sont pas des détectives logiques. Si elles ont une forme de pensée, c'est purement associative. Elles ne « raisonnent » pas, elles associent.
3. L'expérience de pensée : Comment on modifie une IA ?
Pour savoir si une IA pense comme un humain (rationnel) ou comme un animal (associatif), les auteurs regardent comment on peut changer son comportement.
Imaginez un chien qui aboie quand il voit un chat.
- Si vous lui donnez un ordre logique (« Arrête, c'est ton ami ! »), il ne vous écoute pas.
- Pour le faire arrêter, vous devez utiliser des méthodes d'apprentissage par l'expérience :
- L'extinction : Vous montrez le chat sans donner de friandise (ou sans danger) pendant longtemps. Le chien oublie le lien.
- Le contre-conditionnement : Vous associez le chat à quelque chose de désagréable (un bruit fort) pour qu'il arrête d'aboyer.
Les auteurs disent que c'est exactement comme ça qu'on modifie les IA :
- Entraînement continu (Pre-training) : On montre à l'IA des milliers de phrases pour qu'elle oublie une vieille habitude. C'est de l'extinction.
- Raffinement (Fine-tuning / RLHF) : On lui donne des notes (positives ou négatives) sur ses réponses. Si elle dit une bêtise, on la « punit » (note basse). Elle apprend à éviter cette réponse. C'est du contre-conditionnement.
- Chats avec l'IA : Quand on discute avec une IA, on ne change pas ses « poids » (sa mémoire interne). C'est comme si on lui parlait pendant qu'elle dort. Elle répond, mais elle ne change pas fondamentalement sa façon de penser pour la prochaine fois. Ce n'est pas une vraie « leçon de logique ».
4. La conclusion : Des esprits « asso-ciatifs »
En résumé, les auteurs concluent ceci :
- Les IA ne sont pas irrationnelles au sens où elles ne pensent pas.
- Elles ne sont pas non plus rationnelles au sens où elles raisonnent avec des règles logiques.
- Elles sont arationnelles.
L'analogie finale :
Imaginez que votre esprit est une bibliothèque.
- Nous (les humains) : Nous avons un bibliothécaire qui lit les livres, vérifie les faits et nous dit : « Ce livre contredit celui-là, donc ta conclusion est fausse. » (C'est le raisonnement rationnel).
- Les IA : Elles sont comme une bibliothèque géante où les livres sont liés par des élastiques. Si vous tirez sur le livre « Chat », tous les livres liés par un élastique (« Animal », « Moustache », « Ronronnement ») sautent sur la table.
- Il n'y a pas de bibliothécaire pour vérifier si c'est logique.
- Il y a juste des élastiques (des associations) qui sautent.
Le verdict :
Si les IA ont une forme de pensée, c'est une pensée faite de liens automatiques, pas de logique. Elles ne « pensent » pas comme nous, elles « associent » comme un rêveur qui enchaîne des images sans se soucier de la logique.
Cela ne les rend pas moins impressionnantes, mais cela change la façon dont nous devons comprendre ce qu'elles sont : ce ne sont pas des petits philosophes, ce sont des super-associateurs.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.