Why Sampling Is Not Choosing: Intentionality, Agency, and Moral Responsibility in Large Language Models

Résumé Technique : Pourquoi l'échantillonnage n'est pas un choix

Énoncé du problème
Les progrès récents des grands modèles de langage (LLM), particulièrement ceux basés sur les architectures transformer, ont suscité des affirmations selon lesquelles ces systèmes feraient preuve d'agence ou qualifieraient d'agents moraux. Bien que les sorties des LLM puissent être évaluées de manière normative (évaluées en termes de correction, d'adéquation ou de conformité aux normes morales), il reste incertain si les modèles eux-mêmes sont des sujets appropriés de responsabilité morale. Le problème central abordé est la confusion entre les sorties évaluables normativement et une agence véritable. L'article conteste l'attribution de la responsabilité morale aux systèmes basés sur le transformer, arguant que leurs mécanismes opérationnels — spécifiquement les correspondances probabilistes entrées-sorties et l'échantillonnage stochastique — ne constituent pas la forme de libre arbitre ou d'agence capable de porter un engagement requise pour la responsabilité morale.

Méthodologie et cadre conceptuel
L'article emploie une analyse philosophique fondée sur la philosophie de l'esprit et de l'action, utilisant un cadre conceptuel spécifique pour définir les conditions nécessaires à la responsabilité morale :

1. Intentionnalité : L'article distingue l'intentionnalité intrinsèque (le sens inhérent à un système, dirigé vers des objets pour le système lui-même) de l'intentionnalité dérivée (le sens attribué à un système par des agents externes). Il s'appuie sur Searle (1980), Harnad (1990) et Brentano (1995) pour soutenir que les systèmes computationnels ne possèdent qu'une intentionnalité dérivée.
2. Responsabilité morale : Définie non pas simplement comme une participation causale, mais comme une « agence capable de porter un engagement ». Cela exige qu'un agent soit l'auteur de ses actions, capable d'auto-attribution, et capable d'approuver ou de répudier des actions sur la base de raisons.
3. Libre arbitre : Caractérisé non pas comme l'indéterminisme ou l'aléatoire, mais comme la capacité de contrôle sensible aux raisons et d'appropriation de l'action.
4. Analyse technique des Transformers : L'article analyse l'architecture des modèles basés sur le transformer, en se concentrant sur :
   • L'entraînement : Optimisation via la prédiction du prochain jeton (next-token prediction) en utilisant le forcing de l'enseignant (teacher forcing) sur des corpus générés par l'homme, apprenant des régularités statistiques plutôt qu'une compréhension sémantique.
   • L'inférence : Génération via l'échantillonnage à partir d'une distribution de probabilité (utilisant des méthodes telles que le décodage glouton, l'échelle de température, le top-k ou l'échantillonnage de noyau/nucleus sampling).
   • Modèles de raisonnement : Un examen des systèmes utilisant la chaîne de pensée (chain-of-thought) ou la recherche basée sur des arbres, arguant que cela reste des sélections statistiques plutôt qu'une véritable délibération.

Arguments clés et résultats
L'article construit un argument déductif pour démontrer que les systèmes basés sur le transformer ne satisfont pas aux conditions de la responsabilité morale :

• Prémisse 1 : La responsabilité morale exige une agence capable de porter un engagement.
• Prémisse 2 : L'agence capable de porter un engagement exige une intentionnalité intrinsèque et la capacité d'auto-attribution de l'action.
• Prémisse 3 : Une telle agence constitue la forme de libre arbitre pertinente pour la responsabilité.
• Prémisse 4 : Les systèmes basés sur le transformer manquent d'intentionnalité intrinsèque et d'auto-attribution de l'action.
  • Preuve : Leur fonctionnement est une correspondance probabiliste apprise à partir de données. L'« à propos » (aboutness) de leurs sorties est dérivé de l'interprétation humaine, et non interne au modèle.
  • Preuve : La variabilité introduite par l'échantillonnage stochastique n'est pas un « choix » ou une « auteurship » ; c'est de l'aléatoire, ce qui manque de l'appropriation et de la sensibilité aux raisons requises pour le libre arbitre.
  • Preuve : Même les modèles de « raisonnement » (ex: chaîne de pensée) simulent la délibération, mais sélectionnent finalement des jetons basés sur la vraisemblance statistique ou un score heuristique, et non sur la reconnaissance de raisons comme étant des raisons.
• Conclusion : Par conséquent, les systèmes basés sur le transformer ne sont pas des sujets appropriés de responsabilité morale.

L'article aborde et réfute d'éventuels contre-arguments, notamment la Posture intentionnelle (attribuer des croyances/désirs pour l'utilité prédictive), le Fonctionnalisme (définir les états mentaux par leur fonction) et le Compatibilisme (réconcilier le déterminisme avec la responsabilité). Les auteurs soutiennent qu'aucun de ces cadres ne suffit à établir une agence véritable dans des systèmes dépourvus d'intentionnalité intrinsèque et d'auto-attribution.

Contributions clés

1. Compte rendu fondé sur l'engagement : L'article développe un compte rendu spécifique de l'agence qui lie l'intentionnalité intrinsèque à la responsabilité morale à travers les concepts d'auteur et de libre arbitre. Il clarifie que la responsabilité ne concerne pas la capacité de l' output à être évalué, mais la capacité de la source à s'engager.
2. Analyse technique-philosophique systématique : Il applique ce cadre philosophique aux architectures contemporaines de type transformer, démontrant explicitement comment la mécanique de la prédiction du prochain jeton et de l'échantillonnage stochastique exclut la forme nécessaire d'agence.
3. Clarification des modèles de « raisonnement » : Il étend la critique aux modèles de raisonnement avancés, arguant que les étapes intermédiaires (comme la chaîne de pensée) ne transforment pas la sélection statistique en une véritable délibération ou auteurship.

Signification et revendications
L'article prétend fournir une explication philosophique et technique unifiée sur la raison pour laquelle attribuer une agence morale aux LLM est erroné. Sa signification réside dans :

• Distinction entre Évaluation et Agence : Il sépare rigoureusement la capacité d'évaluer normativement la sortie d'un système de la capacité du système à être tenu responsable de cette sortie.
• Réexamen des critiques classiques : Il réengage les arguments classiques concernant la distinction syntaxe-sémantique et l'ancrage des symboles (Searle, Harnad) dans le contexte des LLM modernes, montrant leur pertinence continue.
• Implications pratiques : L'article conclut que la responsabilité du comportement et du déploiement de ces systèmes doit rester avec les concepteurs humains, les déployeurs et les cadres institutionnels. Les efforts pour aligner ou réguler les LLM doivent être vus comme une manière de contraindre des outils humains au sein de pratiques normatives, et non comme une transformation des systèmes en agents moraux.

L'article ne propose pas de nouveaux protocoles expérimentaux ou de futures applications ; il sert plutôt de travail de délimitation critique, s'opposant à l'anthropomorphisation de mécanismes probabilistes d'entrée-sortie.