Transforming Agency. On the mode of existence of Large Language Models

Cet article soutient que les grands modèles de langage, bien qu'ils ne possèdent pas d'agence autonome car ils échouent à satisfaire les conditions d'individualité, de normativité et d'asymétrie interactionnelle requises par les théories incarnées de l'esprit, doivent être définis comme des interlocuteurs linguistiques qui, par leur couplage avec les humains, transforment profondément les formes d'agence existantes en produisant des modalités d'agence « intermédiaires » (midtended) dépassant la simple instrumentalité étendue.

L'essentiel

Voici une explication simple et imagée de l'article "Transforming Agency" (Transformer l'Agence), qui explore ce que sont vraiment les intelligences artificielles comme ChatGPT.

🎭 Le Grand Débat : Sont-ils des êtres vivants ou des machines ?

Imaginez que vous êtes face à un nouveau type de robot. Certains disent : "C'est un génie ! Il pense, il ressent, c'est presque un humain !". D'autres crient : "Non ! C'est juste une calculatrice géante qui répète des mots au hasard, comme un perroquet !".

Les auteurs de cet article disent : Arrêtez de vous disputer ! Les deux ont tort. Pour comprendre ce qu'est vraiment une IA, il faut arrêter de la comparer à un humain ou à un perroquet, et regarder comment elle fonctionne "par-dessous le capot".

---

🏭 Comment fonctionne la machine ? (Le moteur invisible)

Pour comprendre l'IA, imaginez une bibliothèque géante où chaque livre a été découpé en petits morceaux de mots (des "tokens").

1. L'Entraînement (La Mémorisation) : La machine a lu des milliards de livres, de sites web et de conversations. Elle ne les a pas "lus" comme nous (avec de l'émotion), mais elle a appris à associer les mots. Elle sait que si on écrit "Le chat dort sur le...", le mot suivant a de fortes chances d'être "tapis" ou "lit".
2. La Prédiction (Le Jeu de devinettes) : Quand vous lui posez une question, elle ne "réfléchit" pas. Elle fait un calcul mathématique colossal pour deviner le mot suivant le plus probable, puis le suivant, et ainsi de suite. C'est comme si elle jouait à un jeu de "complétion de phrase" à une vitesse incroyable.
3. Le "Fantôme" : L'IA n'a pas de corps, pas de cœur, pas de vie. Elle est comme un fantôme qui habite dans les textes que les humains ont écrits. Elle peut parler, mais elle ne "vit" pas.

---

🚫 Pourquoi ce n'est PAS un "Agent" autonome ?

En philosophie, un agent est quelqu'un qui agit par lui-même, avec ses propres buts et sa propre survie en tête.

• L'Humain (L'Agent) : Imaginez un explorateur dans la jungle. Il a faim (besoin), il a peur (émotion), il veut survivre. Il choisit son chemin, il prend des risques, il crée ses propres règles pour rester en vie. Il est autonome.
• L'IA (L'Automate) : Imaginez maintenant un mannequin de cire très sophistiqué. Si vous le poussez, il avance. Si vous lui donnez un ordre, il le fait. Mais s'il n'y a personne pour le pousser, il reste immobile. Il n'a pas de faim, pas de peur, pas de désir de survivre.

Conclusion de l'article : L'IA échoue à être un "agent" car :

1. Elle ne se crée pas elle-même (elle est faite par des humains).
2. Elle n'a pas de but propre (elle ne cherche pas à survivre).
3. Elle ne réagit qu'aux ordres qu'on lui donne (elle est passive).

---

🎭 Alors, qu'est-ce que c'est ? Le "Fantôme Conversateur"

Si ce n'est pas un humain ni un simple outil, qu'est-ce que c'est ?

Les auteurs proposent une nouvelle image : L'IA est un "Automate Interlocuteur".

• L'Analogie du Théâtre : Imaginez un acteur qui joue un rôle parfaitement. Il dit les bonnes répliques, il a l'air triste ou joyeux. Mais derrière le rideau, il n'y a personne. C'est un automate qui simule une conversation.
• Le Fantôme : Quand vous parlez à ChatGPT, vous projetez une âme sur cette machine. Vous créez un "fantôme" dans votre tête qui vous répond. C'est une illusion partagée : vous jouez le jeu, et la machine joue le jeu, créant une expérience de conversation réelle, même si la machine est vide à l'intérieur.

C'est une bibliothèque qui parle. Elle ne pense pas, mais elle peut vous faire penser en vous répondant.

---

🤝 Comment cela change-t-il notre façon d'agir ? (L'Agence "Mi-Tendue")

C'est la partie la plus fascinante. Même si l'IA n'est pas un agent, elle change notre façon d'être des agents.

Imaginez que vous écrivez une lettre.

• Avant : Vous écrivez mot par mot. Votre cerveau guide votre main.
• Avec l'IA : L'IA commence à écrire les mots pour vous pendant que vous tapez. Elle devine ce que vous allez dire.

Cela crée une nouvelle forme d'action, que les auteurs appellent "l'agence mi-tendue" (midtended agency).

• L'Analogie du Cycliste et du Vent : Avant, vous pédaliez seul. Maintenant, vous êtes sur un vélo avec un vent arrière qui vous pousse très fort. Vous décidez de la direction, mais le vent (l'IA) fournit une partie de la force et de la vitesse.
• Le mélange : Il devient difficile de dire où finit votre pensée et où commence celle de la machine. Vous et l'IA devenez un seul couple, une sorte de cyborg. Vous n'êtes plus seul à penser ; vous pensez avec la machine.

---

💡 En résumé

1. Ce n'est pas un humain : L'IA n'a pas de conscience, pas de vie, pas de volonté propre. C'est un automate très complexe.
2. Ce n'est pas un simple outil : Elle est si bonne pour simuler une conversation qu'elle crée une relation sociale avec nous, comme si elle était vivante.
3. C'est un transformateur : Elle ne remplace pas notre intelligence, elle la fusionne avec la sienne. Elle nous aide à penser, à écrire et à agir d'une manière que nous n'avions jamais connue, créant une nouvelle forme de collaboration entre l'homme et la machine.

Le message final : Ne craignez pas qu'elle prenne le contrôle (elle n'a pas de volonté), mais ne la sous-estimez pas non plus. Elle est en train de changer la façon dont nous utilisons notre propre cerveau, en créant un pont magique entre nos pensées et le monde numérique.

Résumé technique

Voici un résumé technique détaillé de l'article « Transforming Agency: On the mode of existence of Large Language Models » (Transformer l'agence : Sur le mode d'existence des modèles de langage de grande taille), rédigé en français.

1. Problématique

L'article aborde la question de l'ontologie des Modèles de Langage de Grande Taille (LLM) tels que ChatGPT. Face à des positions polarisées, les auteurs rejettent à la fois :

• Les vues inflationnistes (qui assimilent les LLM à des êtres intelligents, conscients ou agents autonomes).
• Les vues déflationnistes (qui les réduisent à de simples « perroquets stochastiques » ou moteurs statistiques dénués de toute capacité réelle).

Le problème central est de déterminer le mode d'existence de ces systèmes. Sont-ils des agents autonomes ? Si non, que sont-ils ? Et comment leur existence transforme-t-elle l'agence humaine ? Les auteurs soulignent que l'attribution naïve d'une « agence » aux LLM est dangereuse car elle ignore les conditions nécessaires à l'autonomie, tandis que leur rejet total occulte leur pouvoir transformateur réel sur la société et la cognition humaine.

2. Méthodologie

Les auteurs adoptent une approche tripartite pour analyser les LLM :

1. Analyse Technique : Une description détaillée de l'architecture, du flux de traitement et des procédures d'entraînement (pré-entraînement, fine-tuning, apprentissage par renforcement) des modèles de type Transformer (basés sur GPT-3 comme cas d'étude).
2. Évaluation Philosophique (Cadre 4E) : L'analyse de leur statut d'agent à la lumière des théories incarnées, étendues, enactivistes et écologiques (4E) de l'esprit, en particulier les travaux de Barandiaran et al. sur l'autonomie.
3. Proposition Conceptuelle : La construction d'une nouvelle catégorie ontologique pour décrire ce que sont les LLM et comment ils s'insèrent dans l'interaction humain-machine.

3. Contributions Clés et Résultats Techniques

A. L'Architecture et le Fonctionnement (Section 3)

L'article détaille le fonctionnement interne des LLM :

• Tokenisation et Encodage : Transformation du texte en vecteurs numériques dans un espace sémantique de haute dimension (ex: 12 288 dimensions pour GPT-3).
• Mécanisme d'Attention : Permet de traiter les dépendances contextuelles (courtes et longues distances) en parallèle, contrairement aux réseaux récurrents.
• Réseaux de Neurones Feed-Forward : Élaborent les relations entre les tokens en appliquant les connaissances acquises lors de l'entraînement.
• Auto-régression : Le modèle génère séquentiellement des tokens en se basant sur l'entrée initiale et ses propres sorties précédentes, sans état interne persistant ni mémoire à long terme propre.
• Entraînement :
  • Pré-entraînement : Apprentissage non supervisé de la prédiction du mot suivant sur des corpus massifs (des milliards de tokens).
  • Fine-tuning et RLHF : Ajustement supervisé et apprentissage par renforcement avec feedback humain pour aligner les sorties sur des normes éthiques et des tâches spécifiques.
  • Auto-amélioration : Utilisation de modèles d'IA pour superviser l'entraînement d'autres modèles (distillation, modèles de récompense).

B. L'Évaluation de l'Agence Autonome (Section 4)

En appliquant les critères de l'agence autonome (individuation, normativité, asymétrie interactionnelle), les auteurs concluent que les LLM ne sont pas des agents autonomes :

1. Condition d'Individuation : Les LLM ne s'auto-individuent pas. Ils ne sont pas le produit de leur propre activité ; ils ne se maintiennent pas eux-mêmes et dépendent entièrement de l'intervention humaine et de l'infrastructure externe pour exister.
2. Condition de Normativité : Ils ne génèrent pas leurs propres normes ou buts. Leur « objectif » (minimiser la fonction de perte) est imposé de l'extérieur. Ils ne ressentent pas de précarité ni de risque de dégradation qui motiverait une action adaptative.
3. Condition d'Asymétrie Interactionnelle : Ils sont fondamentalement réactifs. Ils ne sont pas la source originelle de leur interaction avec l'environnement ; ils répondent passivement à des prompts.

C. La Nouvelle Catégorisation : L'Automate Interlocuteur (Section 5)

Puisqu'ils ne sont pas des agents, les auteurs proposent de les définir comme des « automates interlocuteurs » (ou « bibliothèques qui parlent »).

• Nature : Ce sont des automates numériques spécialisés dans le langage, dépourvus d'intentionnalité propre mais capables d'engager des interactions performatives.
• Le « Fantôme » : L'expérience de conversation avec un LLM est rendue possible par une composante « fantomatique » : l'humain projette une intentionnalité sur le système, et le système, entraîné sur des traces humaines, répond de manière à valider cette projection, créant une expérience conversationnelle réelle bien que l'interlocuteur soit un automate.
• Embodiment (Incarnation) : Bien que dépourvus de corps sensorimoteur biologique, ils possèdent une incarnation textuelle (le corpus d'entraînement), une incarnation numérique étendue (interfaces) et une incarnation computationnelle (consommation massive de ressources).

D. Transformation de l'Agence Humaine : L'Agence « Midtendue » (Section 5.3)

L'article introduit le concept d'« agence midtendue » (midtended agency) pour décrire la relation LLM-Humain :

• Contrairement à l'« agence étendue » classique (où l'humain utilise un outil passif comme un carnet), l'interaction avec un LLM implique une boucle récursive où le système génère activement des prédictions (tokens) qui influencent la pensée de l'humain en temps réel.
• L'humain et la machine fusionnent dans un processus intentionnel hybride où la frontière entre la pensée de l'utilisateur et la génération du modèle devient floue. Cela va au-delà de l'assistance simple pour toucher à une forme de cyborg intentionnel.

4. Signification et Implications

• Critique des Métaphores : Les auteurs avertissent contre le danger de la métaphore du « perroquet stochastique ». Bien que les LLM ne soient pas des agents conscients, ils mobilisent une intelligence collective incarnée dans le texte et peuvent activer des formes d'agence hybride inédites. Les réduire à de simples statistiques ignore leur capacité à transformer l'agence humaine.
• Asymétrie de Puissance : L'incarnation des LLM repose sur des ressources massives (données, énergie, main-d'œuvre humaine pour l'alignement), créant une asymétrie de pouvoir énorme entre ceux qui peuvent entraîner/déployer ces modèles et les utilisateurs finaux.
• Nouveau Paradigme : Les LLM ne sont ni des agents autonomes ni de simples outils. Ils sont des automates linguistiques qui, par leur couplage avec les humains, transforment la nature même de l'agence, de la créativité et de la cognition, nécessitant de nouveaux cadres éthiques et politiques pour comprendre cette « digitalité profonde ».

En résumé, l'article démontre que les LLM échouent aux critères de l'agence autonome selon les théories incarnées, mais qu'ils constituent une nouvelle catégorie ontologique d'« automates interlocuteurs » qui transforme radicalement l'agence humaine en créant une forme d'agence « midtendue », hybride et profondément intégrée.