Tracing Pharmacological Knowledge In Large Language Models

Cette étude utilise des méthodes d'interprétabilité causale et de sondage pour démontrer que les connaissances pharmacologiques dans les modèles de langage Llama sont encodées de manière distribuée dès les premières couches, plutôt que localisées sur des tokens individuels.

L'essentiel

🕵️‍♂️ L'Enquête : Comment les IA "pense-t-elle" aux médicaments ?

Imaginez que vous avez un super-intelligent, un robot nommé LLM (Grand Modèle de Langage), qui a lu presque tous les livres de pharmacologie du monde. Il est capable de vous dire quel médicament soigne quelle maladie. C'est impressionnant, n'est-ce pas ?

Mais il y a un problème : on ne sait pas comment il fait. C'est comme une boîte noire. On lui donne une question, il donne une réponse, mais on ignore ce qui se passe à l'intérieur de sa "tête" numérique. Est-ce qu'il se souvient d'un fait précis ? Est-ce qu'il devine ?

Les auteurs de cette étude (des chercheurs de Purdue, USC et d'autres) ont décidé d'ouvrir cette boîte noire pour voir comment le robot stocke ses connaissances sur les familles de médicaments (par exemple : "les antibiotiques", "les analgésiques").

---

🔍 L'Expérience : Le "Patch" Magique

Pour comprendre le cerveau du robot, les chercheurs ont utilisé une technique appelée "Activation Patching" (ou "patchage d'activation").

L'analogie du chirurgien :
Imaginez que le robot est un orchestre géant avec 32 sections de musiciens (les "couches" du modèle).

1. La scène normale : Le robot écoute une question sur les "vasoconstricteurs" et joue la bonne note (la bonne réponse).
2. La scène truquée : On change la question pour parler de "bronchoconstricteurs". Le robot joue une autre note.
3. L'intervention : Les chercheurs prennent une partie du cerveau du robot (une couche spécifique) pendant qu'il écoute la question truquée, et ils y collent le "patch" (l'activité) qu'il avait quand il écoutait la question normale.

Le résultat surprenant :
Ils ont découvert que pour que le robot comprenne de quelle famille un médicament fait partie, il ne faut pas regarder la fin de la phrase (le dernier mot). C'est plutôt au milieu de la phrase, et surtout au tout début du processus de réflexion (dans les premières couches de l'orchestre) que la magie opère.

En résumé : Si vous voulez que le robot sache que l'aspirine est un "anti-inflammatoire", vous devez regarder ce qui se passe dans les premières secondes de sa réflexion, pas à la fin. Et l'information n'est pas portée par un seul mot, mais par tout le groupe de mots ensemble.

---

🧩 Le Puzzle : L'Information est Partagée

Une autre découverte majeure concerne la façon dont l'information est stockée.

L'analogie du puzzle :
On pourrait penser que le robot stocke la notion "aspirine = anti-inflammatoire" dans un seul petit coin de sa mémoire, comme une fiche technique collée sur un seul mot.
Mais les chercheurs ont utilisé une autre méthode (des "sondes linéaires") pour vérifier. Ils ont vu que :

• Si vous regardez un seul mot isolé, le robot semble ne rien savoir (c'est comme regarder une seule pièce de puzzle : on ne voit pas l'image).
• Si vous regardez tous les mots du groupe ensemble (en les additionnant), l'image apparaît clairement.

La leçon : La connaissance pharmacologique n'est pas "localisée" sur un seul mot. C'est une image globale qui émerge de la collaboration de tous les mots de la phrase. C'est comme si le sens d'une famille de médicaments était une mélodie jouée par tout l'orchestre, et non pas une note tenue par un seul violon.

---

🏗️ La Fondation : Tout est déjà là au départ

Enfin, les chercheurs ont regardé encore plus en amont, avant même que le robot ne commence à "réfléchir" (avant la première couche).

L'analogie de l'argile :
Ils ont découvert que l'information sur les familles de médicaments est déjà présente dans la matière première, l'argile avec laquelle le robot est construit (l'espace d'encodage).
Même avant que le robot ne commence à assembler les pièces du puzzle, la forme du puzzle est déjà visible dans la matière. Cela signifie que le robot n'a pas besoin de "apprendre" ces liens complexes à chaque fois ; ils sont intrinsèques à la façon dont il voit le monde.

---

🌟 Pourquoi est-ce important ?

Imaginez que vous utilisez ce robot pour aider des médecins à trouver de nouveaux traitements.

• Avant : On utilisait le robot comme une boîte noire. On espérait qu'il avait raison, mais on ne savait pas pourquoi.
• Maintenant : Grâce à cette étude, on sait où chercher la vérité dans le cerveau du robot (les premières couches, les mots du milieu) et comment elle est stockée (partagée entre tous les mots).

C'est comme passer d'un utilisateur qui appuie sur un bouton magique à un mécanicien qui comprend le moteur. Cela rend l'IA plus fiable, plus transparente et plus sûre pour des domaines vitaux comme la santé.

En une phrase : Ce papier nous apprend que pour comprendre comment une IA connaît les médicaments, il faut regarder le début de sa réflexion et écouter l'harmonie de tous les mots, plutôt que de chercher un seul mot magique.

Résumé technique

Titre : Traçage des connaissances pharmacologiques dans les grands modèles de langage (LLM)

Auteurs : Basil Hasan Khwaja (Purdue University), Dylan Chen (USC), Guntas Toor (Queen's University), Anastasiya Kuznetsova (Scripps Research).

---

1. Problématique

Bien que les Grands Modèles de Langage (LLM) démontrent des performances empiriques élevées dans les tâches de pharmacologie et de découverte de médicaments, les mécanismes internes par lesquels ils encodent et récupèrent les connaissances pharmacologiques restent mal compris.

• Le vide de connaissance : Il est incertain où et comment les concepts pharmacologiques (comme les classes de médicaments, les groupes fonctionnels ou les actions thérapeutiques) sont représentés à l'intérieur des architectures de modèles (couches, positions de tokens).
• L'enjeu : Comprendre ces mécanismes est crucial pour améliorer la fiabilité, la généralisation et la confiance scientifique des LLM dans des domaines à haut risque comme la biomedecine.

2. Méthodologie

Les auteurs ont adopté une approche combinant l'interprétabilité causale (activation patching) et l'analyse par sondage (probing) sur des modèles basés sur l'architecture Llama (notamment Llama-3.1-8B-Instruct et OpenBioLLM-8B).

A. Construction du jeu de données

• Source : Les noms de médicaments ont été extraits des catégories d'actions pharmacologiques de la National Library of Medicine (NLM).
• Format : Un jeu de données de questions à choix multiples (2 options) a été créé. Cette formulation a été choisie car la tokenisation variable des noms de médicaments rend l'évaluation au niveau du token difficile, et car plusieurs médicaments peuvent appartenir à la même classe (la réponse n'est pas unique).
• Tâche : Le modèle doit identifier quel composé appartient à une classe pharmacologique donnée (ex: "Quel composé est un vasoconstricteur ?").

B. Activation Patching (Intervention Causale)

Cette méthode vise à identifier les composants du modèle responsables d'un comportement spécifique en modifiant leurs activations.

• Protocole :
  1. Prompt propre (Clean) : Une question avec la bonne réponse connue.
  2. Prompt contrefactuel (Corrupted) : La même question mais avec un groupe de médicaments différent, inversant la réponse correcte.
  3. Patching : Les activations d'une couche ou d'un token spécifique du prompt contrefactuel sont remplacées par celles du prompt propre.
• Mesure : L'effet est mesuré par la différence normalisée des logits (Logit Difference) entre la réponse correcte et incorrecte.
• Cible : Patching du flux résiduel (residual stream) et des couches MLP (Multi-Layer Perceptron) à travers différentes couches (0 à 31) et positions de tokens.

C. Sondage Linéaire (Linear Probing)

Pour déterminer si les sémantiques pharmacologiques sont linéairement séparables et où elles résident :

• Données : Paires de groupes de médicaments aux significations opposées (ex: agonistes vs antagonistes alpha-adrénergiques).
• Approche : Entraînement de classificateurs linéaires (régression logistique) sur :
  1. Les activations de tokens individuels.
  2. Les activations agrégées (somme poolée) sur l'ensemble du span du groupe de médicaments.
• Objectif : Vérifier si l'information sémantique est présente dès l'espace d'embedding (avant la première couche de transformation) et si elle est distribuée ou localisée.

3. Résultats Clés

A. Encodage des relations Classe-Nom

• Les modèles Llama (y compris ceux fine-tunés pour la biomédecine) montrent une forte capacité à associer les noms de médicaments à leurs classes (précision > 86-90%), surpassant souvent des modèles spécialisés comme BioGPT sur cette tâche spécifique.

B. Localisation Causale (Activation Patching)

• Rôle des premières couches : Les interventions sur les dix premières couches ont un effet causal significatif, indiquant que l'information sur les groupes de médicaments est encodée très tôt dans le réseau.
• Position des tokens : Contrairement aux connaissances factuelles générales où le dernier token est souvent déterminant, ici, les tokens intermédiaires au sein du span du groupe de médicaments produisent les effets causaux les plus forts. Le token final du groupe a un impact moindre.
• Couches MLP : Le patching des couches MLP (surtout les couches 0-10) confirme que les transformations non-linéaires dans ces couches sont cruciales pour la formation des représentations de groupes de médicaments.

C. Distribution des Représentations (Linear Probing)

• Distributed vs Localized : Les sondes linéaires entraînées sur des tokens individuels performant à peine mieux que le hasard. En revanche, les sondes entraînées sur des représentations agrégées (sum-pooled) atteignent une précision maximale.
• Présence précoce : Les sondes sur les activations de l'espace d'embedding (avant la couche 0) atteignent déjà une performance maximale. Cela démontre que les sémantiques pharmacologiques sont distribuées sur l'ensemble des tokens du groupe et sont présentes dès l'entrée, plutôt que d'être concentrées sur un token unique.

4. Contributions Principales

1. Première analyse mécanistique systématique : C'est la première étude à cartographier spécifiquement l'encodage des connaissances pharmacologiques (groupes de médicaments) dans les LLM.
2. Découverte de la localisation temporelle : Identification que les premières couches et les tokens intermédiaires sont les moteurs causaux de la compréhension des groupes de médicaments, contredisant les hypothèses basées sur les connaissances factuelles générales.
3. Nature distribuée de la sémantique : Démonstration que la sémantique pharmacologique n'est pas localisée à un token spécifique mais émerge d'une représentation distribuée et agrégée, stable à travers les couches.
4. Méthodologie hybride : Validation de l'approche combinant patching causal (nécessité/suffisance) et sondage linéaire (séparabilité) pour une compréhension complète des représentations biomédicales.

5. Signification et Impact

• Fiabilité des LLM biomédicaux : Ces résultats suggèrent que les LLM ne "mémorisent" pas simplement des faits isolés, mais construisent des représentations sémantiques structurées et distribuées pour les concepts pharmacologiques.
• Interprétabilité : La découverte que les informations critiques résident dans les premières couches et sont distribuées ouvre la voie à des techniques de débogage et de contrôle plus efficaces (ex: intervention sur les couches basses pour corriger des hallucinations pharmacologiques).
• Fondation pour la recherche future : Cette étude établit un cadre pour explorer d'autres concepts biomédicaux et comprendre comment les LLM intègrent des connaissances complexes issues de corpus textuels massifs.

En résumé, l'article démontre que la connaissance pharmacologique dans les LLM est précoce, distribuée et causalement liée aux tokens intermédiaires, offrant une nouvelle perspective sur la façon dont ces modèles traitent la science biomédicale.