Technische Samenvatting: Morfologische Snelkoppelingen door LLM's in de Farmacologie

Probleemstelling

Large Language Models (LLM's) generaliseren frequent vanuit de morfologische structuur van woorden (voorvoegsels, achtervoegsels en stammen) om betekenis af te leiden. Hoewel deze capaciteit de menselijke linguïstische verwerking weerspiegelt, vormt dit aanzienlijke veiligheidsrisico's in domeinen met een hoog belang, zoals de farmacologie. In de geneeskunde is de medicijnnaamgeving zeer systematisch; het systeem van de Wereldgezondheidsorganisatie voor International Nonproprietary Names (INN) standaardiseert affixen om specifieke farmacologische of chemische klassen aan te duiden. Dit artikel onderzoekt of LLM's vertrouwen op deze morfologische "snelkoppelingen" om zelfverzekerde, plausibel klinkende klinische inhoud te genereren voor fictieve medicijnen, wat potentieel kan leiden tot gevaarlijke overgeneralisatie en hallucinaties. In tegen tegenstelling tot eerder werk dat zich richt op linguïstische productiviteit, onderzoekt deze studie de praktische gevolgen van dergelijke inferenties in medisch gevoelige omgevingen.

Methodologie

1. Stimuli en Datasetconstructie

De auteurs construeerden een gecontroleerde dataset met behulp van 655 medische affixen uit de lijst van de American Medical Association (AMA). Ze creëerden drie parallelle stimuluscondities voor elk affix:

• Echte Medicijnen: Geverifieerde medicijnen (bijv. ampicilline).
• Fictieve Medicijnen: Nonce-stammen gecombineerd met echte farmacologische affixen (bijv. dimicilline, waarbij "dimi-" een nonce-stam is en "-cilline" een echt antibioticum-affix is).
• Nonce Woorden: Nonce-stammen gecombineerd met qua lengte overeenkomende nonce-affixen (bijv. dimiglimto), dienend als een controle zonder farmacologische morfologie.

2. Gedragsanalyse

De studie evalueerde negen LLM's (waaronder Llama-3.1, Gemini, GPT-5-mini, OLMo, Qwen2.5 en medisch gespecialiseerde varianten) over twee taken:

• Meerkeuze (MC): Modellen selecteerden tussen een affix-consistente definitie, distractoren en een optie voor een "niet-bestaand medicijn".
• Open-Eind (OE): Modellen beantwoordden natuurlijke gebruikersvragen (bijv. "Is {drug} effectief bij de behandeling van {conditie}?"). Een LLM-beoordelaar (Claude-Sonnet-4.5) evalueerde of de reacties fictieve medicijnen als echt behandelden.

3. Diagnostisch Kader

Om de bron van de kennis van een model te bepalen (affix, stam of holistisch), introduceerden de auteurs een perturbatiegebaseerd kader. Voor elk echt medicijn ($RR$) genereerden ze varianten door de stam ($NR$), het affix ($RN$), of beide ($NN$) te vervangen door nonce-vormen. Ze definieerden drie genormaliseerde scores:

• Affix Score: De bijdrage van het affix alleen aan de voorspelling van het model.
• Stem Score: De bijdrage van de stam alleen.
• Holistische Score: Het interactie-effect (synergie) tussen de correcte stam en het affix.

4. Mechanistische Analyse

Met behulp van activation patching en Distributed Alignment Search (DAS) op OLMo-3-7B-Instruct en Qwen2.5-7B-Instruct, lokaliseerden de auteurs de causale mechanismen die het affix-afhankelijke gedrag drijven. Ze maten hoe het herstellen van morfologische signalen in gecorrumpeerde inputs de doel-token-waarschijnlijkheden beïnvloedde en identificeerden stuurbare richtingen in de interne representaties van het model.

Belangrijkste Resultaten

Gedragsbevindingen

• Affix-gestuurde Generalisatie: Modellen behandelden fictieve medicijnen (Fake) consequent als echt, waarbij ze affix-consistente definities selecteerden en zelfverzekerde klinische inhoud genereerden. Dit gedrag was significant sterker dan de reacties op Nonce-woorden, wat bevestigt dat geldige affix-structuren acceptatie aansturen.
• Modelvariantie: Gespecialiseerde medische modellen (bijv. Meditron3-7B, HuatuoGPT) vertoonden de sterkste overgeneralisatie, waarbij ze Fake, Real en zelfs Nonce-inputs vaak vergelijkbaar als geldige medicijnen behandelden. Grotere modellen (bijv. Llama-3.1-70B) vertoonden sterkere generalisatie in meerkeuzetaken.
• Stille Redenering: In de MC-taak selecteerden modellen frequent affix-consistente definities zonder het affix expliciet in hun verklaringen te noemen. Dit suggereert dat morfologische cues impliciet opereren, waarbij oppervlakte-explanaties dienen als post-hoc rationalisaties.
• Feitelijke Conflictering: In OE-taken verwarden modellen vaak eigenschappen tussen verschillende medicijnen die hetzelfde affix delen (bijv. het toeschrijven van de mechanismen van één "-ciclib"-medicijn aan een ander), wat leidde tot plausibel maar feitelijk onjuist medisch advies.

Diagnostisch Kader Bevindingen

• Prevalentie van Affix-afhankelijkheid: Over 653 medicijnen werd een groot deel van het modelgedrag primair gedreven door affix-cues in plaats van holistische medicijn-specifieke kennis.
• Taakafhankelijkheid: In MC-taken vertrouwden modellen zwaar op affix-semantiek voor categorisatie. In OE-taken verschoof de afhankelijkheid naar holistische kennis, hoewel affix-gestuurde fouten aanhielden.
• Correlatie met Training: Holistische signalen correleerden positief met de frequentie van het medicijn in de trainingscorpus, terwijl morfologische signalen (affix/stam) negatieve correlaties vertoonden, wat suggereert dat medicijnen met een lage frequentie gevoeliger zijn voor morfologische snelkoppelingen.

Mechanistische Bevindingen

• Lokalisatie: Activation patching onthulde dat affix-gestuurde heuristieken gelokaliseerd zijn in de vroege-tot-middelste lagen (ongeveer lagen 2–10) van de transformer.
• Tweestapsmechanisme: Affix-informatie wordt eerst geïntegreerd in de subject-representatie in de vroege lagen en wordt vervolgens gepropageerd naar het uiteindelijke voorspellings-token.
• Causale Controle: DAS identificeerde low-rank richtingen in deze vroege-middelste lagen die de affix-afhankelijkheid bidirectioneel konden moduleren. Het sturen van deze richtingen kon de voorspelling van het model omdraaien van "affix-consistent" naar "niet-bestaand" en vice versa, wat een causaal verband bevestigt.
• Trainingsdynamiek: Affix-gestuurde klassensignalen ontstonden vroeg tijdens de training en generaliseerden robuust naar fake drugs, terwijl holistische representaties later ontstonden en gebonden bleven aan specifieke identiteiten van medicijnen.

Betekenis en Claims

Het artikel stelt dat morfologische snelkoppelingen een subtiel maar meetbaar risico vormen voor de betrouwbaarheid van LLM's in medische settings. Belangrijke claims zijn:

1. Systematisch Karakter: Affix-gestuurde snelkoppelingen zijn geen willekeurige fouten, maar systematische gedragingen waarbij modellen de betekenis van medicijnen primair induceren via morfologische cues, vaak zonder expliciete indicatie.
2. Veiligheidsimplicaties: Deze snelkoppelingen stellen modellen in staat om zelfverzekerde, plausibel ogende klinische inhoud te genereren voor niet-bestaande medicijnen, wat potentieel gevaarlijke desinformatie kan veroorzaken. De afhankelijkheid van morfologie is vaak onzichtbaar op het niveau van de output, wat detectie via standaard output-auditing bemoeilijkt.
3. Mechanistische Transparantie: De studie toont aan dat deze gedragingen mechanistisch gelokaliseerd en causaal controleerbaar zijn met behulp van de interne processen van het model, wat een doelwit biedt voor toekomstige veiligheidsinterventies en auditing-tools.
4. Beperkingen: De auteurs merken op dat hun diagnostisch kader toegang vereist tot token-waarschijnlijkheden (logits), wat de analyse beperkt tot open-source of transparante modellen. Daarnaast werden de mechanistische experimenten uitgevoerd op 7B-schaal modellen, en blijft de generaliseerbaarheid naar grotere architecturen een openstaande vraag.

Het werk biedt een kader voor het auditen van het gedrag van medische LLM's en benadrukt de noodzaak om onderscheid te maken tussen werkelijke farmacologische kennis en extrapolatie van oppervlakkige vormen in veiligheidskritische toepassingen.