Singpath-VL Technical Report

Technische Samenvatting: Singpath-VL

1. Het Probleem
Hoewel multimodale grote taalmodellen (MLLMs) de veld van computationele pathologie hebben getransformeerd, blijft de toepassing in cytopathologie, en specifiek bij cervicale cytologie (uitstrijkjes), onderontwikkeld. De belangrijkste belemmering is het gebrek aan grote, hoogwaardige, openbare datasets die cervicale cytologie-afbeeldingen koppelen aan gedetailleerde, expert-niveau morfologische beschrijvingen.
In tegenstelling tot histopathologie, waar weefselarchitectuur rijke context biedt, vereist cervicale cytologie een uiterst fijne interpretatie van subtiele cellulaire en nucleaire kenmerken (zoals nucleaire hyperchromasie, onregelmatige nucleaire membranen en een verhoogde nucleair-cytoplasmatische verhouding) van individuele cellen. Bestaande algemene modellen missen vaak het vermogen om deze nuances te begrijpen, en handmatig gecurateerde datasets zijn te klein om effectief te trainen.

2. Methodologie
De auteurs introduceren een tweeledige aanpak: het genereren van een schaalbaar dataset en het trainen van een gespecialiseerd model.

• Data-Generatie Pijplijn (Singpath-CytoText):
  Om het tekort aan data op te lossen, ontwikkelden de auteurs een innovatieve driefasen-pijplijn om een dataset van één miljoen afbeeldingen te synthetiseren:

  1. Parallelle Afbeelding-Captioning: Drie krachtige, open-source MLLMs (Qwen3-VL-32B, InternVL-3.5-38B, Baichuan-Omni-1.5) genereren onafhankelijke beschrijvingen van afbeeldingstegels, gefocust op morfologische kenmerken relevant voor het Bethesda-systeem (TBS).
  2. Consensus Fusie: Een groot taalmodel (LLM) fungeert als integrator. Het identificeert overeenkomsten tussen de drie beschrijvingen, lost conflicten op en filtert kenmerken die de modellen consistent verkeerd interpreteren (zogenoemde "model-missing dimensions").
  3. Expert Kennis Injectie: Een kleiner, fijngetuned expert-model gespecialiseerd in cervicale cytopathologie analyseert de originele afbeelding en de gefuseerde tekst. Dit model voegt kritieke, fijne morfologische details toe die door de algemene modellen werden gemist, wat resulteert in een hoogwaardige, accurate beschrijving.

• Trainingsstrategie (Singpath-VL):
  Het model is gebaseerd op Qwen3-VL-4B en wordt getraind via een drie-staps strategie om domain-specific kennis te verwerven zonder bestaande kennis te verliezen:

  1. Vision-Language Alignment: Full-parameter fine-tuning op de gegenereerde dataset om het visuele coderingsvermogen te koppelen aan pathologische terminologie.
  2. Supervised Fine-Tuning (SFT): Trainen op instructievolgende taken, waarbij de data wordt omgezet in dialogen die realistische diagnostische queries simuleren volgens TBS-templates.
  3. Knowledge Replay: Om "catastrophic forgetting" (het vergeten van algemene kennis) te voorkomen, wordt een replay-strategie gebruikt. Hierbij worden zowel cytopathologie-data als algemene data gebruikt, gegenereerd door het originele basismodel om de fine-tuning te regulariseren en de redeneerframework te behouden.

3. Belangrijkste Bijdragen

• Singpath-CytoText Dataset: Een schaalbare, million-scale dataset van afbeelding-beschrijvingen gegenereerd via een robuuste, semi-automatische pijplijn met menselijke expert-injectie.
• Singpath-VL Model: Een gespecialiseerd MLLM dat is getraind op deze dataset, specifiek ontworpen voor fijne morfologische perceptie en diagnostische classificatie in cervicale cytologie.
• Open Science: De auteurs beloven een deel van de synthetische dataset en de benchmarks open source te maken om verder onderzoek te stimuleren.

4. Resultaten
Het model werd geëvalueerd op twee specifieke benchmarks:

• MorphoPercept-Bench (Morfologische Perceptie): Dit dataset test het vermogen om negen kritieke morfologische kenmerken (zoals nucleaire grootte en chromatinestructuur) te detecteren.
  • Singpath-VL behaalde een gemiddelde nauwkeurigheid van 89,0%, wat aanzienlijk hoger is dan alle baselines (Qwen3-VL-4B: 53,1%, InternVL-3.5-38B: 50,0%).
  • Opmerkelijk is dat Singpath-VL de inter-rater overeenstemming tussen menselijke experts (78,2%) overtrof, wat aantoont dat het model een robuuste representatie van cytomorfologie heeft geleerd.
• CytoCell-Bench (Diagnostische Classificatie): Dit dataset test de classificatie volgens het Bethesda-systeem (NILM, ASC-US, LSIL, etc.).
  • Singpath-VL behaalde 100% nauwkeurigheid voor de NILM-categorie (negatief) en presteerde beter dan de state-of-the-art EfficientNet B0 in de klinisch moeilijke, ambiguïteitsvolle categorieën ASC-US (+5,5%) en ASC-H (+3,7%).
  • Algemene MLLMs faalden catastrofale op deze taak door een sterke bias naar bepaalde klassen.

5. Betekenis en Toekomstperspectief
Singpath-VL markeert een doorbraak in het gebruik van AI voor cervicale cytologie door het gat te dichten tussen algemene multimodale modellen en de hoge eisen van de cytopathologie. Het bewijst dat het combineren van meerdere "zwakke" annotatoren met expert-kennisinjectie een schaalbare oplossing biedt voor het gebrek aan data.

Beperkingen en Toekomst:

• Het model is momenteel beperkt tot cervicale cytologie en vereist hertraining voor andere subspecialiteiten (bijv. urinecytologie).
• Toekomstig onderzoek richt zich op het ontwikkelen van causale redeneermodellen die niet alleen een diagnose geven, maar de logische keten van morfologische bevindingen naar diagnose uitleggen (explainable AI).
• Er wordt gewerkt aan uitbreiding naar een "pan-cytopathologie" assistent en interactieve systemen met mens-in-de-lus voor klinische workflows.

Kortom, Singpath-VL biedt een bewezen, hoogpresterend kader voor het automatiseren van complexe cytologische taken, met potentie om de nauwkeurigheid en consistentie van cervicale screening te verbeteren.