PromptRad: Knowledge-Enhanced Multi-Label Prompt-Tuning for Low-Resource Radiology Report Labeling

ملخص تقني: PromptRad

تعريف المشكلة
يعد التصنيف التلقائي لتقارير الأشعة أمراً ضرورياً لاستخراج النتائج السريرية من النصوص غير المهيكلة لتسهيل أبحاث التصوير الطبي واسعة النطاق. ومع ذلك، تواجه الحلول الحالية قيوداً كبيرة في البيئات السريرية ذات الموارد المنخفضة. تعتمد الطرق التقليدية القائمة على القواعد (مثل MetaMap وNegBio) على خرائط محددة مسبقاً وتواجه صعوبة في التعامل مع الأوصاف المتنوعة وغير التقليدية الموجودة في التقارير السريرية. ومن ناحية أخرى، فإن ضبط النماذج اللغوية المدربة مسبقاً (PLMs) مثل BioBERT أو PubMedBERT بدقة يتطلب عادةً كميات كبيرة من البيانات المصنفة، وهي نادرة في البيئات السريرية بسبب التكلفة العالية للتدقيق من قبل الخبراء. علاوة على ذلك، بينما يوفر "ضبط المحفز" (Prompt-tuning) بديلاً للتعلم بلقطات قليلة (few-shot learning)، فإن النهج الحالي مصمم أساساً للتصنيف متعدد الفئات ذي الفئات المتبادلة حصرياً، مما يجعله عاجزاً عن معالجة الطبيعة المتعددة الملصقات (multi-label) لتقارير الأشعة حيث تتواجد نتائج متعددة معاً.

المنهجية
يقترح المؤلفون PromptRad، وهو نهج لضبط المحفز متعدد الملصقات والمعزز بالمعرفة، مصمم لتصنيف تقارير الأشعة في ظروف الموارد المنخفضة. تعيد هذه الطريقة صياغة مهمة التصنيف متعدد الملصقات كمسألة نمذجة لغة مقنعة (MLM)، وذلك عبر الاستفادة من نموذج لغوي مدرب مسبقاً دون إدخال طبقات تصنيف إضافية.

تتضمن المكونات الرئيسية للمنهجية ما يلي:

1. المُلفظ متعدد الكلمات (Multi-Word Verbalizer): على عكس ضبط المحفز القياسي الذي يربط الفئة بكلمة واحدة، يدمج PromptRad مرادفات من معجم (UMLS Metathesaurus) (تحديداً SNOMEDCT) لإنشاء مُلفظ متعدد الكلمات. على سبيل المثال، يتم ربط ملصق "سرطان الخلايا الكبدية" بكل من "hcc" و"hepatoma". هذا يثري تمثيلات الفئات ويخفف من الانحياز نحو شكل معجمي واحد.
2. إطار عمل ضبط المحفز (Prompt-Tuning Framework): يتم تنسيق التقرير المدخل مع قالب نصي يحتوي على رمز [MASK] (مثلاً: "التقرير الإشعاعي متعلق بـ [MASK]."). يتنبأ النموذج بالرمز عند الموضع المقنع لتحديد وجود نتائج محددة.
3. التوليد التلقائي للمحفز (Automatic Prompt Generation): لتحسين اختيار القالب، يستخدم المؤلفون نموذج T5 توليدي لإنشاء وتصنيف قوالب محفزة متنوعة تلقائياً بناءً على الاحتمالية المشتركة (joint log-likelihood)، واختيار أفضل قالب أداءً للتدريب.
4. هدف التدريب (Training Objective): يتم ضبط النموذج بدقة باستخدام خسارة التقاطع الثنائي المتوافق (binary cross-entropy loss) على لوجيتات (logits) الرموز المقنعة. وعند وجود خرائط كلمات متعددة لملصق ما، يختار النظام الخريطة ذات الاحتمالية الأعلى.

المساهمات الرئيسية
تحدد الورقة ثلاث مساهمات رئيسية:

• الصياغة: صياغة تصنيف تقارير الأشعة في بيئة الموارد المنخفضة كمسألة ضبط محفز متعدد الملصقات، وتكييف نماذج اللغة المقنعة للتنبؤ بنتائج سريرية متعددة في آن واحد من تقرير واحد.
• دمج المعرفة: تقديم مُلفظ متعدد الكلمات مستند إلى UMLS واستراتيجية توليد محفز تلقائية لتعزيز تمثيل الملصقات واختيار القوالب ضمن السياقات السريرية.
• التقييم التجريبي: تقييم PromptRad على مجموعة بيانات واقعية لصور الأشعة المقطعية للكبد، مما يثبت فعاليته تحت إشراف محدود، بما في ذلك حالات النفي الصعبة.

النتائج
أُجريت التجارب على مجموعة بيانات لتقارير الأشعة المقطعية للكبد من مركز طبي واحد، مع مقارنة PromptRad بالأساليب المعتمدة على القواميس (MetaMap، NegBio)، والنماذج اللغوية المدربة بدقة (PubMedBERT)، والنماذج اللغوية الكبيرة (GPT-4).

• الأداء في الموارد المنخفضة: باستخدام 32 مثالاً تدريبياً مصنفاً فقط، تفوق PromptRad على الطرق القائمة على القواميس ونماذج الضبط الدقيق القياسية في معظم الفئات.
• المقارنة مع النماذج اللغوية الكبيرة (LLMs): حقق PromptRad أداءً تنافسياً مع GPT-4، كما أن النسخة التي تستخدم التوليد التلقائي للقوالب (PromptRad+AutoT) تفوقت قلياً على GPT-4 في متوسط الدرجات، رغم استخدامها لنموذج أصغر بكثير يمكن نشره محلياً.
• التعامل مع النفي: أظهر تحليل حالات النفي (التقارير التي تذكر اسم نتيجة ما ولكن تُصنف كـ "سلبية") أن PromptRad استطاع التقاط أنماط النفي المعقدة بشكل أكثر فعالية من النهج القائم على القواعد مثل NegBio، والذي غالباً ما يفشل في التعامل مع الجمل القصيرة أو غير القياسية.
• دراسة الاستئصال (Ablation): أظهر استخدام المُلفظ متعدد الكلمات تحسناً في متوسط الأداء وتقليلاً في التباين بين عمليات التشغيل مقارنة بالمُلفظات أحادية الكلمة.

الأهمية والادعاءات
يضع المؤلفون PromptRad كحل عملي للسيناريوهات السريرية التي تتميز بنقص البيانات، وارتفاع تكاليف التدوين، ومتطلبات خصوصية البيانات الصارمة. من خلال ضبط نموذج خفيف الوزن (PubMedBERT، حوالي 110 مليون معلمة) دون واجهات برمجة تطبيقات خارجية، يقدم PromptRad بديلاً يمكن نشره محلياً للنماذج اللغوية الكبيرة المملوكة لجهات خارجية. وتدعي الورقة أن هذا النهج يسد بفعالية الفجوة بين الحاجة إلى تصنيف عالي الأداء وواقع محدودية البيانات المصنفة في البيئات السريرية. ويشير المؤلفون إلى أنه بينما يعد هذا النهج واعداً، فإن قابليته للتعميم تقتصر حالياً على المجال المحدد (الأشعة المقطعية للكبد) واللغة (الإنجليزية) الخاص بالدراسة، ويتطلب الأمر مزيداً من التحقق للتطبيقات السريرية الأوسع.