scUnify: A Unified Framework for Zero-shot Inference of Single-Cell Foundation Models

إليك ملخص تقني مفصل لورقة البحث بعنوان: "scUnify: إطار عمل موحد للاستنتاج صفري المعرفة لنماذج التأسيس في الخلية الواحدة".

1. بيان المشكلة

على الرغم من الظهور المتسارع لـ نماذج التأسيس للخلية الواحدة (FMs) (مثل scGPT، وscFoundation، وUCE، وGeneformer) التي تولد تمثيلات خلوية (embeddings) عالية الجودة، إلا أن اعتمادها العملي في تحليل تسلسل الحمض النووي الريبي أحادي الخلية (scRNA-seq) الروتيني يعوقه ثلاثة عوائق رئيسية:

• البيئات المجزأة: يتطلب كل نموذج تأسيسي (FM) تبعيات محددة، ومسارات معالجة مسبقة، وإجراءات تنفيذ خاصة به، مما يجعل عملية الإعداد معقدة وعرضة للأخطاء.
• الافتقار إلى القابلية للتوسع: تفتقر العديد من التنفيذات الأصلية للنماذج إلى دعم تعدد المعالجات الرسومية (multi-GPU)، مما يؤدي إلى أوقات تشغيل طويلة للغاية على مجموعات البيانات الضخمة (مثل ملايين الخلايا).
• عدم اتساق التقييم: لا يوجد سير عمل موحد لمقارنة نماذج التأسيس المتعددة. يجب على الباحثين اختيار المقاييس يدوياً وتشغيل مسارات منفصلة، مما يجعل من الصعب تحديد النموذج الأمثل لمجموعة بيانات معينة.

وبناءً على ذلك، يلجأ معظم الممارسين بشكل افتراضي إلى الطرق التقليدية (PCA، scVI) أو يكتفون بتقييم نموذج أو اثنين فقط بشكل محدود، مما يفشل في استغلال الإمكانات الكاملة لنماذج التأسيس.

2. المنهجية: إطار عمل scUnify

scUnify هو خط أنابيب استنتاج موحد وصفري المعرفة (zero-shot)، مصمم لتنفيذ نماذج متعددة لـ scRNA-seq ضمن إطار عمل واحد موحد. يقبل الإطار كائن AnnData قياسي (.h5ad) ويقوم بأتمتة عملية الاستنتاج بأكملها.

المكونات الهيكلية الرئيسية:

• التصميم النمطي القائم على السجل (Registry-Based Modular Design):

  • يتم فصل المنطق الخاص بكل نموذج (المعالجة المسبقة، الترميز/tokenization، تحميل النموذج) عن محرك التنفيذ الأساسي عبر واجهة inferencer موحدة.
  • يتم تحميل النماذج ديناميكياً بناءً على ملفات التكوين، مما يسمح بدمج نماذج التأسيس الجديدة دون تعديل المنطق الموزع الأساسي.
  • عزل البيئة: يستخدم scu.setup() لإنشاء بيئات Conda معزولة تلقائياً لكل نموذج، مما يحل تضارب التبعيات.

• استراتيجية الاستنتاج الموزع الهرمي:

  • التوازي بين المهام (Ray): يقوم بجدولة مهام الاستنتاج المستقلة (المعرفة كأزواج من مجموعة البيانات والنموذج) عبر الموارد المتاحة. وهذا يسمح بالتنفيذ المتزامن لعدة نماذج على نفس مجموعة البيانات أو مجموعات بيانات مختلفة.
  • التوازي داخل المهمة (HuggingFace Accelerate): ضمن مهمة واحدة، يتم تقسيم البيانات عبر عدة معالجات رسومية باستخدام التنفيذ المتوازي للبيانات.
  • التحسين: يستخدم الدقة المختلطة التلقائية (fp16) لتحسين معدل الإنتاجية، ومخزن كائنات Ray مع تحميل البيانات القائم على "الفاعلين" (actors) لتمكين الوصول إلى البيانات بدون نسخ (zero-copy)، مما يقلل من عبء الذاكرة.

• وحدة التقييم المتكاملة:

  • دعم مدمج لـ مقاييس scIB (الحفاظ على الخصائص البيولوجية، وتصحيح الدفعات/batch correction) ومقاييس scGraph (الحفاظ على بنية أنواع الخلايا).
  • يقوم بحساب هذه المقاييس تلقائياً من التمثيلات الناتجة المخزنة في adata.obsm ، مما يتيح مقارنة منهجية بين النماذج تحت ظروف متطابقة.

• واجهة المستخدم:

  • مصمم لبيئات Jupyter Notebook، متبعاً أسلوب البرمجة الخاص بـ scverse/scanpy.
  • يقوم المستخدمون ببساطة بتعريف قائمة من كائنات ScUnifyConfig وتشغيل ScUnifyRunner.

3. المساهمات الرئيسية

1. خط أنابيب موحد صفري المعرفة: يلغي الحاجة إلى الإعداد اليدوي للبيئة والمعالجة المسبقة من خلال قبول كائنات AnnData القياسية والتعامل مع متطلبات كل نموذج تلقائياً.
2. استنتاج قابل للتوسع متعدد المعالجات الرسومية: يحقق توسعاً شبه خطي لمجموعات البيانات الكبيرة (تصل إلى مليون خلية) من خلال الجمع بين جدولة المهام القائمة على Ray وHuggingFace Accelerate.
3. التقييم المعياري: يوفر سير عمل واحداً لتوليد التمثيلات وتقييمها باستخدام مقاييس متسقة (scIB/scGraph)، مما يزيل التحيز اليدوي في اختيار المقاييس.
4. القابلية للتوسع (Extensibility): بنية نمطية تسمح للباحثين بدمج نماذج تأسيس جديدة عبر واجهة محددة دون تغيير النواة الموزعة.

4. النتائج والأداء

قام المؤلفون باختبار scFoundation وscGPT وUCE مقابل تنفيذاتها الأصلية عبر ثلاث مجموعات بيانات: نخاع العظم (60 ألف خلية)، الدم (300 ألف خلية)، والقلب (مليون خلية).

• سرعة الاستنتاج:

  • تخفيضات كبيرة: بالنسبة لـ UCE وscFoundation، قلل scUnify وقت الاستنتاج بنسبة >90% على معالج رسومي واحد مقارنة بالتنفيذات الأصلية (على سبيل المثال، انخفض وقت تنفيذ UCE على مجموعة بيانات القلب المكونة من مليون خلية من ~10 ساعات إلى ~56 دقيقة).
  • الكفاءة: يُعزى التحسن إلى الاستنتاج المحسن القائم على الدفعات (batch-based inference) وتحميل البيانات المتوازي، مما يخفف من اختناقات نقل البيانات بين وحدة المعالجة المركزية ووحدة معالجة الرسومات.
  • القابلية للتوسع: أظهر التنفيذ متعدد المعالجات الرسومية توسعاً شبه خطي. بالنسبة لـ UCE، حقق التوسع من 1 إلى 3 معالجات رسومية حوالي 50% و33% من تقليل الوقت المثالي، على التوالي. حقق scFoundation تسارعاً فائق الخطية (super-linear speedup) بسبب تخفيف اختناقات نقل البيانات التسلسلية.
  • العبء الإضافي (Overhead): شكل عبء تحميل البيانات والنماذج أقل من 5% من إجمالي وقت التنفيذ.

• جودة التمثيلات (Embedding Quality):

  • أظهرت التمثيلات المولدة بواسطة scUnify (باستخدام fp16) جودة مطابقة تقريباً للتنفيذات الأصلية (fp32)، مع معاملات ارتباط بيرسون > 0.999.
  • أكدت نتائج التقييم أنه لا يوجد نموذج تأسيسي واحد يهيمن على جميع مجموعات البيانات والمقاييس، مما يؤكد ضرورة قدرة المقارنة بين النماذج التي يوفرها scUnify.

5. الأهمية

• سد الفجوة: يحول scUnify نماذج التأسيس من نماذج بحثية أولية إلى أدوات عملية وسهلة الوصول لمجتمع الخلية الواحدة الأوسع.
• تكامل عمليات تعلم الآلة (MLOps): يقدم مبادئ MLOps (عزل البيئة، إدارة التكوين، الجدولة المتوازية) إلى تحليل الخلية الواحدة، مما يقلل من تكاليف الهندسة المتكررة.
• جاهزية المستقبل: من خلال خفض حواجز الدخول، يسهل scUnify التكامل الروتيني للنماذج الناشئة (مثل Geneformer v2، وCellFM) ويدعم التوسعات المستقبلية مثل الضبط الدقيق الفعال للمعلمات (PEFT/LoRA).
• المصدر المفتوح: تم تنفيذ الإطار بلغة Python، وهو يدعم بيئات Linux متعددة المعالجات الرسومية، ومتاح علنياً عبر PyPI وGitHub.

باختاً، يحل scUnify الاختناقات الحرجة المتمثلة في التعقيد، والقابلية للتوسع، وعدم اتساق التقييم في نماذج التأسيس للخلية الواحدة، مما يمكّن الباحثين من توليد ومقارنة واختيار أفضل التمثيلات لأسئلتهم البيولوجية بكفاءة.