🤖 AI

SegMaFormer: A Hybrid State-Space and Transformer Model for Efficient Segmentation

تعد SegMaFormer بنية هجينة خفيفة الوزن تجمع استراتيجياً بين طبقات قائمة على نموذج Mamba للمعالجة الفعالة في المراحل المبكرة ووحدات Transformer للتحسين في المراحل اللاحقة، محققةً أداءً تنافسياً في تقسيم الصور الطبية ثلاثية الأبعاد بمعلمات أقل بنسبة تصل إلى 75 ضعفاً مقارنة بالنماذج الرائدة.

المؤلفون الأصليون: Duy D. Nguyen, Phat T. Tran-Truong

نُشر 2026-03-24

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Duy D. Nguyen, Phat T. Tran-Truong

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول حل لغز أحجية (بازل) ثلاثي الأبعاد ضخم لجسم الإنسان، لكن قطعها صغيرة جداً، وتحتاج إلى معرفة مكان كل عضو أو ورم أو عضلة بدقة. هذا ما يفعله الأطباء عند تحليل الصور الطبية مثل الأشعة المقطعية (CT) أو الرنين المغناطيسي (MRI). لفترة طويلة، استخدمت الحواسيب "الشبكات العصبية الالتفافية" (CNNs) للقيام بذلك. فكر في الـ CNN كأنها عدسة مكبرة: هي بارعة في رؤية التفاصيل المحلية الصغيرة (مثل ملمس قطعة من الجلد)، لكنها تكافح لرؤية الصورة الكاملة دفعة واحدة؛ فهي لا تستطيع بسهولة الربط بين ما يوجد في أعلى الرأس وما يوجد في أسفل القدمين.

ثم جاءت المحولات (Transformers). فكر في "المحول" كأنه محقق فائق الذكاء يمكنه النظر إلى مسرح الجريمة بأكد (مسح الجسم بالكامل) في وقت واحد وفهم كيفية ارتباط كل جزء بالآخر. هذا أمر مذهل من حيث الدقة، ولكن هناك عقبة: هذا المحقق باهظ الثمن للغاية في توظيفه؛ فهو يتطلب قدرًا هائلاً من قوة الحوسبة والذاكرة، وهو ما لا تملكه الكثير من المستشفيات ببساطة.

مؤخرًا، ظهر نوع جديد من الذكاء الاصطناعي يسمى Mamba. فكر في Mamba كأنه قطار فائق السرعة. إنه يتحرك عبر البيانات بكفاءة عالية، ويتعامل مع السلاسل الطويلة دون أن يتعب، لكنه قد يفتقر أحيانًا إلى التفاصيل الدقيقة التي تلتقطها العدسة المكبرة.

ظهور SegMaFormer: الجمع بين أفضل العوالم

يقدم البحث نموذج SegMaFormer، وهو نموذج جديد يعمل كأنه طاقم بناء ذكي يجمع بين أفضل الأدوات من جميع التوجهات الثلاثة. وإليك كيف يعمل، مقسمًا إلى خطوات بسيطة:

1. مرحلة "الدقة العالية": قطار Mamba

عندما ينظر النموذج إلى المسح ثلاثي الأبعاد لأول مرة، تكون الصورة ضخمة ومليئة بالتفاصيل الدقيقة. إذا حاولت استخدام "المحقق فائق الذكاء" (Transformer) هنا، فسيغرق في البيانات ويتسبب في تعطل الكمبيوتر.

الحل: يستخدم SegMaFormer "قطار" Mamba لهذه المرحلة المبكرة. يمر القطر عبر البيانات عالية الدقة بسرعة، مستخلصًا السياق المكاني الأساسي دون استنزاف ذاكرة الكمبيوتر. الأمر يشبه استخدام حزام ناقل سريع لفرز كومة قطع الأحجية الأولية.

2. مرح مرحلة "الدقة المنخفضة": المحقق

بينما يعالج النموذج البيانات، فإنه يبتعد تدريجيًا (يصغر الرؤية). تصبح الصورة أصغر (دقة أقل)، ولكن الميزات الهامة "للصورة الكبيرة" تصبح الآن أكثر وضوحًا.

الحل: الآن، ينتقل النموذج إلى المحول (Transformer) "المحقق". وبما أن البيانات أصبحت أصغر، يمكن للمحقق النظر إلى المشهد بأكمله بسهولة لفهم العلاقات العالمية (على سبيل المثال: "هذا الورم يقع بجوار الكبد مباشرة"). هذا يضمن دقة التشخيص النهائي.

3. السر الخفي: 3D-RoPE (نظام تحديد المواقع GPS)

أحد أكبر التحديات في التصوير الطبي ثلاثي الأبعاد هو معرفة أين توجد الأشياء. إذا أخرجت قطعة من الأحجية من الصندوق، فأنت بحاجة لمعرفة ما إذا كانت تنتمي إلى الزاوية العليا اليسرى أم السفلى اليمنى.

الابتكار: أضاف المؤلفون شيئًا يسمى 3D-RoPE (التضمين الموضعي الدوراني). فكر في هذا كأنك تعطي كل قطعة من الأحجية إحداثيات GPS مدمجة. هذا يخبر الذكاء الاصطناعي بالضبط أين تقع القطعة في الفضاء ثلاثي الأبعاد (أعلى/أسفل، يسار/يمين، أمام/خلف)، مما يضمن عدم ارتباك النموذج بشأن توجه التشريح.

لماذا يهم هذا؟

النتائج مبهرة، وكأنك وجدت سيارة فيراري تحقق نفس استهلاك الوقراري كالدراجة الهوائية.

حجم ضئيل: نموذج SegMaFormer صغير للغاية. فهو يحتوي على عدد أقل بـ 75 مرة من المعلمات (التي تمثل "خلايا الدماغ" للذكاء الاصطناعي) مقارنة بالنماذج الضخمة المستخدمة حاليًا.
سريع وغير مكلف: يتطلب قدرًا أقل بكثير من قوة الحوسبة. وهذا يعني أن مستشفى في منطقة نامية، أو حتى جهاز كمبيوتر محمول عادي، يمكنه تشغيل هذا النموذج لتشخيص الأورام أو مشاكل القلب، بدلًا من الحاجة إلى كمبيوتر خارق.
دقة مماثلة: رغم صغر حجمه وسرعته، إلا أنه يؤدي بشكل جيد تمامًا مثل النماذج العملاقة في ثلاثة معايير طبية رئيسية (أورام الدماغ، مسوحات الأعضاء المتعددة، ومسوحات القلب).

الخلاصة

SegMaFormer هو هجين ذكي يقول: "لماذا تستخدم مطرقة ثقيلة لكسر حبة جوز؟" إنه يستخدم طريقة سريعة وفعالة للقيام بالمهام الشاقة، وطريقة قوية ومفصلة فقط عند الضرورة. إنه يثبت أنك لست بحاجة إلى ذكاء اصطناعي ضخم ومكلف لإنقاذ الأروا، بل تحتاج فقط إلى ذكاء اصطناعي ذكي وفعال يعرف كيف يستخدم أدواته بحكمة. هذا يمكن أن يجعل الذكاء الاصطاذي الطبي المتقدم متاحًا للمستشفيات في كل مكان، وليس فقط لأولئك الذين يمتلكون أكبر الميزانيات.

إليك ملخص تقني مفصل لورقة البحث بعنوان "SegMaFormer: نموذج هجين من الحالة الفراغية والترانسفورمر للتقسيم الفعال".

1. بيان المشكلة

تتناول الورقة تحديات حرجة في التقسيم ثلاثي الأبعاد للصور الطبية:

التعقيد الحسابي: تعتمد نماذج الترانسفورمر (Transformer) المتطورة (مثل ViT وSwin-UNETR) على آليات الانتباه الذاتي التي تظهر تعقيداً تربيعياً ( $O(N^2)$ ) بالنسبة لطول التسلسل. بالنسبة للبيانات الطبية الحجمية (المسوح ثلاثية الأبعاد)، يؤدي ترميز الحجم إلى أطوال تسلسل ضخمة، مما يجعل هذه النماذج مكلفة حسابياً ومستهلكة للذاكرة بشكل كبير.
ندرة البيانات والقدرة على التعميم: غالباً ما تكون مجموعات البيانات في التصوير الطبي صغيرة وتفتقر إلى التوصيفات (Annotations). تميل النماذج الضخمة ذات المعلمات الكثيرة إلى الإفراط في التخصيص (Overfitting) أو الفشل في التعميم مقارنة بالشبكات العصبية الالتفافية (CNNs) الأخف وزناً مثل nnU-Net.
القيود العتادية: تفتقر العديد من البيئات السريرية، لا سيما في المناطق النامية، إلى الموارد الحسابية عالية الأداء المطلوبة لتشغيل نماذج التقسيم الضخمة.
المقايضات الهيكلية: بينما تتفوق الشبكات الالتفافية (CNNs) في استخراج الميزات المحلية، فإنها تعاني في التقاط الاعتمادات طويلة المدى. وفي المقابل، تلتقط نماذج الترانسفورمر النقية السياق العالمي، لكنها غير فعالة. أما نماذج الحالة الفراغية (SSMs) الحديثة مثل Mamba، فهي توفر تعقيداً خطياً ولكنها قد تفتقر إلى التحيز الاستقرائي المكاني الكافي للتفاصيل الطبية الدقيقة دون تصميم دقيق.

2. المنهجية: بنية SegMaFormer

يقترح المؤلفون SegMaFormer، وهو بنية هجينة خفيفة الوزن تجمع بين وحدات Mamba (SSM) وTransformer ضمن إطار عمل مشفر-فك تشفير (Encoder-Decoder) هرمي.

أ. فلسفة التصميم الجوهرية

يتبنى النموذج استراتيجية هرمية للموازنة بين الكفاءة والقدرة التمثيلية:

المراحل المبكرة (الدقة العالية): تستخدم طبقات قائمة على Mamba.
- السبب المنطقي: في الدقة العالية، يكون عدد الرموز ( $N$ ) كبيراً. توفر Mamba تعقيداً خطياً ( $O(N)$ )، مما يجعلها فعالة في التقاط السياق المكاني الأساسي وإجراء خلط التسلسل دون التكلفة التربيعية للانتباه الذاتي.
المراحل المتأخرة (الدقة المنخفضة): تستخدم طبقات الانتباه الذاتي (Transformer).
- السبب المنطقي: بعد خفض الدقة التدريجي، يقل طول التسلسل ( $N$ ) بشكل كبير، بينما تزدل أبعاد الميزة ( $d$ ). هنا، تصبح التكلفة التربيعية للانتباه محتملة، مما يسمح للنموذج بتنقية تمثيلات الميزات والتقاط الاعتمادات التشريحية العالمية المعقدة.

ب. المكونات التقنية الرئيسية

تضمين الرقع ثلاثية الأبعاد المتداخلة (3D Overlapped Patch Embedding): يتم ترميز الحجم ثلاثي الأبعاد إلى رقع (Patches).
تضمين الموضع الدوراني ثلاثي الأبعاد (3D-RoPE):
- مدمج بعد طبقة التضمين لتوفير إشارات موضعية متسقة مع الدوران.
- ضروري للحفاظ على البنية المحلية للفواكسل (Voxel) وتعزيز الوعي المكاني لكل من كتل Mamba وTransformer، مما يعالج ضعف التحيز الاستدراكي المكاني الذي يوجد غالباً في نماذج التسلسل النقية.
كتلة المشفر الهجين (3D Mix Vision Mamba):
- كتلة مخصصة (الشكل 2 في الورقة) تدمج آلية المسح الانتقائي لـ Mamba مع آلية بوابات مستوحاة من GRU.
- تنظم تدفق المعلومات ديناميكياً، مما يحافظ على التحيزات المحلية المعتمدة على البيانات مع نمذجة الاعتمادات طويلة المدى.
- تتجنب الكتلة الاعتماد الثقيل على الطبقات الالتفافية لتعظيم كفاءة التآزر بين Mamba وTransformer.
فك التشفير ذو الطبقات متعددة المستويات الخفيفة (Lightweight MLP Decoder):
- بدلاً من الالتفافات ثلاثية الأبعاد المتتالية التقليدية، يستخدم فك التشفير طبقات خطية (MLP) لرفع الدقة، ودمج، وإسقاط الميزات متعددة المقاييس من المشفر.
- يقلل هذا من عدد المعلمات ويتجنب الإفراط في التخصيص مع إعادة بناء الميزات الحجمية بفعالية.
استراتيجية التدريب:
- تم التدريب بدون تدريب مسبق خارجي (مثل ImageNet) لضمان مقارنة عادلة وإثبات القوة في السيناريوهات محدودة البيانات.
- يستخدم مزيجاً مرجحاً من خسائر Dice وCross-Entropy.

3. المساهمات الرئيسية

البنية الهجينة: تقديم مشفر مبتكر يضع استراتيجياً طبقات Mamba في المراحل المبكرة عالية الدقة وطبقات الانتباه الذاتي في المراحل المتأخرة منخفضة الدقة، مما يحسن المقايضة بين نمذجة السياق العالمي والتكلفة الحسابية.
تكامل 3D-RoPE: تطبيق تضمينات الموضع الدورانية ثلاثية الأبعاد لتعزيز الوعي المكاني في البيانات الحجمية، مما عزز بشكل كبير أداء كل من مكونات Mamba وTransformer.
الكفاءة القصوى: يحقق النموذج دقة تنافسية مع 2.02 مليون معلمة فقط و15.2 GFLOPs. يمثل هذا انخفاضاً بمقدار 75 ضعفاً في المعلمات مقارنة بالنماذج المتطورة الضخمة (مثل nnFormer وUNETR) مع الحفاظ على درجات Dice مماثلة.
أداء أساسي متفوق: يتفوق النموذج باستمرار على النموذج المرجعي SegFormer3D عبر جميع الاختبارات الثلاثة دون تدريب مسبق، مما يثبت أن التقسيم القوي يمكن تحقيقه باستخدام بنيات مدمجة.

4. النتائج التجريبية

تم تقييم النموذج على ثلاث مجموعات بيانات عامة باستخدام مقاييس قياسية (معامل Dice) ومقارنته بالنماذج المتطورة (nnFormer, UNETR, SwinUNETR, U-Mamba, إل., إلخ).

مجموعة البيانات	المهمة	النتائج الرئيسية
BraTS	تقسيم أورام الدماغ	حقق متوسط Dice بنسبة 83.79%، متفوقاً على SegFormer3D (82.1%) ومقترباً من nnFormer (86.4%) رغم استخدامه معلمات أقل بـ ~75 ضعفاً.
Synapse	تقسيم أعضاء متعددة في الأشعة المقطعية	حقق متوسط Dice بنسبة 83.33% (الثالث عالمياً). تفوق على النموذج المرجعي والعديد من النماذج الأكبر. بينما سجل U-Mamba وnnFormer درجات أعلى قليلاً، إلا أنهما تطلبا >75 ضعفاً من المعلمات.
ACDC	تشخيص القلب	حقق متوسط Dice بنسبة 91.11%، متفوقاً على SegFormer3D (90.96%) ومنافساً بقوة لـ nnFormer (92.06%). كان 3D-RoPE حاسماً هنا للتعويض عن نقص التحيز المحلي الشبيه بالـ CNN.

الكفاءة: يقلل SegMaFormer من FLOPs بفارق كبير مقارنة بالنماذج كثيفة الانتباه.
القدرة على التعميم: أظهر أداءً قوياً بدون تدريب مسبه، مما يسلط الضال على ملاءمته للمجالات الطبية حيث لا تتوفر مجموعات بيانات خارجية ضخمة.

5. الأهمية والخاتمة

القابلية للنشر السريري: من خلال تقليل المتطلبات الحسابية بشكل جذري (المعلمات وFLOPs)، يجعل SegMaFormer التقسيم ثلاثي الأبعاد عالي الدقة ممكناً على الأجهزة المتواضعة، مما يعالج عائقاً حرجاً أمام الاعتماد في المستشفيات ذات الموارد المحدودة.
الرؤية الهيكلية: تتحدى الورقة فكرة أن أعداد المعلمات الضخمة ضرورية للتقسيم الطبي. وتثبت أن النهج الهجين (Mamba للكفاءة + Transformer للسياق العالمي + RoPE للوعي المكاني) يمكن أن يتفوق على أو يضاهي النماذج الضخمة.
الاتجاهات المستقبلية: يشير المؤلفون إلى أنه على الرغم من كفاءة النموذج العالية، إلا أن الأداء على الهياكل التشريحية الصغيرة جداً والحدود الحادة لا يزال هناك مجال لتحسينه، مما يشير إلى أن العمل المستقبلي يمكن أن يركز على تحسين التقاط التفاصيل المكانية الدقيقة.

باختصار، يمثل SegMaFormer خطوة مهمة للأمام في مجال التقسيم الفعال، حيث يثبت أن النماذج الهجينة الخفيفة من الحالة الفراغية والترانسفورمر يمكن أن تقدم أداءً متطوراً للتقسيم الحجمي ثلاثي الأبعاد دون التكاليف الحسابية الباهظة للنماذج العملاقة الحالية.