💻 computer science

GRASP: Guided Residual Adapters with Sample-wise Partitioning

تقترح الورقة البحثية GRASP، وهي طريقة غير جراحية تعمل على تقسيم فضاء التكييف وتوظيف مهايئات متبقية خاصة بالمجموعات لمحاذاة التدرجات في مطابقة التدفق للنصوص إلى الصور ذات الذيل الطويل، مما يحسن بشكل كبير من دقة وتنوع فئات الذيل مع تمكين البيانات الاصطناعية من مطابقة أداء البيانات الحقيقية في مهام التصنيف اللاحقة.

المؤلفون الأصليون: Felix Nützel, Mischa Dombrowski, Bernhard Kainz

نُشر 2026-05-13

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Felix Nützel, Mischa Dombrowski, Bernhard Kainz

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تدرب طباخاً ماهراً على طهي قائمة طعام ضخمة من الأطباق. في معظم الأوقات، يُطلب منه فقط طهي الأطباق الكلاسيكية الشهيرة مثل "السباغيتي" أو "الستيك" (الفئات الرائدة - head classes). لكن في بعض الأحيان، يُطلب منه طهي أطباق نادرة ومحددة جداً مثل "نوع معين من حساء الفطر النادر" (الفئات الذيلية - tail classes).

لأن الطباخ يتدرب على الأطباق الشهيرة آلاف المرات مقابل كل مرة واحدة يتدرب فيها على الطبق النادر، فإنه يصبح بارعاً جداً في الكلاسيكيات ولكنه سيء جداً في الأطباق النادرة. عندما يُطلب منه صنع حساء الفطر النادر، قد يقدم مجرد وعاء من الماء السادة أو مزيجاً غريباً من السباغيتي والفطر. لقد "انهار" (collapsed) في المهمة النادرة لأن إشارة التدريب للأطباق الشهيرة طغت على الإشارة الخاصة بالأطبان النادرة.

تقدم هذه الورقة حلاً يسمى GRASP (المهايئات المتبقية الموجهة مع التقسيم القائم على العينات) لإصلاح هذه المشكلة في مولدات الصور بالذكاء الاصطناعي، خاصة في مجالات مثل التصوير الطبي حيث تكون الأمراض النادرة شائعة ولكن يصعب تعلمها.

إليك كيف يعمل GRASP، باستخدام تشبيهات بسيطة:

1. المشكلة: "الفصل الدراسي المزدحم"

في التدريب القياسي للذكاء الاصطناعي، يكون جميع "الطلاب" (الرياضيات الداخلية للذكاء الاصطناعي) في فصل دراسي واحد كبير. عندما يعطي المعلم (خوارزمية التدريب) ملاحظات، تكون الملاحظات الخاصة بالأطباق الشهيرة (مثل السباغيتي) صاخبة ومتكررة لدرجة أنها تطغى على الهمسات الهادئة للملاحظات الخاصة بالأطباق النادرة. يتعلم الذكاء الاصطناعي تجاهل الأطباق النادرة لأن الرياضيات تصبح مشوشة بسبب الضجيج.

2. الحل: بناء "مجموعات دراسية متخصصة"

بدلاً من إبقاء الجميع في غرفة واحدة كبيرة، يبني GRASP نظاماً من المجموعات الدراسية المتخصصة (المعروفة باسم الخبراء).

الخريطة (التقسيم الثابت): قبل بدء التدريب، يرسم الباحثون خريطة. هم لا يطلبون من الذكاء الاصطناعي تحديد من ينتمي إلى أين (والذي قد يكون صعباً إذا كان الذكاء الاصطناعي منحازاً للمواضيع الشهيرة)، بل يستخدمون قاعدة بسيطة ومعدة مسبقاً: "إذا كان الطلب يتعلق بمرض نادر، اذهب إلى المجموعة (أ). إذا كان يتعلق بمرض شائع، اذهب إلى المجموعة (ب). إذا كان يتعلق بشخص سليم، اذهب إلى المجموعة (ج)".
- تشبيه: فكر في مكتبة يتم فيها فرز الكتب حسب ملصق مطبوع مسبقاً على كعب الكتاب. أنت لا تحتاج إلى أمين مكتبة ذكي ليقرر أين يذهب الكتاب؛ أنت فقط تتبع الملصق. هذا يضمن أنه حتى لو وجد كتاب نادر واحد فقط في المكتبة، فإنه سيذهب دائماً إلى نفس الرف المحدد.
المتخصصون (المهايئات المتبقية - Residual Adapters): داخل كل مجموعة دراسية، يوجد مساعد صغير متخصص (مهايئ) يتعلم فقط التفاصيل الخاصة بتلك المجموعة المحددة.
- تشبيه: تخيل أن الطباخ الرئيسي لا يزال موجوداً، ولكن لديه الآن مساعد طباخ لمحطة "الفطر النادر" ومساعد آخر لمحطة "السلطات الصحية". مساعد الطباخ الخاص بـ "الفطر النادر" يستمع فقط للملاحظات المتعلقة بالفطر. هو لا يرتبك من آلاف الأشخاص الذين يصرخون بشأن السباغيتي.

3. لماذا هذا أفضل من "تعلم التصنيف"

حاولت بعض الطرق السابقة تعليم الذكاء الاصطناعي كيفية تصنيف الطلاب إلى مجموعات بنفسه.

الخلل: إذا كان الذكاء الاصطناعي هو من يقرر من يذهب إلى أين، فسيقوم بطبيعة الحال بإرسال الطلاب النادرين إلى المجموعة "الشائعة" لأن المجموعة الشائعة صاخبة ومهيمنة. يتعلم الذكاء الاصطناعي تجاهل الطلاب النادرين لإرضاء الأغلبية.
إصلاح GRASP: يستخدم GRASP قاعدة ثابتة ومعدة مسبقاً (الخريطة). إنه يجبر الطلاب النادرين على التواجد في مجموعتهم الخاصة، مما يضمن حصولهم على الاهتمام. الأمر يشبه معلم يقول: "بغض النظر عن أي شيء، هؤلاء الطلاب الثلاثة سيجلسون عند هذه الطاولة المحددة"، مما يضمن عدم ضياعهم في الزحام.

4. النتائج: ماذا حدث؟

اختبر الباحثون هذا على صور الأشعة السينية الطبية (حيث الأمراض النادرة هي "الذيل") وعلى الصور العامة (مثل ImageNet).

صور نادرة أفضل: بدأ الذكاء الاصطناعي في توليد صور أفضل بكثير للأمراض النادرة. بدلاً من كونها صوراً غير مفهومة وضبابية، بدت الصور حقيقية ومتنوعة.
لا ضرر على الشائع: لم تسوء صور الأمراض الشائعة؛ بل ظلت جيدة كما كانت.
النجاح في المهام اللاحقة: عندما استخدموا هذه الصور المولدة بالذكاء الاصطناعي لتدريب كمبيوتر على تشخيص الأمراض، أصبح الكمبيوتر أفضل بكثير في اكتشاف الأمراض النادرة. في الواقع، استطاع تحديد الحالات النادرة التي فشل في التعرف عليها تماماً في السابق.

5. سحر "غير التدخلي"

الجزء الأروع في GRASP هو أنه لا يغير القواعد الأساسية لكيفية تعلم الذكاء الاصطناعي (الهدف) أو كيفية اختيار الصور (العينة). هو فقط يغير من يستمع إلى أي ملاحظات.

تشبيه: الأمر يشبه إضافة سماعات عازلة للضوضاء لطلاب محددين في الفصل الدراسي. لا يزال المعلم يتحدث إلى الغرفة بأكملها، لكن طلاب مجموعة "المرض النادر" يسمعون فقط الهمسات الموجهة إليهم، بينما تسمع مجموعة "الأطباق الشائعة" الصيحات العالية.

باخت-صار: يمنع GRASP الذكاء الاصطناعي من تجاهل الأشياء النادرة عن طريق إجبارها على الانضمام إلى فرق تعلم مخصصة باستخدام قواعد بسيطة ومعدة مسبقاً. هذا يضمن أن حتى أكثر الحالات ندرة تحصل على الاهتمام الذي تحتاجه ليتم تعلمها بشكل صحيح، دون إفساد الحالات الشائعة.

ملخص تقني: GRASP – المهايئات المتبقية الموجهة مع التقسيم القائم على العينات

بيان المشكلة

تُظهر نماذج المحولات (Transformers) في مطابقة التدفق (Flow Matching) لتحويل النص إلى صورة تدهورًا حادًا في الأداء في التوزيعات ذات الذيل الطويل (Long-tail distributions)، لا سيما في مجالات مثل التصوير الطبي حيث تهيمن الحالات المرضية النادرة على السيناريوهات الواقعية. وبينما تؤدي النماذج أداءً جيدًا في الفئات "الرأسية" (Head classes) المتكررة، فإنها تعاني من انهيار النمط (Mode collapse) في فئات "الذيل" (Tail classes)، مما ينتج صورًا ذات دقة ضعيفة وتنوع محدود. يحدد المؤلفون السبب الجذري في كونه خللاً على مستوى التحسين (Optimization-level pathology): أثناء الضبط الدقيق (Fine-tuning)، تكون تحديثات التدرج (Gradient updates) للفئات الرأسية وفئات الذيل غير متوافقة من حيث المعيار (Norm) والاتجاه. وتتداخل هذه التدرجات بشكل تدميري عند المتوسط على مستوى المعاملات (Parameters)، مما يجعل النموذج يعطي الأولوية للفئات المتكررة ويؤدي إلى انهيار تمثيل الفئات النادرة. تفشل التدخلات الحالية، مثل استراتيجيات أخذ العينات اللاحقة أو تعديلات الخسارة أثناء التدريب، في معالجة عدم توافق التدرج هذا تحديدًا، حيث تترك التوزيع الأساسي دون تغيير أو تعدل هدف التوليد بطرق لا تستهدف مباشرة فشل التحسين.

المنهجية

يقترح البحث GRASP (المهايئات المتبقية الموجهة مع التقسيم القائم على العينات)، وهو تدخل معماري غير اقتحامي مصمم لتحسين توافق التدرج دون تغيير هدف مطابقة التدفق أو عملية أخذ العينات.

1. التقسيم القائم على العينات عبر التكييف (Conditioning)

بدلاً من تعلم شبكة بوابة (Gating network) -والتي تخاطر بهيمنة تدرجات الفئات الرأسية عليها- يستخدم GRASP تقسيمًا ثابتًا وحتميًا لمساحة التكييف.

الأساس النظري: في مطابقة التدفق الشرطية، تفهرس قيم التكييف مجموعات متميزة من مسارات الاحتمالية. يجادل المؤلفون بأن التقسيم على طول متجه التكييف هو التفكيك الهيكلي الصحيح ليعمل كوكيل لتوافق التدرج.
التنفيذ: تقوم دالة توجيه ثابتة $\pi: \mathcal{C} \to \{1, \dots, K\}$ $π : C \to {1, \dots, K}$ بتعيين كل عينة إلى واحد من $K$ $K$ من الخبراء بناءً على تكييفها.
- السياق الطبي (MIMIC-CXR-LT): يتم تقسيم العينات إلى مجموعات دلالية (رأس، متوسط، ذيل) وتُقسم أيضًا حسب أولوية مرتبطة بالمجال (سليم مقابل مرضي)، مما ينتج عنه أربعة خبراء.
- السياق العام (ImageNet-LT): يتم تحقيق التقسيم عبر تجميع تضمين النص (Text-embedding clustering) باستخدام (Bisecting K-means) على مشفر النص المجمد.
المتانة: تعتمد الطريقة على أولويات "خشنة" (مثل فئات التكرار أو التجميع التقليدي) بدلاً من الفصل الدلالي المثالي. الهدف هو ضمان أن العينات داخل الخبير الواحد تتشارك، في المتوسط، ديناميكيات تدرج أكثر تجانسًا مما هي عليه عبر الخبراء.

2. المهايئات المتبقية الموجهة (Guided Residual Adapters)

بمجرد توجيه العينات، تستخدم البنية مهايئات متبقية خاصة بكل مجموعة يتم إدراجها في طبقات التغذية الأمامية (Feedforward layers) للعمود الفقري المدرب مسبقًا والمجمد (Flux).

الآلية: بالنسبة لعينة $x_i$ تم توجيهها إلى الخبير $k = \pi(c_i)$ ، يكون مخرج الطبقة $h_{l+1} = F_l(h_l) + A_{k,l}(h_l)$ ، حيث $F_l$ هو التحويل الأساسي المشترك و $A_{k,l}$ هو المهايئ الخاص بالخبير.
عزل التدرج: يتم تحديث المعاملات داخل المهايئ $k$ فقط بواسطة العينات المعينة لذلك الخبير. هذا يعزل تدرجات المجموعة المحددة، مما يمنع التداخل التدميري من تحديثات الفئات الرأسية بينما يسمح للعمود الفقري المشترك بتراكم البنية القابلة للنقل.
التصميم: المهايئات عبارة عن تحويلات خفيفة الوزن مكونة من طبقتين. وعلى عكس LoRA، فهي لا تفرض تقليلًا صارمًا للأبعاد، مما يسمح بمهايئات أوسع ( $d' \approx d$ أو $d' > d$ ) لاستقرار الضبط الدقيق عبر الفجوات الكبيرة في المجال.

المساهمات الرئيسية

نقل اتساق التدرج إلى مطابقة التدفق: قام المؤلفون بتكييف هدف اتساق التدرج من نمذجة اللغة ذات الذيل الطويل (Dong et al.) لتطبيقها على مطابقة التدفق لتحويل النص إلى صورة. ومن الأهمية بمكان أنهم استبدلوا آلية البوابة المتعلمة بـ تقسيم حتمي مدفوع بالتكييف. ويجادلون بأنه في مطابقة التدفق الشرطية، يقوم التكييف طبيعيًا بفهرسة هندسة مسار الاحتمالية، مما يجعل التقسيم الثابت تفكيكًا صحيحًا هيكليًا وليس مجرد وسيلة تقريبية عامة.
تصميم غير اقتحامي وقابل للتركيب: يترك GRASP خسارة مطابقة التدفق وأخذ العينات دون تغيير، حيث يعدل فقط أي المعاملات تمتص أي تدرجات. وهذا يسمح بتركيبه مع تدخلات متعامدة. أظهر المؤلفون أن الجمع بين GRASP وأخذ عينات الأقلية الموجهة ذاتيًا في وقت الاستدلال يؤدي إلى نتائج فائقة مقارنة بكل طريقة على حدة.
التحقق التجريبي من التكييف كوكيل للتدرج: من خلال دراسات الاستئصال (Ablation studies) وتحليل التدرج، أثبتت الورقة أن تجانس التكييف يرتبط بقوة باتساق التدرج لكل خبير، مما يؤكد أن التقسيمات الثابتة تقرب بفعالية تجميع التدرج المثالي حتى مع وجود أولويات صاخبة.

النتائج

تم تقييم الطريقة على MIMIC-CXR-LT (أشعة صدر طبية)، و NIH-CXR-LT (تصنيف لاحق)، و ImageNet-LT (توليد عام للذيل الطويل).

جودة وتنوع توليد الصور:
- في MIMIC-CXR-LT، قلل GRASP من إجمالي FID بنسبة تصل إلى 80% مقارنة بالضبط الدقيق الكامل، وزاد من تغطية فئة الذيل بنسبة تصل إلى 44%.
- تفوق على أفضل النماذج المرجعية (SOTA)، بما في ذلك الضبط الدقيق الكامل، والمهايئات العامة، ومتغيرات خليط الخبراء (MoE) التي تعتمد على التوجيه المتعلم مثل MoCLE.
- أظهر التحليل النوعي أن GRASP استعاد السمات الخاصة بالفئة للحالات المرضية النادرة (مثل استرواح البطن - Pneumoperitoneum) التي قامت النماذج المرجعية بتنعيمها أو التسبب في انهيارها.
التصنيف اللاحق:
- عندما استُخدمت الصور الاصطناعية التي ولدها GRASP لتدريب مصنف DenseNet-121 على NIH-CXR-LT، حقق النموذج درجة F1 ماكرو تطابق تدريب البيانات الحقيقية.
- والأهم من ذلك، مكّن GRASP من تحقيق درجات F1 غير صفرية في 9 من أصل 13 فئة، بينما حقق الضبط الدقيق الكامل ذلك في 3 فئات فقط.
التعميم: أكدت نتائج ImageNet-LT أن الآلية ليست مرتبطة بالانحيازات الاستقرائية الطبية وتعممت على مهام توليد الذيل الطويل الواسعة.

الأهمية والادعاءات

تضع الورقة GRASP كـ أداة تعزيز وتحليل محكومة، مشددة صراحة على أن الصور الاصطناعية ليست بديلًا للمجموعات السريرية القائمة على الأدلة أو مراجعة الخبراء. ويؤكد المؤلفون أن البيانات الاصطناعية يمكن أن تحفظ أو تضخم الانحيازات إذا استُخدمت دون إثبات المصدر والتحقق.

تتمثل الأهمية الأساسية المدعاة في أن التوجيه الثابت هو الخيار الافتراضي لتوليد النص إلى صورة للذيل الطويل كلما توفرت أولويات حتى لو كانت خشنة فوق التكييف (وهو أمر شائع في التصوير الطبي). وخلافًا للبوابة المتعلمة، التي تفشل في أنظمة الذيل الطويل القصوى بسبب هيمنة الفئات الرأسية، يضمن التقسيم الثابت أن كل عينة ذيل ستحدث الخبير المخصص لها. يوفر هذا آلية مستقرة، وفعالة، وغير اقتحامية للتخفيف من حدة الاختلالات على مستوى التحسين دون تعديل هدف التوليد الأساسي.