Retrieval-Augmented Visual Prompting: Guiding Foundation Models in Two-Photon Imaging
تقدم هذه الورقة البحثية إطار عمل "التحفيز البصري المعزز بالاسترجاع" (RAVP)، وهو إطار يعزز الكشف عن الخلايا العصبية وتقسيم المثيل في تصوير الكالسيوم ثنائي الفوتون بنمط الصفر (zero-shot) عبر حقن نماذج أمثلة مشروحة مسترجعة كتحفيزات بصرية في النماذج التأسيسية مثل SAM 3، مما يوفر بديلاً فعالاً أثناء وقت الاستدلال لعمليات الضبط الدقيق التقليدية.
المؤلفون الأصليون:Salvatore Calcagno, Marco Finocchiaro, Giovanni Bellitto, Daniela Giordano, Concetto Spampinato, Federica Proietto Salanitri
في عالم هادئ ومظلم داخل دماغ حي، يستخدم العلماء مجهراً قوياً لمراقبة الخلايا العصبية وهي تطلق إشاراتها. هذه التقنية، المعروفة باسم "تصوير الكالسيوم ثنائي الفوتون"، تلتقط النشاط الكهربائي للخلايا الدماغية الفردية على شكل بقع مضيئة متوهجة مقابل خلفية مظلمة. وتعد هذه التقنية حجر الزاوية في علوم الأعصاب الحديثة، حيث تسمح للباحثين برؤية كيفية عمل مجموعات من الخلايا معاً لإنتاج الفكر والحركة. ومع ذلك، فإن تحويل مقاطع الفيديو المتوهجة هذه إلى بيانات مفيدة أمر صعب للغاية؛ فالصور غير منظمة؛ فبعض الخلايا تلمع بسطوع بينما تكون أخرى باهتة، كما يتغير مظهر الخلايا بشكل جذري اعتماداً على الحيوان، أو عمق الدماغ الذي يتم تصويره، أو المعدات المستخدمة. ولدراسة هذه الخلايا، يجب على العلماء أولاً رسم تحديد دقيق حول كل خلية، وهي مهمة بطيئة ومكلفة وعرضة للخطأ البشري. ولسنوات، كان الأمل يكمن في أن يتمكن الذكاء الاصطناعي من القيام بذلك تلقائياً، لكن التنوع الهائل في كيفية ظهور هذه الخلايا جعل من الصعب على برامج الكمبيوتر التعميم من تجربة إلى أخرى.
مؤخراً، ظهر جيل جديد من نماذج الذكاء الاصطناعي التي يمكنها فهم الصور بأقل قدر من التعليمات. تُسمى هذه النماذج "نماذج التأسيس" (foundation models)، وقد تم تدريبها على مجموعات ضخمة من الصور اليومية، حيث تعلمت التعرف على الأشكال والأجياء دون الحاجة إلى تعليمها كل تفصيل صغير. وقد أظهر أحد هذه النماذج، المصمم لتجزئة أي شيء في الصورة، نتائج واعدة في التصوير الطبي. ومع ذلك، عندما حاول الباحثون تطبيق هذه الأداة القوية مباشرة على العالم المعقد والمتغير لمقاطع فيديو خلايا الدماغ، واجه النموذج صعوبة. فالنموذج المدرب على القطط والسيارات والأشجار لم يفهم بشكل طبيعي البقع المتوهجة الخافتة للخلية العصبية. لقد كان بحاجة إلى مساعدة، لكن الطريقة التقليدية لمساعدة الذكاء الاصطناعي هي إعادة تدريبه، عبر تغذيته بآلاف الأمثلة الجديدة حتى يتعلم القواعد الجديدة. وهذه العملية بطيئة، وتتطلب كميات هائلة من البيانات المصنفة، وغالباً ما تحصر النموذج في طريقة محددة لرؤية العالم، مما يجعله أقل مرونة للتجارب المستقبلية.
سأل فريق من الباحثين في جامعة كاتانيا في إيطاليا سؤالاً مختلفاً. فبدلاً من محاولة تغيير "دماغ" الذكاء الاصطناعي، تساءلوا عما إذا كان بإمكانهم تغيير "الأعين" التي يرى من خلالها. اقترحوا طريقة تسمى "التلقين البصري المعزز بالاسترجاع" (Retrieval-Augmented Visual Prompting). تخيل أنك تحاول وصف نوع معين من السحب لصديق لم يره من قبل؛ يمكنك محاولة شرح الشكل واللون بالكلمات، أو يمكنك ببساطة أن تريه صورة لتلك السحابة. أدرك الباحثون أن أفضل طريقة لتوجيه الذكاء الاصطناعي هي إظهار صورة له. لقد بنوا نظاماً حيث يتم عرض مثال صغير مختار بعناية لخلية عصبية من مكتبة من الصور المشروحة سابقاً أمام النموذج قبل أن ينظر إلى صورة دماغ جديدة. يوضع هذا المثال بجانب الصورة الجديدة مباشرة، ليعمل كإشارة بصرية تلميحية. ثم يُطلب من النموذج البحث عن جميع الخلايا العصبية الأخرى التي تشبه تلك الموجودة في المثال.
اختبر الباحثون هذه الفكرة على مجموعة بيانات عامة ضخمة من تسجيلات الدماغ لدى الفئران. ووجدوا أن مجرد إظهار مثال واحد جيد الاختيار للنموذج حسن بشكل كبير من قدرته على إيجاد وتحديد الخلايا العصبية، حتى عندما لم يسبق للنموذج رؤية هذا النوع المحدد من تسجيلات الدماغ من قبل. لم يكن المفتاح هو إظهار أي مثال فحسب، بل إظهار المثال الصحيح. فقد طوروا طريقة ذكية لاختيار أفضل مثال من مكتبتهم عبر مطابقة سطوع وملمس المثال مع الصورة المحددة التي يتم تحليلها. وعندما استخدموا هذه الطريقة، قفز أداء النموذج بشكل كبير، مما سد الفجوة بين نموذج جديد تماماً وغير مدرب وبين نموذج تم تدريبه بشكل مكثف على بيانات محددة. وفي الواقع، كان استخدام مثال واحد مثالي المطابقة أكثر فعالية من إظهار عدة أمثلة مختلفة في وقت واحد. وتشير الدراسة إلى أن المسار الأكثر كفاءة للمهام المتخصصة مثل تحليل صور الدماغ قد لا يكون إعادة بناء الذكاء الاصطناعي من الصفر، بل ببساطة تزويده بالسياق البصري المناسب في اللحظة التي يحتاج فيها لاتخاذ قرار.
كانت النتائج واضحة ومتسقة عبر أنواع مختلفة من تسجيلات الدماغ. فعندما كان النموذج يُترك ليخمن بمفرده، كان غالباً ما يفتقد الخلايا الباهتة أو يرسم حدوداً غير دقيقة. ولكن عندما قدم الباحثون له مثالاً واحداً ذا صلة من مكتبتهم، استوعب النموذج فجأة ما يجب أن يبحث عنه. أصبح أفضل بكثير في إيجاد الخلايا الباهتة والخافتة التي عادة ما تمر دون ملاحظة، وفي فصل الخلايا التي تلامس بعضها البعض. كما اكتشف الباحثون أن الطريقة المحددة لاختيار المثال كانت مهمة؛ فالمثال العشوائي ساعد، لكن المثال المختار ليتناسب مع الظروف المحددة للصورة الجديدة كان أكثر نفعاً. لقد دربوا برنامجاً حاسوبياً صغيراً وخفيف الوزن ليعمل كـ "مُنتقي"، يتعلم التنبؤ بالمثال الذي سيكون أكثر فائدة لصورة معينة. سمح هذا المُنتقي للنظام بالتكيف فورياً مع الظروف الجديدة دون تغيير الإعدادات الجوهرية لنموذج الذكاء الاصطناعي الرئيسي.
يقدم هذا النهج بديلاً مقنعاً للطريقة القياسية لإعادة تدريب الذكاء الاصطناعي. تتطلب إعادة التدريب قدرة حوسبية ووقتًا كبيرين، وغالباً ما تؤدي إلى نموذج ممتاز في مهمة واحدة محددة ولكنه ينسى كيفية القيام بمهام أخرى. تحافظ الطريقة الجديدة على النموذج الأصلي ثابتاً وغير متغير، مما يحافظ على معرفته العامة مع السماح له بالتكيف مع مهام جديدة وصعبة من خلال إشارات بصرية بسيطة. وجد الباحثون أن هذه الطريقة استعادت جزءاً كبيراً من مكاسب الأداء التي يتم تحقيقها عادةً من خلال إعادة التدريب الكامل، ولكن بجزء ضئيل من التكلفة. وهذا يشير إلى أنه في المجالات التي تندر فيها البيانات وتتفاوت فيها الظروف بشكل كبير، قد يكمن مستقبل الذكاء الاصطناعي ليس في تعليم الآلة حقائق جديدة، بل في تعليمها كيفية النظر إلى العالم من خلال العدسة الصحيحة. ومن خلال حقن الذاكرة البصرية مباشرة في المدخلات، أظهر الباحثون أنه يمكن توجيه نموذج التأسيس لأداء مهام خبيرة في التصوير البيوطبي المتخصص دون العبء الثقيل لتعديل المعلمات.
يمثل تصوير الكالسيوم ثنائي الفوتون (2PCI) تحديًا كبيرًا للنماذج التأسيسية نظرًا للتباين الكبير في مظهر الصور عبر التسجيلات، والظروف التجريبية، والحيوانات الخاضعة للتجربة. وتشمل الصعوبات الرئيسية: النطاق الواسع لفلورة الخلايا العصبية (حيث تظهر الخلايا النشطة كبقع ساطعة بينما تكاد الخلايا الصامتة لا تُميز عن الخلفية)، وتحولات النطاق (domain shifts) الناتجة عن اختلاف إعدادات المجهر وأعماق القشرة المخية، وندرة التوصيفات (annotations) التي يقوم بها الخبراء والمطلوبة للتدريب. وبينما توفر نماذج الرؤية التأسيسية واسعة النطاق مثل عائلة نموذج "Segment Anything Model" (SAM) قدرات تقسيم تعميمية، فإن آليات التلقين قليلة العينات (few-shot prompting) الخاصة بها لا تنتقل بشكل موثوق إلى مجال 2PCI. وتحديدًا، فإن تعريف المفاهيم عبر صناديق الإحاطة (bounding boxes) داخل الصورة المستهدفة يتطلب توصيفًا يدويًا متخصصًا ويفشل في استيعاب كامل التباين في المظهر لنطاق الهدف. علاوة على ذلك، ليس من الواضح أي الأمثلة المحددة هي الأكثر إفادة لصورة هدف معينة.
المنهجية
يقترح البحث إطار عمل التلقين البصري المعزز بالاسترجاع (RAVTL)، وهو إطار مصمم لتوجيه نموذج SAM 3 أثناء الاستدلال عن طريق حقن ذاكرة بصرية خارجية مباشرة في مدخلات النموذج، دون تعديل أوزان النموذج أو بنيته.
الآلية الجوهرية
يستخدم RAVP استراتيجية تركيب صور معززة بالاسترجاع:
بناء المكتبة: يتم بناء مكتبة خارجية مُوصّفة L من تقسيم بيانات محجوز (held-out split)، تحتوي على قصاصات صور متمركزة حول خلايا عصبية مُوصّفة، وأقنعتها الحقيقية (ground-truth masks)، وقيم الفلورة المتوسطة.
تركيب الصورة: لكل بلاطة مستهدفة Tp من المسقط الأقصى لـ 2PCI، يتم إنشاء صورة مركبة I~p. توضع البلاطة المستهدفة في مركز لوحة الرسم (canvas)، ويتم رصف إطار بلقطات نموذجية (exemplar crops) مسترجعة من L.
التلقين البصري: تعمل صناديق الإحاطة للخلايا العصبية المُوصّفة في منطقة الإطار (النماذج المسترجعة) كلقنات مفاهيمية (concept prompts) لرأس "تقسيم المفاهيم القابل للتلقين" (PCS) الخاص بـ SAM 3. يُكلف النموذج باكتشاف وتقسيم جميع الحالات التي تطابق المفهوم المحدد بالنموذج عبر اللوحة بأكملة.
تقييد المخرجات: تُقيد التنبؤات في منطقة الهدف الأصلية عبر خريطة إحداثيات عكسية.
استراتيجيات اختيار النماذج المثاليات
إدراكًا منها بأن ليس كل النماذج المثاليات متساوية في الإفادة بسبب تباين الفلورة، درس المؤلفون عدة استراتيجيات للاختيار:
العشوائي (Random): أخذ عينات من النماذج المثاليات بشكل موحد من المكتبة.
الفلورة الثابتة (Fixed Fluorescence): اختيار النماذج المثاليات بناءً على قيمة فلورة ثابتة للهدف (تم تحديدها تجريبيًا بقيم منخفضة لتجنب الانحياز نحو الهياكل ذات الإشارة العالية فقط).
المتكيف مع الصورة (Image-Adaptive): اختيار النماذج المثاليات التي تتطابق متوسط قيم الفلورة فيها مع متوسط شدة الإضاءة للبلاطة المستهدفة الحالية.
متنبئ الاستدعاء (πθ): متنبئ خفيف الوزن تم تدريبه خارج نطاق الاستدلال لتقدير مستوى الاستدعاء (recall) الذي سيحققه SAM 3 لزوج معين من (الهدف-النموذج المثالي). يستخدم المتنبئ ميزات بصرية مستخرجة بواسطة هيكل ResNet-18 مجمد، ويتم الإشراف عليه بواسطة نتائج استدلال SAM 3 الفعلية على تقسيم التدريب. أثناء الاستدلال، يختار المتنبئ النموذج المثالي الذي يعظم الاستدعاء المتوقع.
تفاصيل التنفيذ
النافذة المنزلقة (Sliding Window): نظرًا لقدرة التنبؤ المحدودة لـ SAM 3، تتم معالجة الصور باستخدام نهج النافذة المنزلقة مع تداخل بنسبة 50%، يليه تطبيق عملية "إزالة التكرار الأقصى" (NMS).
الإعدادات: تستخدم التجارب نموذجًا مثاليًا واحدًا لكل بلاطة، يوضع عشوائيًا في الإطار العلوي أو الأيسر، مع ملء بقية الإطار بحشوة سوداء.
المساهمات الرئيسية
إطار عمل RAVP: استراتيجية تركيب صور معززة بالاسترجاع تحول مكتبة نماذج مثالية خارجية إلى ذاكرة بصرية لـ SAM 3، مما يسمح بالتكيف أثناء الاستدلال دون تحديث الأوزان.
التحليل المنهجي للاختيار: دراسة مقارنة لاستراتيجيات اختيار النماذج المثاليات، توضح أن مطابقة النماذج المثالية مع نظام الفلورة للهدف يحسن الأداء.
متنبئ استدعاء خفيف الوزن: تقديم πθ، وهو نموذج تم تدريبه لاختيار النماذج المثالية الأكثر إفادة أثناء الاستدلال دون الحاجة لتوصيفات حقيقية للهدف، وذلك باستخدام نتائج استدلال SAM 3 نفسها كإشارة إشراف.
تقييم شامل: تجارب مكثفة على مجموعة بيانات Allen Brain Observatory (ABO) تظهر أن حقن الذاكرة البصرية يعزز باستمرار أداء "الصفر عينة" (zero-shot)، مما يوفر بديلًا تنافسيًا للتكيف عبر المعلمات (parameter adaptation).
النتائج التجريبية
أُجريت التجارب على مجموعة بيانات Allen Brain Observatory، مقسمة إلى مجموعات داخل النطاق (in-domain)، وخارج النطاق (OOD)، وSTNeuroNet.
الصفر عينة مقابل التكيف: حقق SAM 3 في وضع "الصفر عينة" دقة متوسطة (AP50 ≈ 0.28) ولكن استدعاءً عاليًا. أدى الضبط الدقيق الكامل (full fine-tuning)، والضبط الدقيق للمشفر فقط (encoder-only fine-tuning)، وLoRA إلى تحسين الأداء بشكل ملحوظ (AP50 ≈ 0.68–0.69).
أداء RAVP: في وضع "الصفر عينة"، تفوق RAVP بشكل كبير على الخط المرجعي (baseline).
حتى الاختيار العشوائي حسن AP50 من 0.28 إلى 0.45.
حقق متنبئ الاستدعاء أفضل النتائج بين طرق "الصفر عينة"، حيث وصل إلى AP50 = 0.53 ومتوسط توافق (H) قدره 0.62 في مجموعة اختبار داخل النطاق.
في تقسيم خارج النطاق (OOD)، حسن RAVP متوسط التوافق من 0.20 (في حالة الصفر عينة) إلى حوالي 0.58–0.60، مما أظهر متانة تجاه تحول النطاق.
المقارنة بالضبط الدقيق: رغم أن RAVP لم يسد الفجوة تمامًا مع النماذج التي خضعت للضبط الدقيق، إلا أنه استعاد جزءًا كبيرًا من مكاسب الأداء بتكلفة تكيف أقل بكثير (تُقدر بـ 42% من تكلفة الضبط الدقيق الكامل و55% من تكلفة تكيف LoRA).
دراسات الاستبعاد (Ablation Studies):
عدد النماذج المثاليات: وُجد أن نموذجًا مثاليًا واحدًا مختارًا بعناوة (k=1) أكثر فعالية من نماذج متعددة (k>1)، والتي أدت إلى تدهور الأداء.
حجم المكتبة: أدى زيادة حجم المكتبة من 1 إلى 50 مرشحًا إلى تحقيق معظم المكاسب، مع تناقص العوائد بعد ذلك.
استراتيجية الاختيار: تحت ظروف التحول القوي في النطاق (OOD)، كانت سياسة الاختيار المحددة أقل أهمية من وجود آلية الاسترجاء نفسها، وإن كان متنبئ الاستدعاء هو الأفضل عمومًا داخل النطاق.
الأهمية والادعاءات
يضع هذا البحث "حقن الذاكرة البصرية أثناء الاستدلال" كبديل بسيط وفعال للتكيف عبر المعلمات للنماذج التأسيسية في التصوير الطبي الحيوي المتخصص. ويدعي المؤلفون أن RAVP يسمح بالتكيف من خلال تصميم المدخلات فقط، مستفيدًا من واجهة "تقسيم المفاهيم القابل للتلقين" الأصلية لـ SAM 3.
يشير العمل إلى أنه في المجالات التي تكون فيها مجموعات البيانات الموصّفة نادرة والتباين في المظهر عاليًا، فإن حقن النماذج المثالية المسترجعة مباشرة في مستوى الصورة يمكن أن يحسن بشكل كبير من الكشف وتقسيم الحالات في وضع "الصفر عينة". ويشير المؤلفون إلى أنه بينما يتطلب "متنبئ الاستدعاء" مرحلة تدريب خارج النطاق باستخدام نتائج استدلال SAM 3، فإن المختصرات الأبسط (مثل المختصرات المتكيفة مع الصورة أو الفلورة الثابتة) تتجنب هذه التكلفة مع البقاء في مستوى تنافسي. ويُقدم النهج كبديل مرن للتكيف القائم على الأوزان، مع إمكانية تطبيق واسعة تتجاوز 2PCI لتشمل مجالات طبية حيوية أخرى تعاني فيها النماذج التأسيسية من صعوبة في التعميم.