Dual-Pathway Circuits of Object Hallucination in Vision-Language Models
تقدم هذه الورقة تحليل المسار المزدوج (Dual-Pathway Circuit Analysis) لتحديد وتوصيف مسارات متميزة لترسيخ الرؤية (visual grounding) والهلوسة في النماذج البصرية اللغوية، مما يثبت أن التثبيط المستهدف لمسار الهلوسة يمكن أن يقلل من هلاوس الأشياء بنسبة تصل إلى 76% مع الحفاظ على الدقة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مساعداً آلياً ذكياً جداً ينظر إلى الصور ويصف ما يراه. في بعض الأحيان، يكون هذا الروبوت عبقرياً، ولكن في أحيان أخرى، يصبح واثقاً من نفسه أكثر مما ينبغي ويبدأ في وصف أشياء ليست موجودة بالفعل — مثل قوله: "أرى نسراً ذهبياً يحلق فوق المنزل"، بينما الصورة هي مجرد شارع هادئ في ضواحي المدينة. يُسمى هذا "الهلوسة" (Hallucination).
لفترة طويلة، تعامل العلماء مع هذه الروبوتات كأنها "صناديق سوداء". كان بإمكانهم رؤية الروبوت وهو يرتكب خطأً، لكنهم لم يعرفوا لماذا أو كيف حدث الخطأ داخل عقل الروبوت. حاولوا إصلاح ذلك عبر تغيير طريقة تدريب الروبوت أو طريقة حديثه، لكن هذه الإصلاحات كانت غالباً غير مضمونة النتائج ولم تعمل بشكل جيد مع مختلف أنواع الروبوتات.
هذه الورقة البحثية، بعنوان "الدوائر ثنائية المسار للهلوسة المتعلقة بالأشياء" (Dual-Pathway Circuits of Object Hallucination)، تشبه عملية تفكيك الروبوت للنظر في الأسلاك الفعلية. أراد الباحثون العثور على الدوائر الكهربائية المحددة داخل الروبوت التي تسبب جعله يكذب بشأن ما يراه.
إليك قصة ما وجدوه، مشروحة ببساة:
1. نظام المسارين (المسار المزدوج)
اكتشف الباحثون أنه داخل نماذج الرؤية واللغة هذه، لا توجد مجرد أسلاك عشوائية، بل هناك "طريقان سريعان" أو مساران مختلفان تنتقل عبرهما المعلومات:
- طريق الحقيقة (مسار الربط البصري): هذا هو فريق الخلايا العصبية الذي ينظر إلى الصورة ويقول: "مهلاً، لا يوجد نسر هنا. إنه مجرد منزل". يساعد هذا المسار الروبوت على قول الحقيقة.
- طريق الكذب (مسار الهلوسة): هذا فريق مختلف من الخلايا العصبية الذي يثار ويقول: "نسر! أنا أرى نسراً!" حتى عندما لا يكون هناك نسر. هذا المسار هو ما يدفع بوقوع الأخطاء.
الجزء المذهل؟ لقد وجدوا هذا النظام نفسه ذو المسارين في خمسة أنواع مختلفة تماماً من عقول الروبوتات (بنيات برمجية مختلفة). الأمر يشبه اكتشاف أن كل السيارات، سواء كانت "فورد" أو "فيراري"، تمتلك محركاً وناقلاً للحركة، حتى لو كانت الأجزها تبدو مختلفة قليلاً. وهذا يشير إلى أن الطريقة التي تتعلم بها هذه الروبوتات الهلوسة هي جزء أساسي من تدريبها، وليست مجرد خلل في تصميم معين.
2. "انقلاب القطبية" (المفتاح الذي يعلق)
استخدم الباحثون تقنية ذكية تسمى "ترقيع التنشيط" (Activation Patching). تخيل أن لديك فيديو للروبوت وهو يعمل بشكل صحيح، ثم تأخذ فيديو له وهو يرتكب خطأً. بعد ذلك، تقوم باستبدال أسلاك محددة من الفيديو "الصحيح" ووضعها في فيديو "الخطأ" لترى ما إذا كان ذلك سيصلح الخطأ.
وجدوا سلوكاً غريباً في طريق الحقيقة:
- عندما يكون الروبوت صحيحاً، تكون أسلاك طريق الحقيقة نشطة وتقول: "لا يوجد نسر!" (إشارة موجبة).
- عندما يهلوس الروبوت، تنقلب إشارة نفس هذه الأسلاك! فتبدأ في قول: "نعم، نسر!" (إشارة سالبة).
الأمر يشبه إشارة مرور تُستخدم عادةً لتقول "قف" (باللون الأحمر) للحفاظ على سلامتك، ولكن عندما يهلوس الروبوت، تنقلب تلك الإشارة نفسها لتصبح "انطلق" (باللون الأخضر) وتخبر الروبوت بأن يقود نحو الجدار. أدرك الباحثون أن الروبوت لا يكتفي فقط بـ "فقدان" الدليل البصري، بل إنه في الواقع يسيء استخدام الدوائر المخصصة لإيجاد الحقيقة لدعم كذبته.
3. مشكلة "النسخ الاحتياطي الفائض"
وجدوا أيضاً أن طريق الحقيقة هو مسار فائض (Redundant). وهذا يعني أن هناك العديد من الأسلاك الاحتياطية التي تؤدي نفس الوظيفة. إذا قطعت سلكاً واحداً، ستتولى الأسلاك الأخرى المهمة. هذا أمر جيد للاستقرار، ولكنه يجعل من الصعب إصلاح الروبوت بمجرد تعديل جزء واحد.
ومع ذلك، فإن طريق الكذب مختلف؛ فهو أشبه بمجموعة مركزة ومحددة من الأسلاك التي، عندما تعمل، تدفع الروبوت نحو الإجابة الخاطئة.
4. الحل: كتم صوت "فريق الكذب"
لإثبات فهمهم للمشكلة، جرب الباحثون حلاً "جراحياً". بدلاً من إعادة تدريب الروبوت بالكامل، قاموا ببساطة بـ خفض مستوى الصوت (تقليل مخرجات) الأسلاك المحددة في طريق الكذب.
- النتيجة: نجحوا في تقليل هلوسات الروبوت بنسبة تصل إلى 76% (أي كادوا يقضون على الأكاذيب) دون التأثير تقريباً على قدرته على قول الحقيقة.
- العقبة: حاولوا إصلاح الأمر عن طريق دفع الروبوت في "اتجاه" واحد (مثل أمر عام "توقف عن الكذب")، ولم ينجح ذلك بنفس الدرجة. أثبت هذا أن "طريق الكذب" ليس مجرد مفتاح بسيط، بل هو مجموعة معقدة من الأسلاك التي تعمل معاً بطرق مختلفة. يجب عليك كتم صوت المجموعة المحددة، وليس مجرد الضغط على زر عام.
5. هل ينجح الحل في كل مكان؟
اختبر الباحثون ما إذا كان "طريق الكذب" هذا هو نفسه لجميع أنواع الأكاذيب:
- وجود الشيء: "هل هناك نسر؟" (نعم/لا). نجح الحل بشكل رائع.
- العلاقات: "هل النسر فوق المنزل؟" نجح الحل هنا أيضاً.
- الصفات: "هل النسر ذهبي؟" لم ينجح الحل هنا.
هذا يخبرنا أنه بينما يمتلك الروبوت "دائرة هلوسة" محددة لقول وجود أشياء لا وجود لها، فإن وصف التفاصيل (مثل الألوان) قد يكون نوعاً مختلفاً تماماً من المشكلات.
الملخص
باختم القول، هذه الورقة البحثية تشبه ميكانيكياً اكتشف أن محرك السيارة يحتوي على دائرة "تأتأة" محددة تسبب تعثره. لقد وجدوا أن:
- جميع هذه العقول الآلية الذكية تمتلك دوائر "الحقيقة" و"الكذب" نفسها.
- دائرة "الحقيقة" يتم اختطافها أحياناً لدعم "الكذبة".
- من خلال خفض مستوى صوت "دائرة الكذب" فحسب، يمكننا منع الروبوت من اختلاق أشياء لا يراها، دون الحاجة إلى إعادة بناء المحرك بالكامل.
هذا يعطينا خارطة طريق واضحة لكيفية فشل هذه النماذج، وهو الخطوة الأولى نحو بناء روبوتات موثوقة حقاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.