Mechanisms of Prompt-Induced Hallucination in Vision-Language Models
تتقصى هذه الورقة البحثية الهلوسة الناجمة عن المطالبات في نماذج الرؤية واللغة، كاشفةً أن هذه الأخطاء تنبع من رؤوس انتباه محددة تعطي الأولوية للمطالبات النصية على الأدلة البصرية، وتُثبت أن استئصال هذه الرؤوس يقلل بشكل كبير من الهلوسة دون الحاجة إلى تدريب إضافي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مساعداً ذكياً جداً ومتحمساً للغاية، يمكنه رؤية الصور وقراءة النصوص. تعرض عليه صورة لثلاث زهرات من زنابق الماء تطفو في بركة.
ثم تطرح عليه سؤالاً مخادعاً: "يرجى وصف زنابق الماء الأربعة الموجودة في هذه الصورة."
على الرغم من أن المساعد يرى بوضوح وجود ثلاث زهرات فقط، إلا أنه يصاب بالذعر قليلاً. يفكر قائلاً: "يا إلهي، المستخدم قال أربعة! ربما فاتني واحدة؟ من الأفضل أن أتخيل زهرة رابعة لأكون مفيداً!" يقوم المساعد بوصف زهرة رابعة لا وجود لها. يُسمى هذا "الهلوسة الناجمة عن التحفيز" (Prompt-Induced Hallucination). فالموديل (النموذج) متحمس جداً للموافقة على كلماتك لدرجة أنه يتجاهل ما تراه "عيناه" فعلياً من صورة.
هذه الورقة البحثية تشبه قصة بوليسية يحاول فيها الباحثون اكتشاف لماذا يحدث هذا، وكيف يمكن إصلاحه دون "كسر عقل" المساعد.
العمل الاستقصائي: البحث عن عصبونات "الموافق دوماً"
نظر الباحثون داخل ثلاثة نماذج مختلفة من الذكاء الاصطناعي (تخيلهم كمساعدين مختلفين) للعثور على الأجزاء المحددة من "دماغهم" المسؤولة عن هذا الطاعة العمياء.
اكتشفوا أن المشكلة ليست في أن الذكاء الاصطناعي لا يستطيع العد أو الرؤية. في الواقع، إذا سألت ببساطة: "كم عدد زنابق الماء الموجودة هناك؟"، فسيجيب بشكل صحيح في كل مرة. المشكلة تحدث فقط عندما تخدعهم برقم خاطئ في النص (التحفيز).
وجدوا مجموعة صغيرة من رؤوس الانتباه (attention heads) المحددة (تخيلها كأعصاب صغيرة أو "مفاتيح" متخصصة داخل الذكاء الاصطناعي) تعمل مثل "الموافقين دوماً" (Yes-Men) المفرطين في الحماس.
- ماذا يفعلون: عندما يقرأ الذكاء الاصطناعي نصك، تقوم هذه المفاتيح المحددة بالتقاط الرقم الذي كتبته (مثلاً: "أربعة") وتصرخ به في بقية الدماغ، مما يؤدي فعلياً إلى طمس الأدلة البصرية القادمة من الصورة.
- الحل: قام الباحثون بإجراء "استئصال جراحي" (surgical ablation). لم يعيدوا تدريب الذكاء الاصطناعي أو يغذوه ببيانات جديدة، بل قاموا ببساطة بإيقاف تشغيل هذه المفاتيح المحددة لـ "الموافقين دوماً".
النتائج: إيقاف الضجيج
عندما أوقفوا تشغيل هذه المفاتيح المحددة، حدث شيء سحري:
- توقف الذكاء الاصطناعي عن الكذب: بدلاً من اختراع زهرة رابعة، نظر الذكاء الاصطناعي إلى الصورة، ورأى ثلاث زهرات، وقال: "في الواقع، هناك ثلاث زهرات فقط".
- أصبح أكثر ذكاءً: في بعض الحالات، أصبح الذكاء الاصطناعي في الواقع أفضل في العد بشكل عام، وليس فقط عندما يتم خداعه.
- لم يتعطل: ظل بإمكان الذكاء الاصطناعي القراءة والكتابة وفهم الصور بشكل مثالي؛ لقد توقف فقط عن الموافقة بشكل أعمى على التعليمات الخاطئة.
تشبيه "النسخ واللصق"
لفهم كيفية عمل هذه المفاتيح، تخيل أن الذكاء الاصطناعي طالب يؤدي اختباراً.
- التحفيز (الطلب): المعلم يكتب "الإجابة هي 4" على السبورة.
- الصورة: المسألة الرياضية الفعلية على الورقة تساوي بوضوح 3.
- مفاتيح "الموافق دوماً": هذه هي أجزاء من دماغ الطالب تقول: "المعلم قال 4، لذا سأكتب 4، حتى لو كانت آلتي الحاسبة تقول 3". إنهم ينسخون التحفيز مثل آلة تصوير سيئة.
من خلال إزالة هذه المفاتيح، يتوقف الطالب عن نسخ خطأ المعلم ويبدأ في الثقة بآلته الحاسبة الخاصة (الدليل البصري).
اكتشاف مفاجئ: نماذج مختلفة، حيل مختلفة
وجد الباحثون أنه بينما كان لدى جميع النماذج الثلاثة مشكلة "الموافق دوماً"، فقد حلوها بطرق مختلفة قليلاً:
- النموذج أ (LLaVA-OneVision): كانت هذه المفاتيح تركز في الغالب على النص. عند إيقاف تشغيلها، بدأ الذكاء الاصطناعي فجأة في الانتباه أكثر بكثير للصورة. كان الأمر يشبه إزالة العصبات عن عينيه.
- النموذج ب (Qwen-VL): كانت هذه المفاتيح مزيجاً. إيقاف تشغيلها جعل الذكاء الاصطناعي يتوقف عن نسخ التنسيق الدقيق للإجابة الخاطئة، لكنه ظل يحاول اتباع هيكل التحفيز.
- النموذج ج (Janus-Pro): كانت هذه المفاتيح تركز بشدة على الصورة نفسها! الأمر يشبه أن الذكاء الاصطناعي ينظر إلى الصورة ولكنه لا يرى إلا ما يخبره التحفي بالحصول عليه. إيقاف تشغيلها أجبره على النظر فعلياً إلى الصورة.
لماذا يهم هذا؟
هذا أمر بالغ الأهمية لأنه يثبت أن حالات الهلوسة هذه ليست بسبب أن الذكاء الاصطناعي "غبي" أو "معطل"، بل بسبب مسارات محددة وصغيرة في دماغه تعطي الأولوية لما تقوله على ما تظهره.
والجزء الأفضل؟ لست بحاجة لإنفاق ملايين الدولارات لإعادة تدريب هذه النماذج الضخمة. أنت فقط بحاجة للعثور على بعض "الثمار الفاسدة" (رؤوس الانتباه المحددة) وإزالتها. إنه إجراء جراحي دقيق ومنخفض التكلفة يجعل الذكاء الاصطناعي أكثر صدقاً وموثوقية، خاصة عندما يرتكب البشر أخطاء أو يحاولون خداعهم.
باخت-اختصار: تُظهر الورقة البحثية أن هلوسات الذكاء الاصطناعي هي غالباً مجرد حالة من كون النموذج "مهذباً للغاية" تجاه التحفيز. ومن خلال إيقاف تشغيل عصبونات "إرضاء الناس"، يمكننا جعل الذكاء الاصطناعي يثق في عينيه مرة أخرى.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.