Online Self-Calibration Against Hallucination in Vision-Language Models
تقترح الورقة البحثية إطار عمل OSCAR، وهو إطار عمل للمعايرة الذاتية عبر الإنترنت يستفيد من الفجوة التوليدية-التمييزية في النماذج اللغوية-البصرية الكبيرة لبناء بيانات التفضيل عبر بحث شجرة مونت كارلو (Monte-Carlo Tree Search) وتحسين التفضيل المباشر (Direct Preference Optimization)، مما يقلل بفعالية من الهلوسة دون الاعتماد على إشراف خارجي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة بحثية بعنوان "المعايرة الذاتية عبر الإنترنت ضد الهلوسة في نماذج الرؤية واللغة" بلغة بسيطة واستعارات إبداعية.
المشكلة: الفنان "الواثق أكثر من اللازم"
تخيل فناناً موهوباً (نموذج الذكاء الاصطناعي) بارعاً جداً في وصف ما يراه في صورة ما. ومع ذلك، لديه عادة سيئة: عندما لا يستطيع تمييز تفصيل ما بدقة، فإنه لا يقول "أنا لست متأكداً"، بل يخمن بناءً على ما يحدث عادةً في صور مشابهة.
إذا أريته صورة لغرفة معيشة، فقد يقول بثقة: "هناك جدار أزرق ومرآة فوق المدفأة"، حتى لو كان الجدار أبيض في الواقع ولا توجد مرآة. إنه يهلوس – أي يبتكر حقائق غير موجودة.
الطريقة القديمة: خطأ "المعلم المتسلط"
في السابق، حاول الباحثون إصلاح ذلك عبر استئجار "معلم خارق" (ذكاء اصطناعي أكثر ذكاءً مثل GPT) لكتابة أوصاف مثالية. ثم أجبروا الفنان-الطالب على نسخ هذه الأوصاف المثالية.
اكتشاف الورقة البحثية: لقد فشل هذا الأمر.
تخيل طالباً يحاول تعلم التفاضل والتكامل المتقدم من بروفيسور عبقري في الرياضيات. البروفيسور يرى تفاصيل دقيقة ومعقدة لا يستطيع عقل الطالب استيعابها بعد. إذا حاول الطالب نسخ ملاحظات البروفيسور، فإنه لن يستطيع "رؤية" الرياضيات فعلياً؛ بل سيقوم فقط بحفظ الكلمات.
- النتيجة: يتوقف الطالب عن النظر إلى الصورة ويبدأ في التخمين بناءً على الكلمات المحفوظة. إنه يهلوس أكثر لأنه يحاول وصف أشياء لا تستطيع عيناه رؤيتها بالفعل. تطلق الورقة على هذا اسم "تفاوت الإدراك والمراقبة" (Monitoring-Perception Discrepancy).
الحل: المحقق "المدقق ذاتياً"
أدرك المؤلفون أنه بينما يعاني الفنان من مشكلة في إنشاء قصة من الصفر (التوليد - Generation)، إلا أنه بارع جداً في التحقق مما إذا كان تفصيل معين حقيقياً أم لا (التمييز - Discrimination).
- التوليد: "صف هذه الغرفة." -> يخمن الفنان وجود مرآة.
- التمييز: "هل توجد مرآة في هذه الغرفة؟" -> ينظر الفنان بتمعن ويقول: "لا، لا توجد".
تسمي الورقة هذا "الفجوة بين التوليد والتمييز" (Generative-Discriminative Gap). فالنموذج محقق أفضل منه كراوٍ للقصص.
الطة الجديدة: OSCAR (متسلق الأشجار)
لحل هذه المشكلة دون الحاجة إلى "معلم خارق"، طور المؤلفون نظاماً يسمى OSCAR. يعمل هذا النظام مثل متسلق يتسلق شجرة ليجد أفضل مسار نحو الأعلى.
- البحث في الشجرة (MCTS): بدلاً من كتابة جملة والمضي قدما، يتخيل الذكاء الاصطناعي كتابة نسخ عديدة ومختلفة من الوصف. تتفرع المسارات مثل الشجرة، حيث تنشئ مسارات متنوعة من الجمل.
- نظام المكافأة ذو الخطوتين:
- الخطوة 1 (فحص العقدة): أثناء كتابة الذكاء الاصطناعي لكل جملة، يعمل كالمحقق. يسأل نفسه: "هل ذكرت للتو شيئاً ليس موجوداً في الصورة؟" إذا كانت الإجابة "نعم، لقد اخترعت ذلك"، فإن هذا المسار يحصل على درجة منخفضة.
- الخطوة 2 (البوابة النهائية): بمجرد كتابة وصف كامل، يقوم الذكاء الاصطناعي بفحص الوصف بأكمله. إذا احتوى الوصف على أي جسم مختلق، فإن المسار بأكمله يحصل على درجة صفر. إنها مثل "بوابة الأمان": إذا كذبت مرة واحدة، فلن تحصل على أي جائزة.
- تسلق الشجرة: يستخدم الذكاء الاصطناعي هذه الدرجات للتسلق عائداً إلى أعلى الشجرة. فهو يدرك أي المسارات أدت إلى أوصاف "خالية من الهلوسة" ويتعلم اختيار تلك المسارات في المرة القادمة.
النتيجة: التعلم بالممارسة
بدلاً من إجباره على نسخ إجابات معلم عبقري، يتعلم الذكاء الاصطناعي من خلال التكرار:
- يحاول وصف صورة ما.
- يستخدم مهاراته "التحقيقية" الخاصة لاكتشاف أخطائه.
- يتعلم من هذه الأخطاء ليكون أفضل في المرة القادمة.
النتيجة:
- تخمين أقل: لم يعد الذكاء الاصطناعي يبتدع أشياء (مثل المرآة الخاطئة أو الجدار الأزرق).
- دقة أفضل: أصبح أفضل بكثير في الإجابة على أسئلة "نعم/لا" حول الصورة.
- لا يزال مبدعاً: لا يصبح مملاً؛ بل يستمر في كتابة أوصاف سلسة وغنية، لكنها الآن مرتبطة بما يراه فعلياً.
الملخص
تجادل الورقة البحثية بأنه لمنع الذكاء الاصطناعي من الكذب بشأن ما يراه، لا ينبغي لنا إجباره على نسخ إجابات لا يستطيع فهمها. بدلاً من ذلك، يجب أن نسمح له باستخدام مهاراته "التحقيقية" للتحقق من عمله الخاص، واستكشاف الاحتمالات المختلفة، والتعلم عبر دورة من أخطائه الخاصة. هذا يجعل الذكاء الاصطناعي أكثر صدقاً وموثوقية دون الحاجة إلى إنسان (أو ذكاء اصطناعي) فائق الذكاء لمراقبة كل خطوة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.