💻 computer science

Seeing Through the Chain: Mitigate Hallucination in Multimodal Reasoning Models via CoT Compression and Contrastive Preference Optimization

تقدم هذه الورقة البحثية C3PO، وهو إطار عمل قائم على التدريب يعمل على تخفيف الهلوسة في نماذج الاستدلال متعددة الوسائط من خلال ضغط سلسلة الأفكار لتقليل الرموز النصية الزائدة، وتوظيف تحسين التفضيل التبايني مع إشارات سلبية محفزة للهلوسة لتعزيز الاعتماد البصري.

المؤلفون الأصليون: Hao Fang, Jinyu Li, Jiawei Kong, Tianqu Zhuang, Kuofeng Gao, Bin Chen, Shu-Tao Xia

نُشر 2026-04-03

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Hao Fang, Jinyu Li, Jiawei Kong, Tianqu Zhuang, Kuofeng Gao, Bin Chen, Shu-Tao Xia

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك روبوت مساعد ذكي للغاية ومطلع بشكل واسع. تعرض عليه صورة لسلطة وتسأله: "هل توجد شوكة في هذه الصورة؟"

قد يقوم روبوت عادي بالنظر إلى الصورة، ويرى السلطة، ثم يقول: "نعم، عادة ما تُؤكل السلطات باستخدام الشوك". لكن نموذج الاستدلال اللغوي متعدد الوسائط (MLRM) يشبه روبوتاً لا يكتفي بالإجابة فحسب، بل يفكر بصوت عالٍ قبل التحدث. سيقول: "همم، أرى أوراقاً خضراء. السلطات تُؤكل بالشوك. هناك منديل، مما يعني وجود شوكة. بناءً على ذلك، نعم، توجد شوكة".

ما المشكلة؟ أحياناً، يقوم الروبوت بالهلوسة. قد يقول: "أنا أرى شوكة"، حتى لو لم تكن الشوكة موجودة في الصورة فعلياً. إنه منشغل جداً بالتحدث عن "منطقه" لدرجة أنه يتوقف عن النظر إلى الصورة.

هذه الورقة البحثية، بعنوان "الرؤية من خلال السلسلة" (Seeing Through the Chain)، تقدم طريقة تدريب جديدة تسمى C3PO (تلميح ذكي لشخصية الروبوت من حرب النجوم) لإصلاح هذا الأمر. وإليك كيف تعمل، مشروحة ببساطة:

المشكلة: الروبوت "يفرط في التفكير"

اكتشف المؤلفون سببين رئيسيين يجعل الروبوتات الاستدلالية هذه تخترع حقائق:

تأثير "الثرثرة" (The Chatterbox Effect): عندما يبدأ الروبوت في "سلسلة أفكاره" (مونولوجه الداخلي)، فإنه يتحمس كثيراً للتحدث لدرجة أنه يتوقف عن الانتباه للصورة. إنه يعتمد كثيراً على ما "يعرفه" عن العالم (مثل: "السلطات تحتوي على شوك") ويتجاهل ما "يراه" بالفعل.
تأثير "البداية السيئة" (The Bad Start Effect): إذا كانت عملية التفكير الداخلي للروبوت مليئة بالأكاذيب أو الأخطاء، فإن الإجابة النهائية ستكون بالتأكيد خاطئة أيضاً. عملية تفكير سيئة تؤدي إلى استنتاج سيء.

الحل: C3PO (الضغط والتصحيح)

يقترح المؤلفون عملية تدريب مكونة من خطوتين لإصلاح عقل الروبوت.

الخطوة 1: "المحرر" (ضغط سلسلة الأفكار - Chain-of-Thought Compression)

تخيل أن الروبوت يكتب مقالاً من 10 صفحات للإجابة على سؤال بسيط. معظم تلك الصفحات ليست سوى كلمات حشو مثل "اممم"، "دعني أرى"، و"أعتقد".

ماذا يفعل C3PO: يعمل كمحرر صارم. يأخذ أفكار الروبوت الطويلة والمترهلة ويقوم بـ قص الحشو.
التشبيه: الأمر يشبه أخذ فيلم طويل وممل وتحريره ليقتصر فقط على المشاهد المثيرة. يتعلم الروبوت الاحتفاظ فقط بالقرائن الأكثر أهمية (الدليل البصري) وحذف النصوص الزائدة. هذا يجبر الروبوت على التركيز على الصورة بدلاً من ثرثرته الخاصة.

الخطوة 2: "مدرب المناظرة" (تحسين التفضيل التبايني - Contrastive Preference Optimization)

الآن بعد أن أصبح الروبوت يتحدث أقل، نحتاج إلى تعليمه كيف يفكر بشكل أفضل.

الإعداد: ينشئ الباحثون لعبة تدريبية. يعرضون على الروبوت نسختين من عملية التفكير:
1. النسخة "الجيدة": عملية تفكير واضحة ودقيقة تنظر إلى الصورة وتجيب بالحقائق الصحيحة.
2. النسخة "السيئة": نسخة مهلوسة حيث يخترع الروبوت أشياء من عنده.
الخدعة: لجعل النسخة "السيئة" أكثر وضوحاً، يستخدمون خدعة تسمى "تحفيز الهلوسة متعدد الوسائط" (Multimodal Hallucination-Inducing). فهم يقومون عمداً بتغبيش الصورة أو إعطاء الروبوت أمراً مربكاً لإجباره على ارتكاب خطأ. هذا يساعد الروبوت على التعرف على عاداته السيئة.
الدرس: يتم تدريب الروبوت بعد ذلك ليقول: "أنا أفضل النسخة الجيدة لأنها تطابق الصورة"، و"أنا أرفض النسخة السيئة لأنها كذبة". ومع مرور الوقت، يتعلم تجنب المسار الذي يؤدي إلى الهلوسة.

النتيجة

بعد هذا التدريب، يصبح الروبوتات أكثر موثوقية. لا يزالون يفكرون بصوت عالٍ، لكن أفكارهم تكون:

أقصر: لا مزيد من الثرثرة غير الضرورية.
أكثر حدة: يركزون أكثر على الصورة وأقل على افتراضاتهم الخاصة.
أكثر صدقاً: هم أقل عرضة لاختراع أشياء ليست موجودة.

لماذا هذا مهم؟

فكر في الأمر كتعليم طالب كيفية خوض اختبار.

قبل التدريب: يكتب الطالب مقالاً من 5 صفحات مليئاً بالتخمينات وأحلام اليقظة، ثم يعطي إجابة خاطئة.
بعد C3PO: يتم تعليم الطالب كتابة مخطط موجز وقائم على الأدلة أولاً. إذا لم تكن الأدلة موجودة، فإنه يعترف بأنه لا يعرف، بدلاً من تأليف قصة.

تثبت ورقة البحث أنه من خلال تنظيف "عملية التفكير" وتعليم النموذج تفضيل الحقيقة على الأكاذيب ذات المظهر المنمق، يمكننا جعل الذكاء الاصطناعي أكثر جدارة بالثقة عند النظر إلى العالم الحقيقي.

إليك ملخص تقني مفصل لورقة البحث بعنوان "رؤية ما وراء السلسلة: الحد من الهلوسة في الاستدلال متعدد الوسائط عبر ضغط سلسلة التفكير وتحسين التفضيل" (C3PO).

1. بيان المشكلة

أظهرت نماذج الاستدلال اللغوية الكبيرة متعددة الوسائط (MLRMs) قدرات مثيرة للإعجاب في المهام المعقدة من خلال دمج "سلسلة التفكير" (Chain-of-Thought - CoT). ومع ذلك، فهي تعاني من خلل حرج وهو: الهلوسة (توليد محتوى يبدو منطقيًا من الناحية الدلالية ولكنه غير صحيح واقعيًا أو غير ذي صلة بصريًا).

تحدد الورقة ظاهرة غير متوقعة: نماذج MLRMs تعاني من هلوسة أكثر حدة من نماذجها الأساسية غير القائمة على الاستدلال.

تحليل السبب الجذري: يفترض المؤلفون أن إدخال آليات استدلال صريحة يتسبب في جعل النماذج تحول انتباهها بعيدًا عن المدخلات البصرية نحو الأولويات اللغوية (Language Priors). يؤدي هذا إلى سلاسل تفكير (CoTs) تكون فائضة/زائدة (مليئة بالرموز النصية غير الضرورية) ومخففة بصريًا (تفتقر إلى الإشارات البصرية الحرجة)، مما يؤدي لاحقًا إلى نقل الأخطاء إلى الإجابة النهائية.
الفجوة: تركز استراتيجيات التخفيف الحالية على معايير القياس أو كشف التناقض الذاتي، لكنها تفتقر إلى إطار عمل شامل قائم على التدريب مصمم خصيصًا لمعالجة آليات الهلوسة الفريدة لنماذج MLRMs.

2. المنهجية: إطار عمل C3PO

يقترح المؤلفون C3PO، وهو إطار تدريب يتكون من مرحلتين مصمم للحد من الهلوسة من خلال ضغط سلسلة التفكير (CoT Compression) وتحسين التفضيل التبايني (Contrastive Preference Optimization).

المرحلة الأولى: ضغط سلسلة التفكير (CoT Compression)

الهدف: تقليل الحشو وإجبار النموذج على التركيز على المعلومات البصرية الغنية بالإشارات، بما يتماشى مع مبدأ عنق زجاجة المعلومات (Information Bottleneck - IB).
الآلية:
1. تقليم الرموز (Token Pruning): يقوم النموذج بتوليد سلسلة تفكير كاملة. يقوم مقياس أهمية خارجي (LLMlingua-2) بتعيين درجات أهمية للرموز.
2. التصفية (Filtering): يتم إزالة الرموز منخفضة الأهمية (مثل العبارات الانتقالية أو كلمات الوظائف)، مع الاحتفاظ فقط بأعلى نسبة مئوية $\gamma$ (مثل 90%) من الرموز لتشكيل سلسلة مضغوطة $z'$ .
3. الضبط الدقيق تحت الإشراف (SFT): يتم ضبط النموذج بدقة باستخدام السلسلة المضغوطة $z'$ والإجابة الأصلية الصحيحة. هذا يعلم النموذج كيفية الاستدلال بكفاءة دون الاعتماد على نصوص مسرفة ومسببة للضجيج.
التبرير النظري: بناءً على نظرية IB، فإن ضغط $Z$ (أثر الاستدلال) يقلل من المعلومات المتبادلة $I(X; Z)$ (الحشو) بينما يعظم $I(Y; Z)$ (الصلة بالمهمة)، مما يؤدي إلى استدلال أكثر أمانة.

المرحلة الثانية: تحسين التفضيل التبايني (CPO)

الهدف: مواءمة النموذج صراحةً مع الاستدلال عالي الجودة ومعاقبة أنماط الهلوسة.
الآلية:
1. العينات الإيجابية (المفضلة): يتم تنقيح سلسلة التفكير التي ولدها النموذج بواسطة نموذج لغوي متعدد الوسائط متقدم (يعمل كمرجع/Oracle) لتصحيح الهلوسات على مستوى الجملة. يعمل هذا الأثر المنقح ( $z_{Rev}$ ) كبيانات "مفضلة".
2. العينات السلبية (المرفوضة): قدم المؤلفون آلية تحفيز الهلوسة متعددة الوسائط (MHI) لتوليد آثار مهلوسة عمدًا. يتضمن ذلك:
  - التحفيز البصري: حجب أجزاء من الصورة المدخلة لإجبار النموذج على الاعتماد على الأولويات اللغوية.
  - التحفيز النصي: استخدام مطالبات (Prompts) توجه النموذج لتجاهل المدخلات البصرية وإعطاء الأولوية للأولويات اللغوية.
  - هذه المخرجات المهلوسة عمدًا ( $z_{Gen}, z_{img}, z_{ins}$ ) تعمل كبيانات "مرفوضة".
3. التحسين (Optimization): يتم تدريب النموذج باستخدام خسارة الاستدلال المعزز ( $L_{RE}$ ) التي تباين الأثر المنقح مقابل الآثار المهلوسة. يتم تطبيق خسارة DPO القياسية ( $L_{DPO}$ ) على توزيع (سلسلة التفكير، الإجابة) المشترك، وتضمن خسارة المرساة ( $L_{Anc}$ ) بقاء احتمالية الاستجابة المفضلة فوق عتبة معينة.

3. المساهمات الرئيسية

الاكتشاف التجريبي: تحديد أن نماذج MLRMs تخصص قدرًا أقل بكثير من الانتباه للرموز البصرية وقدرًا أكبر للرموز النصية مقارنة بالنماذج الأساسية غير المستندة إلى الاستدلال، مما يؤدي إلى "الإفراط في التفكير" والإهمال البصري.
الارتباط السببي: إثبات أن سلاسل التفكير المهلوسة تنتقل سببيًا إلى إجابات نهائية مهلوسة، بينما تعمل سلاسل التفكير عالية الجودة على كبح الأخطاء بقوة.
إطار عمل C3PO: اقتراح خط إنتاج جديد من مرحلتين:
- ضغط سلسلة التفكير: يزيل الرموز الزائدة لتعزيز كفاءة الإشارة.
- تحسين التفضيل التبايني: يستخدم الإيجابيات المنقحة بالذكاء الاصطناعي والهلوسات المحفزة عمدًا كعينات سلبية للتدريب.
التأسيس النظري: تقديم تبرير نظري باستخدام مبدأ عنق زجاجة المعلومات (IB)، مما يثبت أن الضغط والتعزيز يقللان من هدف IB، وبالتالي يحسنان الموثوقية.
آلية تحفيز الهلوسة: تقنية مبتكرة لتوليد عينات سلبية غنية بالمعلومات عبر صياغة محفزات بصرية/نصية محددة، وهي طريقة نادرة الاستخدام في تحسين التفضيل.

4. النتائج التجريبية

تم تقييم إطار العمل على خمسة نماذج MLRMs ممثلة (مثل R1-Onevision، MM-Eureka، Orsta-R1) عبر عدة معايير قياس:

معايير قياس الهلوسة:
- CHAIR (هلوسة الأشياء): حقق C3PO تخفيضات مستمرة في معدلات الهلوسة (على سبيل المثال، تقليل بنسبة 13.27% في CS على Orsta-R1) مقارنة بنماذج مثل RLAIF-V و OPA-DPO. ومن الملاحظ أن بعض النماذج الأساسية زادت من الهلوسة في نماذج معينة، بينما خفضها C3PO باستمرار.
- POPE (وجود الأشياء): حسن الدقة ودرجات F1 عبر فئات العشوائية، والشعبية، والعدائية.
- AMBER (الهلوسة دقيقة التفاصيل): أظهر أداءً فائقًا في اكتشاف هلوسات الوجود، والسمات، والعلاقات.
- التقييم بمساعدة GPT-4: قلل بشكل كبير من نسبة الهلوسة على مستوى الجملة (SHR) مع الحفاظ على أو تحسين تفاصيل الاستجابة (الكلمات لكل صورة).
القدرات العامة:
- تم التقييم على MME و MMBench. حافظ C3PO على القدرات الاستدلالية متعددة الوسائط العامة أو حسنها، مما يثبت أن الحد من الهلوسة لا يأتي على حساب الأداء.
دراسات الاستئصال (Ablation Studies):
- أكدت أن معدل الاحتفاظ بالرموز بنسبة 90% ( $\gamma=0.9$ ) هو الأمثل.
- أظهرت أن إزالة أي مكون (الضغط، $L_{RE}$ ، $L_{DPO}$ ، أو استراتيجية MHI) يؤدي إلى تدهور الأداء، مما يؤكد ضرورة خط الإنتاج الكامل.

5. الأهمية

تحول في النموذج الفكري: يتجاوز مجرد اختبار المعايير إلى فهم عميق قائم على التدريب لسبب هلوسة نماذج الاستدلال (الإهمال البصري بسبب الاعتماد المفرط على النص).
الكفاءة: لا يقلل مكون ضغط سلسلة التفكير من الهلوسة فحسب، بل يقلل أيضًا من العبء الحسابي عن طريق تقصير سلاسل الاستدلال.
القوة والمتانة: يوفر استخدام الهلوسات المحفزة عمدًا كبيانات تدريب سلبية طريقة قوية لتعليم النماذج ما يجب ألا تفعله، وهي استراتيجية أكثر فعالية من تحسين التفضيل القياسي الذي غالبًا ما يفتقر إلى إشارات سلبية قوية.
القدرة على التعميم: الطريقة مستقلة عن النموذج وفعالة عبر مختلف البنيات، مما يقدم مخططًا لأبحاث المستقبل في الاستدلال الموثوق متعدد الوسائط.

ختامًا، يعالج C3PO بفعالية مشكلة "الهلوسة الناجمة عن الاستدلال" من خلال إجبار النماذج على أن تكون موجزة، ومرتبطة بصريًا، وواعية صراحةً بأنماط فشلها من خلال التعلم التبايني.