💻 computer science

PaLMR: Towards Faithful Visual Reasoning via Multimodal Process Alignment

يُعد PalMR إطار عمل مبتكر يعزز من موثوقية النماذج اللغوية الكبيرة متعددة الوسائط من خلال محاذاة كل من عملية الاستدلال والنتائج عبر طبقة بيانات متوافقة مع الإدراك ومخطط دمج مكافآت هرمي، مما يقلل بشكل كبير من الهلوسة البصرية مع تحقيق أداء رائد على المقاييس الرئيسية.

المؤلفون الأصليون: Yantao Li, Qiang Hui, Chenyang Yan, Kanzhi Cheng, Fang Zhao, Chao Tan, Huanling Gao, Jianbing Zhang, Kai Wang, Xinyu Dai, Shiguo Lian

نُشر 2026-03-10

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yantao Li, Qiang Hui, Chenyang Yan, Kanzhi Cheng, Fang Zhao, Chao Tan, Huanling Gao, Jianbing Zhang, Kai Wang, Xinyu Dai, Shiguo Lian

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تعلم طالباً ذكياً جداً ولكنه مشاكس قليلاً كيفية حل لغز ما. هذا الطالب هو نموذج ذكاء اصطناعي (مثل تلك التي تدردش معك أو تنظر إلى الصور).

المشكلة: الطالب "المحظوظ بالتخمين"

في الماضي، عندما كنا نعلم هؤلاء الطلاب من الذكاء الاصطناائي، كنا نهتم فقط بـ الإجابة النهائية.

السيناريو: تعرض للطالب صورة لثلاث تفاحات وتسأله: "كم عدد التفاحات الموجودة هنا؟"
الطريقة القديمة: إذا كتب الطالب مقالاً طويلاً ومربكاً يدعي فيه وجود "خمس تفاحات وموزة" (يهلوس بأشياء ليست موجودة أصلاً) ولكنه كتب في النهاية "3" بشكل سحري، فإننا نمنحه درجة امتياز (A+).
النتيجة: تعلم الطالب الغش؛ حيث كان يخمن الإجابة الصحيحة بناءً على أنماط نصية حفظها، متجاهلاً الصورة الفعلية. وإذا سألته عن كيفية وصوله إلى الإجابة، فإنه يختلق الأسباب. وهذا ما يسمى بـ "الهلوسة" (Hallucination).

الحل: PaLMR (المعلم "الأمين")

تقدم الورقة البحثية طريقة جديدة تسمى PaLMR (محاذاة العمليات للاستنتاج متعدد الوسائط). فكر في PaLMR ليس فقط كمعلم يهتم بتصحيح الاختبار النهائي، بل كمدرب صارم يراقب كل خطوة من خطوات تفكير الطالب.

إليك كيف يعمل PaLMR، باستخدام تشبيه بسيط:

1. "دفتر التحقق من الحقائق" (طبقة البيانات)

قبل أن يبدأ الطالب التدريب، يقوم PaLMR بإنشاء "دفتر خاص للتحقق من الحقائق".

بدلاً من مجرد إعطاء الطالب سؤالاً وإجابة، يستخدم PaL_MR ذكاءً اصطناعياً فائق الذكاء (مثل Gemini) لكتابة وصف موضوعي ومفصل للصورة أولاً.
التشبيه: تخيل أنه قبل أن ينظر الطالب إلى اللغز، يكتب المعلم: "هناك بالضبط 3 أسطوانات حمراء وكرة زرقاء واحدة". هذا يصبح هو "الحقيقة المطلقة" (Ground Truth). لا يمكن للطالب مجرد التخمين؛ بل يجب عليه مطابقة أفكاره مع هذا الدفتر.

2. نظام التصحيح "ثنائي الخطوات" (طبقة التحسين)

هذا هو الجزء السحري. عندما يحاول الطالب حل مشكلة ما، لا ينظر PaLMR فقط إلى الرقم النهائي. بل يستخدم نظام مكافأة هرمي:

الخطوة أ: حارس البوابة "هل نظرت حقاً؟"
قبل أن يتحقق المعلم حتى مما إذا كانت الإجابة صحيحة، فإنه يتحقق من خطوات استنتاج الطالب.
- الطالب يقول: "أرى 5 أسطوانات..."
- المعلم يتحقق من الدفتر: "مهلاً، الدفتر يقول إن هناك 3 فقط."
- العقوبة: يقوم المعلم فوراً بالضغط على زر "إيقاف". حتى لو خمن الطالب الرقم الصحيح في النهاية، فإنه يحصل على صفر من النقاط لأنه لم ينظر إلى الصورة بشكل صحيح.
- التشبيه: الأمر يشبه اختبار رياضيات حيث إذا كتبت أرقاماً خاطئة في قسم خطوات الحل، فلن تحصل على أي درجات، حتى لو كانت إجابتك النهائية صحيحة. يجب أن توضح خطوات عملك بشكل صحيح.
الخطوة ب: فحص "هل هي صحيحة؟"
فقط إذا اجتاز الطالب الخطوة (أ) (أي وصف الصورة بدقة)، يقوم المعلم حينها بالتحقق مما إذا كانت الإجابة النهائية صحيحة.

3. القاضي "المقارن" (المقارنة)

للتأكد من أن التصحيح عادل، لا يسأل PaLMR المعلم ببساطة: "هل هذا صحيح؟" بل يسأله: "أي من هاتين الإجابتين أكثر صدقاً؟"

يعرض على المعلم طريقتين مختلفتين حاول بهما الطالب حل المشكلة.
يقارن المعلم بينهما وبين "دفتر التحقق من الحقائق" ويختار الإجابة التي التزمت بالواقع بشكل أكبر.
يساعد هذا الطالب على تعلم أن كونه صادقاً بشأن ما يراه هو أمر أكثر أهمية من كونه محظوظاً.

لماذا يهم هذا الأمر؟

بدون PaLMR، تكون نماذج الذكاء الاصطناعي مثل المنجمين: قد يعطونك الإجابة الصحيحة بالصدفة، لكنهم يختلقون الأشياء أثناء العملية. إذا سألتهم عن شرحهم، فإنهم يكذبون.

مع PaLMR، تصبح نماذج الذكاء الاصطناعي مثل المحققين:

يفحصون الأدلة بعناية (الصورة).
يسردون الحقائق التي يرونها (دون تخمين).
لا يستخلصون استنتاجاً إلا إذا كانت الحقائق تدعم ذلك.

النتيجة

تظهر الورقة البحثية أنه عندما دربوا نموذج الذكاء الاصطناعي الخاص بهم (Qwen2.5-VL-7B) باستخدام طريقة "المعلم الأمين" الجديدة هذه:

أخطاء أقل: توقف الذكاء الاصطناعي عن اختلاق أشياء غير موجودة في الصورة.
منطق أفضل: أصبح أفضل بكما في مهام الاستنتاج البصري (مثل المسائل الرياضية التي تحتوي على رسوم بيانية أو هندسة).
موثوقية: إذا قال الذكاء الاصطناعي "أرى مكعباً أزرق"، يمكنك حقاً الوثوق بوجود مكعب أزرق في الصورة.

باخت مختصره: يعلم PaLMR الذكاء الاصطناعي أن الرحلة (كيف تفكر) لا تقل أهمية عن الوصول (الإجابة). إنه يجبر الذكاء الاصطناعي على أن "يرى" قبل أن "يتحدث".

إليك ملخص تقني مفصل لورقة البحث: "PaLMR: نحو استدلال بصري أمين عبر محاذاة العمليات متعددة الوسائط".

1. بيان المشكلة

أظهرت النماذج اللغوية الكبيرة متعددة الوسائط (MLLMs) تحسينات كبيرة في الاستدلال البصري من خلال التعلم المعزز (RL)، لا سيما باستخدام تحسين السياسة النسبية للمجموعات (GRPO). ومع ذلك، تركز آليات المكافأة السائدة بشكل حصري تقريبًا على صحة النتيجة (أي ما إذا كانت الإجابة النهائية صحيحة أم لا).

يؤدي هذا النهج الموجه نحو النتيجة إلى خلل حرج: هلوسة الاستدلال. غالبًا ما تصل النماذج إلى الإجابة الصحيحة من خلال الاعتماد على الأولويات النصية أو الحفظ بينما تخطئ في إدراك الأدلة البصرية في خطوات الاستدلال الوسيطة (سلسلة الأفكام - Chain-of-Thought). على سبيل المثال، قد يزعم النموذج وجود "ثلاث أسطوانات" في صورة بينما يوجد أربعة بالفعل، ومع ذلك يحسب الإجابة النهائية الصحيحة بناءً على المنطق القائم على النص. هذا النقص في الأمانة على مستوى العملية يقوض موثوقية وقابلية تفسير النماذج اللغوية الكبيرة متعددة الوسائط.

2. المنهجية: إطار عمل PaLMR

يقترح المؤلفون PaLMR (محاذاة العملية للاستدلال متعدد الوسائط)، وهو إطار عمل موحد مصمم لمحاذاة عملية الاستدلال نفسها مع الأدلة البصرية، وليس فقط النتيجة النهائية. يتكون PaLMR من مكونين أساسيين:

أ. طبقة البيانات المحاذية للإدراك (PaDLayer)

تقوم هذه الطبقة ببناء مجموعة بيانات عالية الجودة وواعية بالعملية لربط الاستدلال بحقائق بصرية قابلة للتحقق.

مصدر البيانات والتصفية: تستخدم مجموعة بيانات FineVision عبر 19 مجالًا (الهندسة، الرسوم البياسية، العلوم، إلترم). وتستخدم استراتيجية تصفية قائمة على القابلية للتعلم، حيث تزيل العينات التي تعتبر تافهة للغاية (دقة عالية) أو صاخبة/غير مستقرة للغاية للنموذج الأساسي، مما ينتج عنه مجموعة منتقاة تضم حوالي 4,728 عينة عالية الجودة.
الحقائق الأرضية الزائفة المهيكلة: بدلاً من الاعتماد فقط على التعليقات البشرية، يستخدم إطار العمل نموذجًا لغويًا كبيرًا متعدد الوسائط قويًا (Gemini) لتوليد أوصاف بصرية مهيكلة وغير مرتبطة بسؤال محدد (تسميات توضيحية) لكل صورة. تسرد هذه الأوصاف صراحةً الأشياء، والسمات، والعلاقات المكانية، مما يعمل كـ "حقيقة أرضية بصرية" قابلة للتحقق.
أخذ عينات مرجعية: يستخدم استراتيجية "أفضل من N" (Best-of-N) لاختيار مسارات استدلال مرجعية عالية الجودة للمحاذاة.

ب. طبقة التحسين المحاذية للعملية (PaOLayer)

تقدم هذه الطبقة نموذج تدريب مبتكر يسمى تحسين السياسة النسبية للمجموعات الموجه بالرؤية (V-GRPO).

التقييم المدرك للإدراك (ثنائي المقارنة): لتجنب تحيزات التقييم النقطي (حيث قد يواجه الحكم من النماذج اللغبية صعوبة في تحديد الصحة الجزئية)، يستخدم PaLMR استراتيجية المقارنة الثنائية. يقوم حكم (نموذج لغوي) من نوع Qwen3-30B بمقارنة مسار الاستدلال الحالي للنموذج مع مسار مرجعي، بشرط الالتزام بالحقيقة الأرضية البصرية المهيكلة. وينتج عن ذلك درجة وفاء بصري ( $S_{p,vis}$ ): تكون 1 إذا كان المسار أكثر أمانة للصورة، و0 خلاف ذلك.
دمج المكافآت الهرمي: تُصاغ المكافأة الإجمالية ( $R_{V-GRPO}$ $R_{V - GR P O}$ ) كتركيبة هرمية:
$R_{V-GRPO}(\tau) = S_{p,vis}(\tau) \cdot [\alpha S_{p,ans}(\tau) + (1-\alpha) S_{p,fmt}(\tau)]$
- البوابة البصرية: إذا كانت درجة الوفاء البصري ( $S_{p,vis}$ ) هي 0 (استدلال هلوسي)، يتم تصفير المكافأة بالكامل، بغض النظر عما إذا كانت الإجابة النهائية صحيحة أم لا. هذا يجبر النموذج على "الرؤية بشكل صحيح" قبل أن يتمكن من "الاستدلال بشكل صحيح".
- المكافآت الثانوية: فقط إذا تم استيفاء الوفاء البصري، يحصل النموذج على مكافآت لإجابة دقيقة ( $S_{p,ans}$ ) وصحة التنسيق ( $S_{p,fmt}$ ).

3. المساهمات الرئيسية

إطار عمل PaLMR: إطار عمل جديد يوحد بناء البيانات المحاذية للإدراك وتحسين المحاذاة للعملية لفرض الأمانة البصرية طوال سلسلة الاستدلال.
نموذج تدريب V-GRPO: يقدم آلية مكافأة هرمية تعطي الأولوية للاتساق البصري على صحة النتيجة، مما يعاقب بفعالية خطوات الاستدلال الهلوسية حتى لو كانت الإجابة النهائية صحيحة.
التقييم البصري الثنائي: يثبت أن المقارنة الثنائية مع مسار مرجعي تحقق توافقًا أعلى بكثير مع الحكم البشري (يصل إلى 88٪) مقارنة بالتقييم النقطي، مما يوفر إشارة قوية للتدريب بالتعلم المعزز.
كفاءة البيانات: يوضح أن البيانات عالية الجودة والمحاذية للعملية (حوالي 4.7 ألف عينة) يمكن أن تتفوق على النماذج المدربة على مجموعات بيانات أكبر بكثير (مثل 12 ألف إلى 15 ألف عينة) عند استخدام مكافآت قائمة على النتيجة فقط.

4. النتائج التجريبية

قيم المؤلفون PaLMR (المبني على Qwen2.5-VL-7B) مقابل أحدث النماذج المرجعية، بما في ذلك GRPO التقليدي، وMM-Eureka، وOpenVLThinker، وPerception-R1.

HallusionBench (اختبار الهلوسة): حقق PaLMR نتيجة 70.9، متفوقًا بشكل كبير على خط الأساس GRFO التقليدي (66.7) وPerception-R1 (70.0). وهذا يؤكد نجاح الطريقة في تقليل هلوسة الاستدلال.
MathVerse & MathVista: حقق PaLMR 47.5 في MathVerse (رؤية فقط) و 73.8 في MathVista، متجاوزًا نماذج الاستدلال الأخرى بمقياس 7B.
التعميم: أظهرت الطريقة تحسنات متسقة عبر مقاييس نماذج مختلفة (من 3B إلى 32B) ضمن عائلة Qwen2.5. ومع ذلك، في نموذج Qwen3-VL-8B الأكثر تقدمًا، كانت المكاسب هامشية، مما يشير إلى أنه مع زيادة قدرات النموذج الأساسية، تقل الفائدة النسبية للبوابة البصرية (وهي ظاهرة تُعزى إلى سقف قدرات نموذج الحكم).
الاستقرار: أظهرت منحنيات التدريب أن PaLMR يحافظ على نمو مستقر في الدقة، بينما أظهرت الطرق التي تستخدم "الخلط البصري" (Visual Mix) أو "المكافأة البصرية" (Visual Bonus) (حيث تكون الدرجات البصرية إضافية وليست بوابة) تذبذبات متقلبة.

5. الأهمية والخاتمة

يعالج PaLMR قصورًا جوهريًا في التعلم المعزز متعدد الوسائط الحالي: فك الارتباط بين المنطق الاستدلالي والإدراك البصري. من خلال فرض المحاذاة على مستوى العملية، تثبت الورقة أن:

الأمانة أمر قابل للتحقيق: يمكن تدريب النماذج لوصف الأدلة البصرية بدقة باستمرار قبل استخلاص النتائج.
النتيجة مقابل العملية: إن تحسين النتيجة النهائية فقط يشجع على "الاختصار" عبر الهلوسة. إن المكافأة الهرمية التي تجعل النجاح مشروطًا بالوفاء البصري تجبر النموذج على تعلم سلاسل استدلال قوية وقابلة للتفسير.
الجانب العملي: يقدم إطار العمل مسارًا مبدئيًا لبناء نماذج MLLM أكثر موثوقية، وهو أمر بالغ الأهمية للتطبيقات التي تكون فيها الدقة البصرية ذات أهمية قصوى (مثل التصوير الطبي، تحليل الرسوم البيانية العلمية، والملاحة الذاتية).

باختالاف، ينقل PaLMR النموذج من "الحصول على الإجابة الصحيحة" إلى "الحصول على الإجابة الصحيحة عبر الاستدلال البصري الصحيح"، مما يعزز بشكل كبير قابلية التفسير والموثوقية للذكاء الاصطناائي متعدد الوسائط.