تخيل أنك تعلم روبوتًا فائق الذكاء كيف يصف العالم من حوله. تعرض له صورة لكلب وتسأله: "ماذا ترى؟". من الناحية المثالية، يجب أن يقول الروبوت: "أنا أرى كلبًا". ولكن في بعض الأحيان، تصبح نماذج الذكاء الاصطني هذه مبدعة أكثر من اللازم؛ فقد يقول: "أنا أرى كلبًا يرتدي قبعة حمراء"، رغم عدم وجود قبعة في الصورة. يُسمى هذا "الهلوسة" (Hallucination). الأمر يشبه تمامًا استغراق الروبوت في أحلام اليقظة بدلاً من النظر إلى ما هو موجود بالفعل.

ولإصلاح ذلك، يستخدم العلماء طريقة تدريب تسمى "تحسين التفضيل" (Preference Optimization). فكر في الأمر كأنها لعبة "ساخن أو بارد"؛ حيث تعرض على الروبوت إجابتين: واحدة حقيقية (الإجابة "الساخنة") وأخرى مختلقة (الإجابة "الباردة"). يتعلم الروبوت بعد ذلك اختيار الإجابة الساخنة. ومؤخرًا، حاول الباحثون جعل هذا الأمر أفضل من خلال تزويد الروبوت بقرائن إضافية، مثل وصف مكتوب للصورة، آملين أن يستخدم هذه القرائن للتوقف عن أحلام اليقظة. ولكن هنا يكمن السؤال الكبير: هل يستخدم الروبوت حقًا تلك القرائن، أم أنه يتجاهلها ويخمن فحسب؟

هذا هو بالضبط ما تبحث فيه ورقة بحثية بعنوان "العمى السياقي في DPO" (Context Blindness in DPO). فقد اكتشف المؤلفون، وهم فريق من الباحثين من جامعة كوريا وجامعة KAIST، أنه حتى مع وجود هذه القرائن الإضافية، تعاني العديد من نماذج الذكاء الاصطناعي مما يسمى "العمى السياقي". ووجدوا أن طرق التدريب القياسية لا تعلم النموذج في الواقع الانتباه للمعلومات الإضافية. ولإصلاح ذلك، ابتكروا تقنية تدريب جديدة تسمى C2-DPO (تحسين التفضيل المباشر المعاير سياقيًا). فبدلاً من مجرد إخبار الروبوت أي إجابة هي الأفضل، يعلم C2-DPO الروبوت أن يكون أكثر ثقة بكثير في الإجابة الصحيحة عندما يمتلك قرائن إضافية، وأن يحافظ على ثقته حتى عندما تغيب تلك القرائن. وتظهر تجاربهم أن هذه الطريقة الجديدة تقلل بشكل كبير من أحلام اليقظة لدى الروبوت، مما يجعله مراقبًا أكثر موثوقية للعالم الحقيقي.

المشكلة: عادة أحلام اليقظة لدى الروبوت

نماذج اللغات الكبيرة متعددة الوسائط (MLLMs) تشبه كاميرات فائقة القدرة تمتلك عقولًا؛ يمكنها النظر إلى صورة والتحدث عنها. لكن لديها عادة مزعجة: غالبًا ما تخترع تفاصيل. إذا عرضت عليها صورة لطبق أبيض سادة، فقد تقول بثقة: "هناك شريحة بيتزا على الطبق". تبدو الجملة مثالية، لكنها كذبة. هذه هي "هلوسة الأشياء" (Object Hallucination).

ولإيقاف ذلك، يستخدم العلماء طريقة تسمى التحسين المباشر للتفضيل (DPO). تخيل أنك معلم تصحح مقال طالب؛ لديك نسختان: إحداهما دقيقة، والأخرى مليئة بالأكاذيب. تقول للطالب: "أنا أفضل النسخة الدقيقة". ومع مرور الوقت، يتعلم الطالب الكتابة مثل النسخة الدقيقة. وفي عالم الذكاء الاصطناعي، يعطي الباحثون النموذج أزواجًا من الإجابات — واحدة حقيقية، وأخرى مهلوسة — ويدربونه على اختيار الإجابة الحقيقية دائمًا.

مؤخرًا، حاول بعض الباحثين مساعدة الذكاء الاصطناعي بشكل أكبر، حيث أضافوا "نصًا مساعدًا" (مثل وصف توضيحي) إلى الصورة قبل طرح السؤال. كانت الفكرة هي: "إذا قرأ الروبوت الوصف و نظر إلى الصورة، فلن يخترع أشياء". لكن مؤلفي هذه الورقة طرحوا سؤالًا مشككًا: هل يقرأ الروبوت الوصف حقًا، أم أنه يتجاهله ويخمن فحسب؟

الاكتشاف: الروبوت "الأعمى"

لإيجاد الإجابة، أنشأ المؤلفون اختبارًا بسيطًا يسمى كسب التفضيل السياقي (CPG). فكر في CPG كأنه "مقياس الثقة".

إليك كيف يعمل الاختبار:

1. السياق الكامل: تعرض للروبوت صورة بالإضافة إلى وصف توضيحي مفيد. تسأله: "هل هناك بيتزا على الطبق؟". يقول الروبوت: "لا، الطبق فارغ". ثم تتحقق من مدى ثقته.
2. السياق المتدهور: تأخذ الوصف التوضيحي بعيدًا. تعرض للروبوت الصورة فقط وتسأله نفس السؤال. يقول الروبوت: "لا، الطبق فارغ". ثم تتحقق من مدى ثقته مرة أخرى.

إذا كان الروبوت ينتبه حقًا، فيجب أن يكون أكثر ثقة بكثير عندما يمتلك الوصف التوضيحي. يجب أن يرتفع "مقياس الثقة" (CPG). وهذا ما ينبغي أن يفعله روبوت ذكي ومدرك للواقع.

ومع ذلك، عندما اختبر المؤلفون نماذج الذكاء الاصطناعي القياسية (باستخدام تدريب DPO المعتاد)، وجدوا شيئًا صادمًا. مقياس الثقة لم يتحرك تقريبًا. سواء كان لدى الروبوت الوصف التوضيحي أم لا، فقد شعر بنفس المستوى من الثقة تمامًا. كان الروبوت أعمى سياقيًا. لقد كان يتجاهل المساعدة الإضافية ويعتمد على تخميناته الخاصة، مما أدى إلى تلك الهلوسات المزعجة.

وجد المؤلفون رابطًا قويًا: كلما ارتفع مقياس الثقة للنموذج عند إعطائه قرائن إضافية (CPG مرتفع)، قلت الأكاذيب التي يطلقها. لكن النماذج القياسية كان لديها CPG قريب من الصفر. لقد كانوا "عميانًا" جوهريًا عن السياق الذي كان من المفترض أن يستخدموه.

الحل: C2-DPO (المدرب "المعاير سياقيًا")

إذًا، كيف تعلم روبوتًا أعمى كيف يرى؟ اقترح المؤلفون طريقة تدريب جديدة تسمى C2-DPO.

بدلاً من مجرد قول "اختر الإجابة الصحيحة"، يغير C2-DPO قواعد اللعبة. فهو يجبر الروبوت على تعلم درس محدد: "عندما تمتلك قرائن إضافية، يجب أن تكون أكثر تأكدًا من إجابتك مما لو لم تمتلكها."

يفعلون ذلك باستخدام خدعة رياضية خاصة (دالة الخسارة) تكافئ الروبوت على توسيع الفجوة بين مستويات ثقته.

• السيناريو (أ) (السياق الكامل): يرى الروبوت الصورة والوصف التوضيحي. يجب أن يكون واثقًا جدًا من صحة الإجابة.
• السيناريو (ب) (السياق المتدهور): يرى الروبوت الصورة فقط. لا يزال يحتاج إلى أن يكون واثقًا، لكن التدريب يضمن أن الثقة في "السياق الكامل" ستكون أعلى بكثير.

الأمر يشبه تدريب محقق. المحقق العادي قد يحل قضية بوجود شاهد أو بدونه. لكن محقق C2-DPO مدرب على أن يقول: "إذا كان لدي شاهد، فأنا متأكد بنسبة 100%! وإذا لم يكن لدي، فلا زلت متأكدًا إلى حد ما، لكني أعلم أنني بحاجة إلى المزيد من الأدلة". هذا يجبر الذكاء الاصطناعي على استخدام المعلومات الإضافية (الشاهد/الوصف) فعليًا لتعزيز استنتاجه.

النتائج: أحلام يقظة أقل، وحقائق أكثر

اختبر المؤلفون هذه الطريقة الجديدة على عدة نماذج ذكاء اصطناعي شهيرة، بما في ذلك LLaVA-v1.5-7B و Qwen2-VL-Instruct-2B. وقارنوا C2-DPO بالطرق القداسية القياسية في اختبار يسمى Object HalBench، وهو مصمم لصيد الروبوتات التي تخترع أشياء.

كانت النتائج مبهرة:

• بالنسبة لنموذج Qwen2-VL-Instruct-2B، قلل C2-DPO معدل الاستجابات المهلوسة بنسبة 36% ومعدل ذكر الأشياء المهلوسة (كلمات محددة) بنسبة 60%.
• في اختبار AMBER، انخفضت درجة الهلوسة من 39.9 (مع الطريقة القديمة) إلى 16.1 (مع C2-DPO).
• والأهم من ذلك، لم تصبح النماذج "أقل ذكاءً" في المهام الأخرى؛ فقد ظلت تجيب على الأسئلة العامة وتحل الألغاز المنطقية بنفس كفاءة السابق. لقد توقفت فقط عن اختراع الأشياء.

كما أظهر المؤلفون أن هذه الحيلة تعمل حتى بدون صور. فعندما طبقوا نفس المنطق على نماذج النصوص فقط (باستخدام الأسئلة والأجوبة فقط)، فقد حسنت دقتها أيضًا. وهذا يشير إلى أن المشكلة لم تكن تتعلق فقط بـ "رؤية" الصورة؛ بل كانت تتعلق بكيفية تعلم النموذج تقدير المعلومات التي تُعطى له.

لماذا يهم هذا الأمر؟

تشير هذه الورقة البحثية إلى أن الطريقة التي ندرب بها الذكاء الاصطناعي حاليًا ليكون "صادقًا" قد تفتقد إلى عنصر أساسي. لقد كنا نعطيهم قرائن إضافية ونأمل أن يستخدموها، لكن طريقة التدريب لم تكن تجبرهم على الانتباه. ومن خلال تعديل التدريب ببساطة لمكافأة "الثقة المدركة للسياق"، أظهر المؤلفون أنه يمكننا جعل نماذج الذكاء الاصطناعي أكثر موثوقية بشكل كبير دون الحاجة إلى مجموعات بيانات ضخمة جديدة أو بنيات معقدة.

إنها تذكير بأنه في بعض الأحيان، ليست أفضل طريقة لإيقاف الروبوت عن أحلام اليقظة هي إعطاؤه المزيد من البيانات، بل تعليمه كيفية تقدير البيانات التي يمتلكها بالفعل. وكما وجد المؤلفون، عندما تضبط النموذج لكي يحترم السياق، تتلاشى الهلوسة، ويبدأ الروبوت في قول الحقيقة.