تخيل أنك محقق يحاول حل لغز، ولكن بدلاً من مسرح جريمة، فإن أدلتك هي صورة وجملة منشورة على الإنترنت. أحياناً تكون الجملة كذبة، وأحياناً تكون الصورة مزيفة، وأحياناً أخرى لا يتطابق الاثنان على الإطلاق. هذا هو عالم "المعلومات المضللة متعددة الوسائط"، وهو مجال يعلم فيه العلماء الحواسيب كيفية كشف هذه الخدع الرقمية. تُسمى الأدوات التي يستخدمونها "نماذج اللغات الكبيرة متعددة الوسائط" (أو LVLMs اختصاراً). فكر في هذه النماذج كأنها محققون أذكياء جداً ومطلعون، يمكنهم رؤية الصور وقراءة النصوص. لكن هنا تكمن المشكلة: حتى أذكى محقق قد يصاب بالارتباك إذا لم يكن لديه خطة عمل جيدة. فقد ينظر إلى صورة مضحكة ويفترض أن القصة حقيقية، أو قد يتشتت بانتباهه بتفصيل صغير ويفوت الكذبة الكبرى. السؤال الكبير الذي يطرحه الباحثون هو: كيف نعلم هؤلاء المحققين الرقميين أن يكونوا أكثر اتساقاً وموثوقية دون الحاجة إلى إعادة تدريب عقولهم بالكامل في كل مرة يتعلمون فيها خدعة جديدة؟

تقدم هذه الورقة البحثية استراتيجية ذكية جديدة تسمى "تعلم دفتر ملاحظات التحقق" (VNL). بد instead من محاولة إعادة صياغة دماغ المحقق (وهو أمر صعب ومكلف) أو مجرد إعطائه كومة من ملفات القضايا السابقة ليتصفحها (وهو أمر بطيء وفوضوي)، يمنح الباحثون المحقق دفتراً خاصاً مكتوباً مسبقاً. قبل أن يبدأ المحقق في حل القضايا الجديدة، يقضي وقتاً في دراسة الأخطاء والنجاحات الماضية. يكتب مجموعة من القواعد الذهبية، مثل "تحقق دائماً مما إذا كان الشيء الموجود في الصورة موجوداً بالفعل" أو "لا تسميها حالة عدم تطابق لمجرد أن النص غامض قلياً". هذا الدفتر مدمج، سهل القراءة، ويبقى ثابتاً بينما يعمل المحقق.

وجد الباحثون أن هذا النهج يعمل بشكل جيد بشكل مفاجئ. فعندما اختبروا المحقق "الموجه بالدفتر" مقابل طرق أخرى، تمكن من حل الألغاز بدقة أكبر. على سبيل المثال، في اختبار شمل أربعة أنواع مختلفة من الأكاذب، حققت طريقة الدفتر درجة 73.2%، متفوقة على أفضل طريقة تالية بفارق ملموس. تشير الورقة إلى أن وجود هذه القواعد الواضحة والمكتوبة يساعد الكمبيوتر على تجنب الفخاخ الشائعة، مثل الخلط بين تنين مزيف في صورة وبين وصف غير متطابق. المفتاح المكتشف هو أنك لست بحاجة لتغيير الكود الداخلي للكمبيوتر لجعله أكثر ذكاءً؛ بل تحتاج فقط لإعطائه دليلاً أفضل ومعداً مسبقاً حول كيفية التفكير.

معضلة المحقق

تخيل أنك تتصفح هاتفك وترى منشوراً يحتوي على صورة لقط يرتدي بدلة رسمية (توكسيدو) وتعليق يقول: "هذا القط هو عمدة نيويورك الجديد". هل هذه كذبة؟ حسناً، القط ليس حقيقياً (إنها صورة)، والتعليق كاذب، والاثنان لا يتطابقان. ولكن ماذا لو كانت الصورة حقيقية، وكان التعليق مجرد دعابة؟ أو ماذا لو كانت الصورة حقيقية، لكن التعليق ادعى أن القط من مدينة أخرى؟

هذا هو الواقع الفوضوي للمعلومات المضللة عبر الإنترنت. الأمر لا يتعلق فقط بكشف منشور "مزيف"؛ بل يتعلق بمعرفة أين تختبئ الكذبة. هل النص يكذب؟ هل الصورة تم التلاعب بها؟ أم أنهما مجرد شيئين غير مرتبطين تم لصقهما معاً؟ هذا ما يسميه العلماء "الكشف المدرك للمصدر".

لفترة طويلة، حاولنا إصلاح ذلك من خلال تعليم الحواسيب أن تكون أفضل في التفكير المنطقي. نقول لها: "مهلاً، انظر إلى النص، ثم انظر إلى الصورة، ثم قارن بينهما". حتى أننا بنينا أنظمة معقدة حيث يعمل الكمبيوتر كفريق من الوكلاء الذين يتناقشون حول الإجابة. لكن هناك مشكلة: في كل مرة يرى فيها الكمبيوتر منشوراً جديداً، يتعين عليه اكتشاف القواعد من الصفر. إنه يشبه المحقق الذي ينسى دليل التدريب الخاص به بعد كل قضية. قد يحل قضية واحدة بشكل مثالي، لكنه ينسى الدرس للقضية التالية.

حل الدفتر

قرر مؤلفو هذه الورقة، جون يوان تان، تجربة نهج مختلف. بدلاً من محاولة جعل الكمبيوتر "يتعلم" بالمعنى التقليدي (الذي يتضمن تغيير إعداداته الداخلية، مثل إعادة تدريب دماغ طالب)، أعطوا الكمبيوتر دفتر ملاحظات للتحقق.

فكر في دفتر الملاحظات هذا كأنه ورقة غش أو دليل ميداني يحمله محقق متمرس. هو لا يحتوي على كل ملف قضية تم حلها على الإطلاق؛ لأن ذلك سيكون ثقيلاً جداً للحمل. بدلاً من ذلك، يحتوي على الدروس المستفادة من تلك القضايا.

• قواعد القرار: "إذا قدم النص ادعاءً واقعياً، فافحص ذلك أولاً قبل القلق بشأن الصورة".
• أخطاء يجب تجنبها: "لا تفترض وجود عدم تطابق لمجرد أن النص غامض قليلاً".
• إشارات الأدلة: "إذا رأيت شيئاً يبدو مستحيلاً من الناحية الفيزيائية، فهذه علامة على التشويه البصري".

إليك كيف يحدث السحر:

1. مرحلة التعلم: ينظر الكمبيوتر (الذي يسمونه "المُحقِّق" أو Verifier) إلى مجموعة من الأمثلة التدريبية. يحاول حلها باستخدام دفتر ملاحظاته الحالي.
2. المحرر: جزء ثانٍ من النظام ("المحرر" أو Editor) ينظر إلى عمل المُحقِّق. إذا ارتكب المُحقِّق خطأً، يسأل المحرر: "لماذا فعلت ذلك؟" ثم يكتب قاعدة جديدة في دفتر الملاحظات لمنع هذا الخطأ في المرة القادمة.
3. التجميد: بمجرد كتابة دفتر الملاحظات، يتم إغلاقه. يبقى دماغ الكمبيوتر (الـ LVLM) كما هو تماماً. لا يغير الكود الداخلي الخاص به. هو فقط يستخدم دفتر الملاحظات كدليل.

ما وجدوه

اختبر الباحثون هذه الفكرة على مجموعة بيانات تسمى MMFakeBench، والتي تحتوي على آلاف المنشورات مع تعليقات وصور. أرادوا معرفة ما إذا كان بإمكان الدفتر مساعدة الكمبيوتر في التمييز بين أربعة أنواع من المنشورات:

1. الأصلية: كل شيء حقيقي ومتطابق.
2. التشويه النصي: النص هو الكذبة.
3. التشويه البصري: الصورة مزيفة.
4. عدم التطابق: النص والصورة لا يتماشيان معاً.

كانت النتائج مبهرة. حققت طريقة الدفتر نسبة 73.2% في مقياس يسمى "Macro-F1"، وهي طريقة تقنية لقول إنها كانت جيدة في رصد جميع أنواع الأكاذب، وليس الأسهل منها فقط. كان هذا أفضل بكثير من الطرق الأخرى.

• النهج "المباشر" القياسي (مجرد سؤال الكمبيوتر دون دفتر ملاحظات) سجل حوالي 63.4%.
• النظام المعقد الذي يستخدم خطوات عديدة وأدوات بحث خارجية (يسمى MMD-Agent) سجل 57.3%.

تشير الورقة إلى أن الدفتر ينجح لأنه يحول التفكير الفوضوي والمؤقت إلى قواعد واضحة ودائمة. الأمر لا يتعلق فقط بامتلاك المزيد من المعلومات؛ بل يتعلق بامتلاك التعليمات الصحيحة حول كيفية استخدام تلك المعلومات.

لماذا يفوز الدفتر؟

أحد أروع الأشياء في هذه الطريقة هو أنها شفافة. إذا أردت معرف أن الكمبيوتر اتخذ قراراً ما، يمكنك ببساً قراءة الدفتر. يمكنك رؤية القاعدة الدقيقة التي اتبعها. هذا يختلف عن الطرق الأخرى حيث يبدو قرار الكمبيوتر وكأنه "صندوق أسود"؛ تحصل على الإجابة، لكنك لا تعرف كيف وصل إليها.

وجد الباحثون أيضاً أن الدفتر ساعد الكمبيوتر على أن يصبح أفضل في الأجزاء الصعبة. على سبيل المثال، في حالة اختبارية واحدة، قال تعليق "Black Canary حقيقية" (بالإشارة إلى بطلة خارقة)، والصورة أظهرت طائراً. الكمبيوتر بدون دفتر ملاحظات قد يقول: "النص والصورة لا يتطابقان، لذا فهي حالة عدم تطابق". لكن الدفتر كان يحتوي على قاعدة: "تحقق مما إذا كان النص نفسه خاطئاً واقعياً أولاً". لذا، حدد الكمبيوتر بشكل صحيح أن النص هو الكذبة (تشويه نصي)، وليس عدم التطابق.

مثال آخر تضمن صورة لطائرة على الشاطئ مع تنين مزيف في الخلفية. الكمبيوتر بدون دفتر ملاحظات قد يركز على التنين ويقول: "النص لم يذكر التنين، لذا فهو عدم تطابق". لكن الدفتر كان يحتوي على قاعدة: "إذا كانت الصورة تحتوي على شيء مستحيل، فهذا تشويه بصري". لذا، حدد الكمبيوتر بشكل صحيح أن الصورة هي المشكلة.

الخلاصة

تظهر هذه الورقة أننا لسنا بحاجة دائماً لجعل نماذج الذكاء الاصطناعي أكبر أو أكثر تعقيداً لجعلها أكثر ذكاءً. أحياناً، نحتاج فقط لإعطائها دليلاً أفضل. من خلال إنشاء "دفتر ملاحظات للتحقق" يلخص الدروس المستفادة من الأخطاء الماضية، تمكن الباحثون من مساعدة نموذج ذكاء اصطناعي ثابت وغير متغير على الأداء بشكل أفضل بكثير في كشف المعلومات المضللة.

يشير المؤلفون إلى أن هذه طريقة عملية لبناء أنظمة تحقق أفضل. فهي خفيفة الوزن، وسهلة الفحص، ولا تتطلب إعادة تدريب نماذج الذكاء الاصطناعي الضخمة الموجودة بالفعل. إنها تذكير بأن أفضل طريقة للتعلم ليست دائماً في تغيير هويتك، بل في تدوين ما تعلمته حتى لا تنساه في المرة القادمة.