Decomposition-Induced Context-Memory Conflict: When Fact-Checking Pipelines Contradict Their Own Source Text
تحدد هذه الورقة وتُوصّف "صراع ذاكرة السياق الناجم عن التفكيك" (DI-CC)، وهو نمط فشل في مسارات التحقق من الحقائق حيث تقوم مرحلة التفكيك باستبدال معتقدات النموذج البارامترية بالنص المصدر، مما يخلق تناقضات تتملص من الكشف القياسي عن الاتساق الذاتي ولكن يمكن التخفيف منها جزئياً عبر فك التشفير المدرك للسياق على حساب موثوقية التحليل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم روبوت كيف يقول الحقيقة. تعطيه قصة طويلة ومعقدة وتطلب منه تفكيك هذه القصة إلى جمل صغيرة وبسيطة ليتمكن من التحقق من دقة كل منها. هذه حيلة شائعة في عالم الذكاء الاصطناعي، تُعرف باسم "التفكيك ثم التحقق" (decompose-then-verify). فكر في الأمر كطالب يقوم، قبل خوض اختبار تاريخ، بتفكيك فصل طويل من الكتاب المدرسي إلى قائمة من النقاط الأساسية للدراسة. والأمل هو أنه من خلال النظر إلى حقيقة صغيرة واحدة في كل مرة، لن يرتبك الروبوت.
لكن إليك المشكلة: الروبوت الذي يقوم بعملية التفكيك ليس مجرد مقص سلبي؛ بل هو عقل ذكي وثرثار يعرف بالفعل الكثير من الأشياء من ذاكرته الخاصة. أحياناً، عندما يقرأ الروبوت جملة في القصة، يصبح واثقاً جداً في ذاكرته الخاصة لدرجة أنه يستبدل حقائق القصة بما يعتقد هو أنه صحيح عن طريق الخطأ. الأمر يشبه طالباً يقرأ كتاب تاريخ يقول "بدأت الحرب في عام 1940"، ولكن لأن الطالب متأكد من أنها بدأت في عام 1941، فإنه يعيد كتابة ملاحظات دراسته لتصبح 1941. هو لم يرتكب خطأً فحسب؛ بل قام بنشط باستبدال النص المصدر بمعتقده الخاص. تستكشف هذه الورقة البحثية بالضبط لحظة الارتباك هذه، حيث تصارع ذاكرة الروبوت الداخلية النص الذي يُفترض به تلخيصه، وتتساءل: هل يحدث هذا، وهل يمكننا رصده؟
الاكتشاف الكبير للورقة البحثية: عندما يكذب "المتحقق من الحقائق" على نفسه
قرر الباحث وراء هذه الدراسة، بقيادة يو-فينج ين (Yu-Feng Yen)، التحقيق في مشكلة خفية في كيفية قيام الذكاء الاصطناعي بالتحقق من عمله. وهم يسمون هذه الظاهرة "صراع السياق والذاكرة الناجم عن التفكيك" (Decomposition-Induced Context-Memory Conflict)، أو اختصاراً DI-CC.
إليك قصة ما وجدوه:
1. "الخدعة السحرية" لعقل الروبوت
أعد الفريق تجربة طلبوا فيها من ذكاء اصطناعي تفكيك سيرة ذاتية لشخص مشهور إلى ادعاءات صغيرة. قاموا بتغيير تفصيل واحد سراً في السيرة الذاتية (مثل سنة الميلاد) لمعرفة ما إذا كان الذكاء الاصطناعي سيكتشف ذلك. ووجدوا أنه عندما قيل للذكاء الاصطناعي: "مهلاً، تحقق من ذاكرتك الخاصة إذا كنت تعتقد أن شيئاً ما خطأ"، فإنه غالباً ما فعل ذلك بالضبط—ولكن بالطريقة الخاطئة. فبدلاً من الالتزام بالقصة، كان الذكاء الاصطناعي ينظر إلى التفصيل المتغير، ويدرك أنه لا يتطابق مع ما "يعرفه" من تدريبه، ثم يعيد كتابة الادعاء ليتطابق مع ذاكرته الخاصة، متجاهلاً تماماً القصة التي كان من المفترض أن يلخصها.
الأمر يشبه مترجماً يقرأ كتاباً بالفرنسية. إذا قال الكتاب "القط أزرق"، ولكن المترجم متأكد تماماً من أن القطط ليست زرقاء أبداً، فقد "يصحح" الترجمة إلى "القط أسود" دون أن يدرك أنه غير قصة المؤلف للتو. توضح الورقة أن هذا ليس مجرد خلل عشوائي؛ بل هو نفس نوع ارتباك الدماغ الذي يحدث عندما يُسأل الذكاء الاصطناعي سؤالاً مباشراً، ولكنه يحدث في مرحلة مبكرة من العملية.
2. كشف الكذبة باستخدام "جهاز كشف الكذب"
لإثبات أن هذا لم يكن مجرد هراء عشوائي من صنع الذكاء الاصطناعي، بنى الباحث أداة خاصة "لكشف الكذب". لقد قاموا بتدريب أداة بسيطة على نوع مختلف من المشكلات (حيث يتعين على الذكاء الاصطناست الاختيار بين قصة وذاكرته الخاصة). ثم طلبوا من هذه الأداة النظر في نشاط دماغ الذكاء الاصطناعي أثناء قيامه بتفكيك القصة.
كانت النتيجة واضحة بشكل مدهش. استطاعت الأداة رصد اللحظات التي يقوم فيها الذكاء الاصطناعي باستبدال حقائق القصة بمعتقداته الخاصة بدقة تتراوح بين 86% إلى 88% (وهي درجة تسمى AUC). وهذا أفضل بكثير من التخمين العشوائي. هذا يعني أن "الارتباك" له بصمة محددة في دماغ الذكاء الاصطناعي يمكننا رؤيتها، حتى لو لم نكن قد رأينا هذا النوع المحدد من الأخطاء من قبل.
3. لماذا فشل "التحقق الذاتي"
جرب الباحث أيضاً طريقة شائعة تسمى "SelfCheckGPT"، والتي تعمل من خلال سؤال الذكاء الاصطناعي نفس السؤال عشر مرات ورؤية ما إذا كان سيعطي نفس الإجابة في كل مرة. إذا تغيرت الإجابات، يفترضون أن الذكاء الاصطناعي يكذب.
- النتيجة: فشلت هذه الطريقة تماماً. سجلت 51% فقط، وهي تقريباً مثل رمي العملة المعدنية.
- السبب: توضح الورقة أن هذا أمر يمكن التنبؤ به. نظرًا لأن الذكاء الاصطناعي واثق جداً في ذاكرته الخاصة، فإنه يقدم نفس الإجابة الخاطئة في كل مرة. وبما أن الإجابات متسقة، فإن أداة "التحقق الذاتي" تعتقد: "أوه، إنها متسقة، إذن لا بد أنها صحيحة!". لقد خدعت الأداة لأن الذكاء الاصطناعي كان عنيداً جداً لدرجة تمنعه من تغيير رأيه، حتى عندما يكون مخطئاً.
4. "الإصلاح" الذي يفسد الأمور
جرب الفريق طريقة إصلاح معروفة تسمى "فك التشفير المدرك للسياق" (Context-Aware Decoding - CAD)، وهي تشبه قولك للذكاء الاصطناعي: "من فضلك انتبه جيداً للقصة، وليس لذاكرتك".
- الأخبار الجيدة: لقد نجحت! فقد قللت عدد المرات التي يستبدل فيها الذكاء الاصطناعي الحقائق من 4.16% إلى 2.57%.
- الأخبار السيئة: جاء ذلك بتكلفة باهظة. فعندما تحتوي القصة على الكثير من الضمائر (مثل "هو"، "هي"، "هم")، يرتبك الذكاء الاصطناعي بشدة أثناء محاولة اتباع القاعدة لدرجة أنه يتوقف عن تقديم كلام منطقي بنسبة 19.4% من الوقت. وفي 84% من حالات الفشل هذه، لم يكتفِ الذكاء الاصطناعي بتجاهل تفصيل ما، بل اخترع هوية شخص آخر تماماً.
- الخلاصة: يقول المؤلف إن هذا الإصلاح ليس جاهزاً للاستخدام في العالم الحقيقي بعد. إنه يشبه الضمادة التي توقف النزيف ولكنها تجعل المريض يفقد وعيه.
5. كم يجب أن يكون حجم "الروبوت"؟
اختبر الباحث نماذج ذكاء اصطناعي بأحجام مختلفة لمعرفة ما إذا كانت الأدمغة الأكبر هي الأفضل في هذا الأمر.
- النماذج الصغيرة (3 مليارات معلمة/parameter): لم تتمكن من إظهار الإشارة على الإطلاق. كانت بسيطة جداً لدرجة تمنع حدوث هذا النوع المحدد من الصراع.
- النماذج المتوسطة (7 مليارات معلمة): أظهرت الصراع بوضوح.
- النماذج الكبيرة (14 مليار معلمة): أظهرت هذا الصراع بشكل أقوى، ولكن فقط إذا نظرت إلى الجزء الصحيح من دماغها.
- الخلاصة: هذه ليست مشكلة تتحسن بمجرد جعل الذكاء الاصطناعي أكبر. يبدو أن هناك "حداً أدنى من الحجم" مطلوباً لحدوث هذا النوع المحدد من الارتباك.
6. كم مرة يحدث هذا حقاً؟
الجزء الأكثر أهمية في الورقة هو الصدق حول مدى شيوع ذلك. استخدمت التجارب أعلاه إعداداً خاصاً حيث تمت "دعوة" الذكاء الاصطناعي لفحص ذاكرته الخاصة. ولكن في العالم الحقيقي، نطلب عادة من الذكاء الاصطناعي تلخيص النص دون تلك الدعوة.
- الواقع: عندما نظر الباحث في النصوص الطبيعية غير المعدلة، كان هذا النوع المحدد من استبدال الحقائق نادراً للغاية. فقد حدث في 0.2% إلى 0.4% فقط من الادعاءات.
- لماذا؟ الهلوسة (الأكاذيب) في العالم الحقيقي تحدث عادة في المجالات التي لا يعرف فيها الذكاء الاصطناب الإجابة. أما هذه المشكلة المحددة (DI-CC) فتحدث فقط عندما يعرف الذكاء الاصطناعي الإجابة ولكنه يقرر تجاهل القصة على أي حال.
الخلاصة
تثبت هذه الورقة أنه عندما يقوم الذكاء الاصطناعي بتفكيك النصوص إلى قطع صغيرة، فإنه قد يصبح واثقاً جداً في ذاكرته الخاصة لدرجة أنه يعيد كتابة القصة لتناسب ما يعتقد أنه صحيح. يمكننا رصد ذلك باستخدام أداة خاصة، ويمكننا حتى تقليله باستخدام تقنية معينة، ولكن تلك التقنية تتسبب حالياً في اختلاق شخصيات وهمية.
والأهم من ذلك، يحذرنا المؤلف من الذعر. فرغم أن هذا خلل حقيقي وقابل للقياس، إلا أنه نادر جداً في الحالات الطبيعية. إنه نوع محدد من "الثقة المفرطة" التي تحدث فقط تحت ظروف معينة، وليس خطأً يفسد كل شيء يفعله الذكاء الاصطناعي. لا تقدم الورقة حلاً مثالياً بعد، لكنها تعطينا خريطة أوضح لمكان وجود المشكلة وحجمها الحقيقي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.