The Confidence Manifold: Geometric Structure of Correctness Representations in Language Models
تكشف هذه الورقة أن التمثيلات الداخلية للصدق في النماذج اللغوية تشكل بنية هندسية بسيطة ومنخفضة الأبعاد محددة بمركز ثقل الفئات، مما يتيح كشفاً فعالاً للغاية وتلاعباً سببياً بالهلوسة من خلال المجسات الخطية وتوجيه التنشيط.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تتحدث إلى روبوت ذكي جداً وسريع جداً، قرأ كل كتاب كُتب تقريباً. تسأله سؤالاً، فيجيبك بقواعد لغوية مثالية وثقة تامة. لكن أحياناً، يكون الروبوت مخطئاً. قد يخبرك أن عاصمة أستراليا هي سيدني (بينما هي في الواقع كانبرا)، أو أن شخصية تاريخية مشهورة ولدت في قرن خاطئ. الجزء المرعب هو أن الروبوت يبدو واثقاً من نفسه تماماً عندما يكذب كما لو كان يقول الحقيقة. لا يتلعثم، ولا يتردد، ومقياس "الثقة" الخاص به (الأرقام التي يحسبها داخلياً) يبدو طبيعياً.
لفترة طويلة، تساءل العلماء: هل يعرف الروبوت أنه مخطئ، حتى لو لم يقل ذلك؟ هل هناك إشارة سرية مخبأة في أعماق دماغه تقول: "مهلاً، هذه الحقيقة خاطئة!"؟ لفهم هذا، نحتاج لمعرفة القليل عن كيفية عمل هذه الروبوتات. فهي لا تفكر مثل البشر؛ بل تعالج المعلومات كسحب هائلة من الأرقام تسمى "التنشيطات" (activations). وبينما يقرأ الروبوت ويفكر، تتدفق هذه الأرقام عبر طبقات شبكة رقمية. وقد وجد العلماء أن سحب الأرقام هذه ليست عشوائية؛ بل لها أشكال وهياكل. وأحياناً، لا يكون الفرق بين حقيقة وما هي كذبة نمطاً معقداً وفوضوياً، بل مجرد خط مستقيم بسيط في هذا الفضاء الرقمي. السؤال الكبير هو: هل يمكننا العثور على ذلك الخط، وهل يمكننا استخدام ذلك للإمساك بالروبوت وهو يكذب قبل أن ينهي جملته حتى؟
هذا بالضبط ما تسعى ورقة بحثية بعنوان "منطويد الثقة" (The Confidence Manifold) لاستكشافه. قرر الباحثون، بقيادة سيونغلاي تشو وزملاؤه، النظر داخل عقول 11 نموذجاً لغوياً مختلفاً، تتراوح من النماذج الصغيرة التي تحتوي على 124 مليون معلمة (parameter) إلى النماذج الضخمة التي تحتوي على 14 مليار معلمة. أرادوا رسم "هندسة الصحة" – الشكل والموقع المحدد في دماغ الروبوت حيث تعيش الحقيقة.
فكر في دماغ الروبوت كغرفة ضخمة متعددة الأبعاد. في كل مرة يفكر فيها الروبوت في جملة، فإنه يضع نقطة في هذه الغرفة. إذا كانت الجملة صحيحة، تسقط النقطة في منطقة معينة؛ وإذا كانت خاطئة، تسقط في منطقة أخرى. وجد الباحثون أن هذه النقاط ليست مبعثرة عشوائياً في كل مكان في الغرفة؛ بل هي منظمة بدقة في مجموعتين متمايزتين، مثل كومتي كرات رخامية. "كومة الحقيقة" و"كومة الكذب" مفصولتان بممر بسيط ومنخفض الأبعاد.
إليك الجزء الأكثر إثارة للدهشة: لست بحاجة إلى كمبيوتر فائق التعقيد للتمييز بين هاتين الكومتين. اكتشف الباحثون أن الفرق بين بيان صادق وبيان كاذب هو مجرد إزاحة بسيطة في متوسط موقع هذه النقاط. الأمر يشبه إذا كان لديك كيس من الكرات الحمراء وكيس من الكرات الزرقاء؛ لست بحاجة لقياس حجم أو وزن أو ملمس كل كرة على حدة للتمييز بينهما؛ بل تحتاج فقط لمعرفة أن الكرات الحمراء، في المتوسط، تقع إلى اليسار قليلاً، والزرقاء تقع إلى اليمين قليلاً. في دماغ الروبوت، هذا "الموقع المتوسط" (أو المركز - centroid) هو كل ما يهم. وجد الباحثون أن بإمكانهم اكتشاف الأكاذب بدقة تصل إلى 90% باستخدام 25 مثالاً مصنفاً فقط لإيجاد هذين المركزين. والأفضل من ذلك، وجدوا أن "إشارة الحقيقة" هذه تعيش فقط في ممر ضيق يتكون من 2 إلى 8 أبعاد، رغم أن دماغ الروبوت يحتوي على آلاف الأبعاد التي يمكن اللعب بها.
لم يكتف الفريق بالمراقبة فحسب، بل قاموا أيضاً بوخز وتحفيز الروبوت ليروا ما إذا كانت هذه الإشارة حقيقية. استخدموا تقنية تسمى "توجيه التنشيط" (activation steering)، وهي تشبه دفع الأرقام الداخلية للروبوت بلطف في اتجاه معين. عندما دفعوا الروبوت نحو اتجاه "الحقيقة"، بدأ يرتكب أخطاء أقل. وعندما دفعوه نحو اتجاه "الكذب"، بدأ يهذي (يختلق معلومات) أكثر. كما حاولوا محو الإشارة تماماً عن طريق إزالة ذلك الممر المحدد من دماغ الروبوت، وفجأة أصبح الروبوت غير قادر تماماً على التمييز بين الحقيقة والأكاذب، حيث كان أداؤه لا يتجاوز التخمين العشوائي. أثبت هذا أن الإشارة لم تكن مجرد مصادفة؛ بل كانت جزءاً ضرورياً من كيفية معالجة الروبوت للحقائق.
ومع ذلك، تحذر الورقة البحثية أيضاً من أن هذا ليس حلاً سحرياً لكل المواقف. وجد الباحثون أن "كاشف الحقيقة" الداخلي هذا يعمل بشكل رائع عندما يكون الروبوت مخادعاً – مثل عندما يذكر بثقة مفهوماً خاطئاً شائعاً. ولكن في الأسئلة العادية والمملة حيث لا يحاول الروبوت خداع أحد، فإن مخرجات الروبوت نفسها (ما يقوله بصوت عالٍ) تكون جيدة بما يكفي لمعرفة الحقيقة. تبرز الإشارة الداخلية بأقصود قوة عندما يكون الروبوت مضللاً.
هناك نتيجة أخرى مثيرة للاهتمام تتعلق بكيفية انتقال هذه الإشارات بين أنواع مختلفة من الأسئلة. إذا علمت الروبوت كيفية كشف الأكاذب في مجموعة بيانات محددة (مثل اختبار حول التاريخ)، فقد لا يتمكن من كشف الأكاذب في مجموعة بيانات أخرى (مثل اختبار حول العلوم) ما لم تدربه على كليهما في نفس الوقت. الأمر يشبه تعلم قيادة السيارة في مضمار سباق، فهذا لا يجعلك بالضرورة بارعاً في القيادة في مدينة مغطاة بالثلوج؛ أنت بحاجة لممارسة كليهما. أظهر الباحثون أنه من خلال تدريب الكاشف على مجموعات بيانات متعددة معاً، استطاعوا إنشاء "بوصلة حقيقة" عالمية تعمل عبر مواضيع مختلفة.
في النهاية، تعطينا هذه الورقة صورة أوضح لكيفية تعامل النماذج اللغوية مع الحقيقة. إنها تشير إلى أنه في أعماق هذه الآلات المعقدة، فإن الفرق بين الصواب والخطأ بسيط بشكل مدهش: إنه مجرد مسألة وقوع البيانات في أي جانب من الخط. ورغم أن هذا لا يعني أننا نستطيع فوراً إصلاح كل أكاذيب الروبوت في كل موقف، إلا أنه يثبت أن الروبوت يعرف حقاً متى يكون مخطئاً، حتى لو لم يعترف بذلك دائماً. الإشارة موجودة، وهي هندسية، وهي تنتظر من يجدها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.