Reasoning Errors Have a Region and a Direction in the Residual-Stream Trajectory of LLMs
تقترح هذه الورقة كاشفاً جديداً ثلاثي المسارات يجمع بين حركة التدفق المتبقي (residual-stream motion) مع رؤى مقيدة للموقع (منطقة خشنة واتجاه دقيق) للتمييز بدقة أكبر بين الاستدلال السليم والاستدلال المعيب في النماذج اللغوية الكبيرة، متفوقاً بذلك على طرق الإزاحة فقط وطرق السبر أحادية الطبقة الموجودة من خلال الاستفيد من إشارات الحركة المشروطة بالحالة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
المسار الخفي لآلة التفكير
تخيل أنك تحاول معرفة ما إذا كان صديقك يقول الحقيقة أم يختلق قصة في اللحظة ذاتها. لا يمكنك مجرد الاستماع إلى الجملة الأخيرة التي يقولها؛ بل عليك مراقبة كيفية تطور قصته. هل تعثر في الكلام؟ هل تغير نبرة صوته عندما وصل إلى الجزء الصعب؟ في عالم الذكاء الاصطناي، وتحديداً مع النماذج اللغوية الكبيرة (LLMs)، يواجه العلماء لغزاً مشابهاً. هذه النماذج تشبه رواة القصص الأذكياء جداً الذين يمكنهم كتابة مقالات، وحل مسائل رياضية، والإجابة على أسئلة المعلومات العامة. لكن أحياناً، تبدو واثقة من نفسها حتى عندما تكون مخطئة تماماً.
لفهم لماذا يكون النموذج صحيحاً أو خاطئاً، ينظر الباحثون داخل "دماغ" النموذج أثناء عمله. هم لا ينظرون فقط إلى الإجابة النهائية؛ بل ينظرون إلى المجرى المتبقي (residual stream). فكر في هذا كأنه حزام ناقل عالي السرعة ينقل أفكار النموذج من طبقة إلى أخرى في دماغه. وبينما يعالج النموذج جملة ما، يتغير شكل وموقع المعلومات على هذا الحزام. وقد وجد العلماء أنه إذا نظرت فقط إلى الموقع النهائي للمعلومات، فقد تخدعك أسلوب أو مفردات النموذج. ولكن إذا نظرت إلى كيفية تحرك المعلومات من طبقة إلى أخرى — أي مسارها (trajectory) — يمكنك غالباً تمييز الفرق بين حجة سليمة وأخرى معيبة. ومع ذلك، هناك عقبة: النظر إلى الحركة فقط يمكن أن يمحو أحياناً السياق اللازم لفهم سبب تلك الحركة. تستكشف هذه الورقة البحثية كيفية إيجاد هذا التوازن.
الفكرة الكبرى للورقة: تتبع "أين" و"كيف"
اكتشف الباحثان، حامد دمييرشي وفريقه من المعهد الأسترالي لتعلم الآلة وجامعة أديليد، أن محاولة الحكم على منطق النموذج من خلال النظر فقط إلى "حركته" تشبه محاولة فهم رقصة عبر مراقبة آثار أقدام الراقصين فقط، مع تجاهل المكان الذي بدأوا منه.
المشكلة في مجرد مراقبة الخطوات
حاولت الطرق السابقة اكتشاف أخطاء الاستنتاج عن طريق قياس الإزاحة (displacement) (الحركة) للحالة الداخلية للنموذج بين الطبقات. تخيل متنزهاً يترك آثار أقدامه في الثلج. إذا نظرت فقط إلى المسافة بين أثر قدمين، ستعرف كم خطوة خطا، لكنك لن تعرف ما إذا كان يمشي على حافة منحدر أو على مسار آمن. "آثار الأقدام" (الحركة) يمكن أن تخفي حقيقة أن المتنزه بدأ من مكان خطير. تجادل الورقة بأنه بينما تساعد مراقبة الحركة في تصفية بعض "الضجيج" (مثل مجرد تقليد النموذج لأسلوب السؤال)، إلا أنها تتخلص من الكثير من السياق المفيد حول الحالة الراهنة للنموذج.
الحل: محقق الثلاثة مسارات
لحل هذه المشكلة، بنى الفريق كاشفاً جديداً يعمل مثل كاميرا ذات ثلاثة أعين، تراقب عملية تفكير النموذج من ثلاث زوايا مختلفة في آن واحد:
- قارئ الحركة (الـ "كيف"): يراقب هذا المسار الإزاحة. إنه يتتبع كيف يتغير التمثيل الداخلي للنموذج من طبقة إلى أخرى. وهو بارع في رصد فعل الاستنتاج، مثل التحول المفاجئ في المنطق.
- قارئ المنطقة (الـ "أين التقريبية"): ينظر هذا المسار إلى الموقع العام. ويتساءل: "في أي حي عام من فضاء أفكار الدماغ تقبع هذه الفكرة؟". يستخدم هذا المسار تقنية تسمى تكميم المتجهات (vector quantization)، وهي تشبه تجميع مليون درجة مختلفة من اللون الأزرق في 128 وعاءً لونياً متميزاً فقط. هو لا يهتم بالدرجة الدقيقة، بل بالوعاء الذي تنتمي إليه. هذا يعطي خريطة تقريبية لمكان الفكرة دون الغرق في التفاصيل.
- قارئ الاتجاه (الـ "أين الدقيقة"): ينظر هذا المسار إلى الاتجاه الدقيق. ويتساءل: "في أي اتجاه بالضبط تشير هذه الفكرة داخل ذلك الحي؟". يقوم هذا المسار بتجريد الحجم (المقدار) من الفكرة ولكنه يحافظ على التوجه الدقيق. هذا يشبه معرفة أن الفكرة تشير إلى "شمال-شمال شرق" بدلاً من مجرد "شمال".
من خلال الجمع بين هذه الرؤى الثلاث، يحصل الكاشف على أفضل ما في العالمين: فهو يرى الحركة (التي تصفي حيل الأسلوب) ولكنه يستعيد أيضاً القدر الكافي من السياق (المنطقة والاتجاه) لفهم ما تعنيه تلك الحركة بالفعل.
ماذا وجدوا؟
اختبر الفريق كاشفهم الجديد "ثلاثي المسارات" على مجموعة متنوعة من اختبارات الاستنتاج، بما في ذلك المسائل الرياضية، والأسئلة العلمية، وألغاز المنطق الشائع. قاموا بتدريب الكاشف على مجموعة واحدة من المشكلات، ثم ألقوا به في العمق مع مشكلات مختلفة تماماً وغير مرئية سابقاً ليروا ما إذا كان بإمكانه التعميم.
النتائج: قفزة كبيرة في الدقة
كانت النتائج مبهرة. فعند مقارنته بأفضل طريقة سابقة (التي كانت تنظر فقط إلى الحركة)، حسن الكاشف الجديد دقة الاختيار بنسبة تصل إلى 12%. وعند مقارنته بالطرق القديمة التي كانت تنظر فقط إلى طبقة واحدة من الدماغ (الاستقصاء الساكن)، فقد حسن الدقة بنسبة هائلة بلغت 21%.
لكن الاكتشاف الأكثر إثارة للدهشة هو أن الكاشف تعلم شيئاً أعمق من مجرد "الاستنتاج". على الرغم من أنهم دربوه فقط على مهام الاستنتاج، أصبح الكاشف بارعاً بشكل مفاجئ في رصد الأخطاء الواقعية التي لم يرها من قبل.
- إذا حاول النموذج تزييف حقيقة (مثل تغيير كلمة واحدة في جملة صحيحة)، فإن الكاشف يكشفه.
- إذا قدم النموذج ادعاءً يتناقض مع الأدلة، فإن الكاشف يضع علامة عليه.
يشير هذا إلى أن الكاشف لا يحفظ فقط أنماط "الاستنتاج الجيد"؛ بل إنه يتعلم فعلياً رصد الفرق الجوهري بين حالة ذهنية صحيحة وأخرى خاطئة. لقد وفر مسارا "المنطقة" و"الاتجاه" إشارات متكاملة، مما يعني أنهما كانا يلتقطان أنواعاً مختلفة من الأخطاء التي فات المساران الآخران.
لماذا يهم هذا؟
تشير الورقة إلى أن صلاحية الاستنتاج تُقرأ بشكل أفضل من الحركة المشروطة بالحالة (state-conditioned motion). وباللغة البسيطة: لمعرفة ما إذا كانت الفكرة صحيحة، تحتاج إلى رؤية كيف تتحرك ومعرفة بالضبط من أين بدأت وإلى أين تشير.
وجد الباحثون أن مجرد النظر إلى الحركة (الإزاحة) كان أسلوباً فظاً للغاية، وأن النظر إلى الحالة الكاملة الخام كان مليئاً بالضجيج (حيث التقط أسلوب النموذج بدلاً من منطقه). لقد وجد نهجهم "ثلاثي المسارات" النقطة المثالية؛ فقد استعاد القدر الكافي من السياق لجعل الحركة منطقية دون السماسة بترك الكاشف يتشتت بمفردات النموذج أو حيل التنسيق.
في النهاية، تظهر الورقة أنه يمكننا بناء "أجهزة كشف كذب" أفضل للذكاء الاصطناعي من خلال فهم أن الفكرة ليست مجرد نقطة ثابتة، ولا مجرد حركة، بل هي رحلة ذات نقطة بداية محددة واتجاه محدد. ومن خلال مراقبة الرحلة بعدسات ثلاث مختلفة، يمكننا معرفة ما إذا كان الذكاء الاصطناعي يفكر بوضوح أم أنه يختلق الأمور فحسب.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.