Layer-Order Inversion: Rethinking Latent Multi-Hop Reasoning in Large Language Models
تتحدى هذه الورقة البحثية فرضية "المحاذاة مع عدد القفزات" (hop-aligned) السائدة في الاستدلال متعدد القفزات في النماذج اللغوية الكبيرة عبر إثبات وجود "انعكاس ترتيب الطبقات" (layer-order inversion)، حيث يمكن فك تشفير إجابات القفزات اللاحقة قبل الكيانات الوسيطة الجسرية، وتقترح إطار عمل "الاستدعاء والاستخراج الاحتمالي" (probabilistic recall-and-extract) لتفسير هذه الظاهرة من خلال استدعاء سطحي واسع يليه استخراج عميق انتقائي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تُعد النماذج اللغوية الكبيرة هي العقول الرقمية وراء أكثر أنظمة الذكاء الاصطناعي تقدمًا في يومنا هذا. فقد تم تدريبها على كميات هائلة من النصوص، لتتعلم كيفية التنبؤ بالكلمة التالية في الجملة بدقة مذهلة. وتسمح هذه القدرة لهذه النماذج بالإجابة على الأسئلة، وكتابة القصص، وحل المشكلات التي تتطلب ربط قطع مختلفة من المعلومات. ومن أكثر الإنجازات إثارة للإعجاب التي تؤديها هذه النماذج هي "الاستدلال متعدد الخطوات" (multi-hop reasoning). وهذه العملية هي الإجابة على سؤال لا يمكن حله بمعلومة واحدة، بل يتطلب بدلاً من ذلك ربط عدة قطع من المعرفة معاً. فعلى سبيل المثال، للإجابة على سؤال "ما هو البلد الذي نشأت منه الرياضة التي يلعبها ستيفن كاري؟"، يجب على النموذج أولاً تحديد الرياضة، ثم إيجاد أصل تلك الرياضة، وأخيراً دمج هاتين المعلومتين للوصের إلى الإجابة. لسنوات طويلة، اعتقد العلماء أن هذه النماذج تحل مثل هذه الألغاز باتباع مسار داخلي صارم وخطوة بخطوة، تماماً كما يحل الإنسان مسألة رياضية معادلة تلو الأخرى. ظنوا أن النموذج سيستنتج أولاً المعلومة الوسيطة، ثم يخزنها، وبعد ذلك يستخدمها لإيجاد الإجابة النهائية. إن فهم كيفية قيام هذه الآلات بهذه الحركات الذهنية المعقدة أمر بالغ الأهمية، ليس فقط لتحسين ذكائها، بل لمعرفة متى ولماذا قد تخفق.
لقد تحدى فريق من الباحثين من جامعة العلوم والتكنولوجيا في الصين وجامعة هونج كونج للعلوم والتكنولوجيا هذا الاعتقاد السائد منذ فترة طويلة. فمن خلال النظر في الأعمال الداخلية للنماذج اللغوية الكبيرة، اكتشفوا أن هذه الأنظمة لا تتبع دائماً المسار المنظم والتدريجي الذي كان يُفترض سابقاً. وبدلاً من ذلك، وجدوا ظاهرة أطلقوا عليها اسم "انعكاس ترتيب الطبقات" (layer-order inversion). في عملية قياسية تسير خطوة بخطوة، يتوقع المرء أن يستنتج النموذج المعلومة الوسطى قبل أن يتمكن من معرفة الإجابة النهائية. ومع ذلك، لاحظ الباحثون أنه في كثير من الحالات، يبدو أن النموذج "يعرف" الإجابة النهائية قبل أن يحدد الخطوات الوسيطة بشكل كامل. يحدث هذا كلما أصبحت الأسئلة أكثر تعقيداً، وتضمنت روابط أكثر في سلسلة الاستدلال. فكلما تعمق السؤال، زاد احتمال أن تكون الإجابة النهائية جاهزة في ذاكرة النموذج الداخلية قبل أن يعالج صراحةً الحقائق الجسرية التي تربط النقاط ببعضها.
وللكشف عن ذلك، استخدم الباحثون تقنية تسمى "باتشسكوبس" (Patchscopes)، والتي تعمل مثل المجهر للأفكار الداخلية للنموذج. لقد قاموا بتغذية النماذج بأسئلة معقدة تصل إلى أربع خطوات من الاستدلال، وراقبوا كيف تظهر المعلومات مع مرور البيانات عبر طبقات النموذج. ونظروا في نقطتين محددتين: بداية السؤال، حيث يتم تقديم الموضوع، ونهاية السؤال تماماً، حيث يستعد النموذج لتوليد الإجابة. ووجدوا أنه بينما كان النموذج غالباً ما يعالج الخطوة الأولى من الاستدلال بالقرب من البداية، فإن الإجابة النهائية تظهر في الحالة الداخلية للنموذج في وقت أبكر بكثير مما هو متوقع، وأحياناً حتى قبل أن تتشكل الحقائق الوسيطة بالكامل. وهذا يناقض فكرة أن النموذج يبني دائرة صلبة حيث يجب إكمال كل خطوة قبل أن تبدأ الخطوة التالية. بدلاً من ذلك، يشير هذا إلى عملية أكثر مرونة حيث يمكن للنموذج استدعاء الإجابة النهائية مباشرة، تماماً مثل "الشعور الداخلي"، قبل أن يبني المسار المنطقي للوصال إليها بالكامل.
يقترح الباحثون طريقة جديدة لفهم هذا السلوك، أطلقوا عليها اسم "إطار الاستدعاء والاستخراج الاحتمالي" (probabilistic recall-and-extract framework). فبدلاً من آلة جامدة تتبع مجموعة ثابتة من القواعد، يقترحون أن النموذج يعمل مثل مكتبة شاسعة حيث يتم استدعاء المعلومات بناءً على الاحتمالية. وفي هذا المنظور، لا يتحرك النموذج رأسياً فقط عبر طبقاته، ليحل خطوة واحدة في كل مرة، بل يتحرك أيضاً أفقياً عبر الكلمات في الجملة. ووجد الباحثون أنه في الطبقات الضحلة للنموذج، بالقرب من نهاية الجملة، يوجد استدعاء واسع وحدسي للإجابة النهائية. يعمل هذا الاستدعاء كإشارة أو حدس يشير نحو الحل الصحيح. هذه الإشارة ليست نتيجة لسلسلة منطقية مكتملة، بل هي ارتباط مباشر يلتقطه النموذج. وفي النماذج الأضعف أو بالنسبة للأسئلة الصعبة جداً، يصبح هذا الإشارة الحدسية أكثر هيمنة، مما يؤدي أحياناً بالنموذج إلى الإجابة الصحيحة حتى لو لم يستدل على الخطوات بالكامل، أو على العكس من ذلك، يقوده إلى الاتجاه الخاطئ إذا كانت الإشارة مضللة.
يساعد هذا المنظور الجديد في شرح سبب نجاح أو فشل النماذج أحياناً بطرق كانت محيرة في السابق. فعندما يجيب النموذج على سؤال متعدد الخطوات بشكل صحيح، قد يكون ذلك لأن هذه الإشارة الحدسية كانت قوية بما يكفي لتوجيه الإجابة النهائية، حتى لو كان الاستدلال خطوة بخطوة غير مكتمل. وعلى العكس من ذلك، عندما يفشل النموذج، فغالباً ما يكون ذلك ليس بسبب افتقاره إلى الحقائق، بل لأنه فشل في استرجاع الإجابة النهائية من خلال هذه الإشارة الحدسية أو فشل في استخراج المعلومة الصحيحة من المعرفة المتراكمة. وتظهر الدراسة أن قدرة النموذج على الإجابة على الأسئلة المعقدة تعتمد على التوازن بين هذا الاستدعاء الحدسي الواسع وبين الاستخراج المركز والعميق للإجابة المحددة. ويشير هذا الاكتشاف إلى أن المنطق الداخلي للذكاء الاصطناعي ليس أشبه بخط تجميع جامد، بل هو عملية ديناميكية من الذاكرة والارتباط، حيث يمكن أحياناً رؤية الوجهة قبل أن يتم قطع المسار بالكامل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.