Decoding Future Semantics from Language Model Hidden States: Rollout Trade-offs and Causal Steering
تُظهر هذه الدراسة أن المجسات الخطية يمكنها استخراج المعلومات الدلالية المستقبلية من الحالات الخفية للنماذج اللغوية، مما يكشف عن مقايضة حيث تعتمد فعالية هذا القراءة المباشرة مقابل التمدد التوليدي الذاتي على فضاء التضمين، وأفق التوليد، والقدرة المتأصلة على التنبؤ بالمنبه.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تعمل برامج الكمبيوتر الحديثة التي تكتب النصوص، والمعروفة باسم النماذج اللغوية، من خلال التنبؤ بكلمة واحدة في كل مرة. فهي تنظر إلى الكلمات التي قدمتها لها وتخمن الكلمة التالية، ثم تستخدم تلك الكلمة الجديدة لتخمين الكلمة التي تليها، لتبني جملة خطوة بخطوة. ولفترة طويلة، افترض العلماء أن هذه البرامج لا تعرف عن المستقبل إلا بقدر ما يسمح به تخمينها التالي. ومع ذلك، يشير دراسة جديدة إلى أنه داخل الآلية الرياضية المعقدة لهذه النماذج، يوجد طبقة خفية من المعلومات التي تحتوي بالفعل على المعنى العام لما أوشك الكمبيوتر على قوله، قبل وقت طويل من كتابة كلمة واحدة فعلياً. يستكشف هذا البحث ما إذا كانت هذه الحالات الحاسوبية الداخلية تحمل "معاينة" للنص المستقبلي، ومدى وضوح هذه المعاينة مقارنة بمجرد قراءة النص المدخل (البرومبت)، وما إذا كان معرفة هذه المعاينة يسمح لنا بتغيير ما يكتبه الكمبيوتر.
وضع الباحث، جيكول تشوي من جامعة هانكوك للدراسات الأجنبية، نصب عينيه اختبار هذه الفكرة باستخدام عدة نسخ مختلفة من النماذج اللغوية الشهيرة. وقد ركزوا على اللحظة التي تسبق مباشرة بدء الكمبيوتر في توليد جملة جديدة. في هذه اللحظة تحديداً، يكون النموذج قد عالج مدخلات المستخدم ويحتفظ بتمثيل داخلي محدد، وهو نمط معقد من الأرقام يلخص كل ما فهمه حتى الآن. طرح الفريق سؤالاً بسيطاً: إذا نظرت إلى هذا النمط الداخلي، هل يمكنك معرفة الموضوع العام أو الشعور للجملة القادمة، رغم أن الجملة لم تُكتب بعد؟ وللتحقق من ذلك، قاموا بتدريب أداة بسيطة لقراءة هذه الأنماط الداخلية وترجمتها إلى ملخص للنص المستقبلي. وقارنوا هذه الطريقة بطرق أخرى لتخمين المستقبل، مثل ترك الكمبيوتر يكتب بضع كلمات أولاً، أو محاولة التنبؤ بالمستقبل بناءً على المدخلات الأصلية فقط دون النظر داخل عقل الكمبيوتر.
وجدت الدراسة أن الإجابة هي نعم. فالأنماط الداخلية للنموذج تحتوي بالفعل على خريطة يمكن الوصول إليها خطياً لمعنى النص المستقبلي. فعندما نظر الباحثون إلى الحالة الداخلية للكمبيوتر قبل أن يولد جملة، تمكنوا بنجاح من التنبؤ بالمحتوى الدلالي العام لتلك الجملة. وكان هذا صحيحاً عبر أحجام وهياكل نماذج مختلفة، من النماذج الصغيرة التي تحتوي على مئات الملايين من المعلمات إلى النماذج الأكبر التي تحتوي على مليارات منها. وكانت القدرة على قراءة هذا المعنى المستقبلي أقوى في الطبقات الأعمق من شبكة المعالجة الحاسوبية. ومع ذلك، اعتمد وضوح هذه المعاينة بشكل كبير على كيفية تعريف الباحثين لـ "المعنى". فعندما استخدموا طريقة محددة لقياس المعنى، كانت المعاينة الداخلية أفضل بكثير من مجرد التخمين بناءً على المدخلات وحدها. ولكن عندما استخدموا طرقاً أخرى لقياس المعنى، كانت ميزة النظر داخل عقل الكمبيوتر أصغر بكثير، وأحياناً بالكاد يمكن تمييزها عما يمكن تخمينه بمجرد النظر إلى الكلمات الابتدائية.
كما قارن الباحثون بين طريقة "المعاينة الداخلية" هذه وبين الاستراتيجية الأكثر وضوحاً وهي ترك الكمبيوتر يكتب بضع كلمات أولاً. فإذا تركت الكمبيوتر يولد ثلاث أو خمس كلمات، فإنك تحصل بطبيعة الحال على صورة أوضح للمسار الذي تتجه إليه الجملة مما لو حاولت التخمين من الحالة الخفية فقط. وهذا ليس مستغرباً، لأن الكمبيوتر قد أنجز بالفعل مهمة كتابة تلك الكلمات. ومع ذلك، كشفت الدراسة عن مقايضة مثيرة للاهتمام؛ فكلما زاد طول الجملة المستهدفة وابتعد المستقبل أكثر، تضاءلت ميزة ترك الكمبيوتر يكتب المزيد من الكلمات. فإذا كان الهدف هو فهم معنى جملة تبعد 256 كلمة، فإن المعاينة الداخلية تصبح تنافسية بشكل مفاجئ مع ترك الكمبيوتر يكتب مقدمة قصيرة. توفر الحالة الداخلية وسيلة للحصول على تصور عن المستقبل البعيد دون التكلفة الحسابية لتوليد كل تلك الكلمات الوسيطة، وإن كانت لا تتفوق أبداً بشكل كامل على دقة توليد تسلسل طويل فعلياً.
ولعل الجزء الأكثر إثارة للاهتمام في البحث تضمن اختبار ما إذا كان يمكن استخدام هذه المعرفة لتغيير سلوك الكمبيوتر. فقد أخذ الباحث الاتجاه في الحالة الداخلية الذي يشير نحو شعور معين، مثل الإيجابية أو السلبية، وحاول دفع الكمبيوتر في ذلك الاتجاه قبل أن يبدأ الكتابة. ووجدوا أن هذا "الدفع" قد نجح بالفعل. فمن خلال تعديل الحالة الداخلية بناءً على تنبؤاتهم، استطاعوا تغيير نبرة النص المولد بشكل أكثر فعالية من إجراء تعديلات عشوائية. ومع ذلك، لم يكن هذا النجاح موحداً عبر جميع أجزاء عقل الكمبيوتر. ففي بعض النماذج، كانت الطبقة التي يسهل فيها قراءة المعنى المستقبلي هي أيضاً أفضل مكان لإجراء التغييرات. وفي نماذج أخرى، لم يتطابق هذان الأمران على الإطلاق؛ حيث كانت الطبقة التي تظهر أوضح معاينة للمستقبل أحياناً هي المكان الخاطئ للتدخل لتغيير النتيجة. بل في بعض الحالات، أدى محاولة تغيير النص في الطبقة ذات المعاينة الأقوى إلى دفع الكمبيوتر في الاتجاه المعاكس لما كان مقصوداً.
تشير هذه النتائج إلى أنه بينما تحمل النماذج اللغوية معلومات حول مخرجاتها المستقبلية داخل حالاتها الداخلية، فإن هذه المعلومات ليست نصاً مكتوباً مسبقاً ينتظر القراءة. بدلاً من ذلك، هي إشارة معقدة ومتعددة الطبقات يسهل الوصول إليها في بعض أجزاء الشبكة أكثر من غيرها. وتوضح الدراسة أن مجرد قدرة الكمبيوتر على "رؤية" المعنى المستقبلي لكلماته لا يعني أنه يقوم بحوسبة الرد كاملاً مسبقاً. كما تسلط الضوء على أن القدرة على قراءة إشارة ما تختلف عن القدرة على التحكم فيها؛ فالقدرة على التنبؤ بالمستقبل والقدرة على توجيه المستقبل هما قدرتان مرتبطان ولكن متميزتان، ولا يحدثان دائماً في نفس المكان داخل النموذج. يوفر هذا العمل خريطة أوضح لكيفية تنظيم هذه الأنظمة الذكية للمعلومات المتعلقة بما أوشكت على قوله، موضحاً أن حالاتها الداخلية أغنى بالبيانات المتطلعة للمستقبل مما كان مفهوماً سابقاً، ولكنها أيضاً أكثر تعقيداً في الاستخدام للتحكم مما قد يوحي به مجرد عرض بسيط للبيانات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.