Prompt-Model Interaction Reaches the Fixed Points: A deterministic, task-free structural readout -- and the factorizations of it that failed
تُظهر هذه الورقة أن التفاعلات بين المطالبة والنموذج تتقارب نحو بنية نقطة ثابتة حتمية وخالية من المهام ضمن نوافذ زمنية قصيرة، مما يكشف أن هذه الظاهرة مدفوعة بالزوج المحدد المكون من المطالبة والنموذج بدلاً من أداء المهمة أو العوامل المقترحة مثل طول البادئة أو بالوعات الانتباه.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي، غالبًا ما تُعامل النماذج اللغوية الكبيرة كأدوات عالمية: تسأل سؤالاً، فتقدم لك إجابة. لسنوات، عرف الباحثون أن الطريقة التي تطرح بها ذلك السؤال —الكلمات المحددة، أو التنسيق، أو الأسلوب— يمكن أن تغير النتيجة بشكل جذري. فالطلب (prompt) الذي قد يجعل نموذجاً واحداً يبدو عبقرياً قد يجعل نموذجاً آخر يبدو أحمق، وحتى التغييرات الصغيرة عديمة المعنى في النص يمكن أن تعيد ترتيب التصنيفات حول النموذج "الأفضل". هذه الظاهرة، المعروفة باسم "التفاعل بين الطلب والنموذج"، وُثقت جيداً في مهام مثل حل المسائل الرياضية أو كتابة الأكواد البرمجية. ومع ذلك، ظل هناك لغز مستمر: هل تنتمي هذه الحساسية إلى الآلية المعقدة التي يستخدمها النموذج لأداء المهام، أم أنها خاصية جوهرية لكيفية معالجة النموذج للمعلومات نفسها؟ وللإجابة على ذلك، كان على العلماء مراقبة النموذج عندما لا يحاول القيام بأي شيء على الإطلاق. كانوا بحاجة لمراقبة الآلة في حالة من الوجود الخالص الخالي من المهام، مجردة من التعليمات، أو الأهداف، أو الضغط ليكون صحيحاً.
قام فريق من الباحثين المستقلين بالتحقيق في هذا الأمر عن طريق إزالة المهمة تماماً. وبدلاً من مطالبة النموذج بحل مشكلة، قاموا بتغذيته بتسلسل نصي قصير وراقبوا ما يحدث عندما يُجبر النموذج على التنبؤ بالكلمة التالية، ثم الكلمة التي تليها، في حلقة مستمرة. ولأن النموذج لم يكن يختار عشوائياً بل كان يتبع قاعدة حتمية صارمة لاختيار الكلمة التالية الأكثر احتمالاً، كانت العملية تشبه كرة تتدحرج أسفل تلة حتى تستقر في وادٍ. في بعض الحالات، كانت الكرة تتدحرج إلى وادٍ واحد مستقر وتظل هناك للأبد؛ وفي حالات أخرى، قد تعلق في حلقة مفرغة أو تتجول بلا هدف. قاس الباحثون عدد المرات التي استقرت فيها تنبؤات النموذج في تلك الحالة المستقرة، وهو مقياس أطلقوا عليه اسم "كسر النقطة الثابتة" (fixed-point fraction). ثم اختبروا كيف يتغير هذا السلوك عند إضافة بادئة نصية قصيرة —تسع كلمات أو رموز فقط— قبل بدء التسلسل. كان الهدف بسيطاً: معرفة ما إذا كان القليل من النص الإضافي يمكن أن يغير مسار النموذج الداخلي بشكل جوهري، حتى عندما لا يحاول النموذج تحقيق أي شيء.
كانت النتائج مذهلة وتحدت توقعات الباحثين الخاصة. فقد وجدوا أن التفاعل بين الطلب والنموذج يصل إلى هذا القراءة الخالية من المهام بكامل قوته. كان إضافة تسعة رموز فقط من نص التكييف كافياً لتحريك القراءة المقاسة عبر كامل نطاقها الممكن تقريباً. فبالنسبة لبعض النماذج، حول هذا الإضافة الصغيرة نمط التنبؤ الفوضوي والمتجول إلى نمط مستقر تماماً. وبالنسبة لأخرى، فعل العكس تماماً، حيث دمر نمطاً كان مستقراً سابقاً وأرسل التنبؤات في حلقة مفرغة. كان التأثير قوياً لدرجة أنه يمكن أن يغير التصنيف الهيكلي لسلوك النموذج بالكامل. ولوضع هذا في المنظور، قارن الباحثون هذه الإزاحة بتأثير "ضبط التعليمات" (instruction tuning)، وهي عملية تدريب ضخمة ترفع عادةً أداء النموذج في المعايير القياسية بأكثر من ستين نقطة. وبينما حرك هذا التدريب المكثف أداء المهمة بشكل كبير، إلا أنه ترك هذه القراءة الهيكلية المحددة دون تغيير تماماً. في المقابل، كان بإمكان بادئة مكونة من تسع كلمات فقط أن تقلب سلوك النموذج من أحد الأطراف المتطرفة إلى الآخر. أثبت هذا أن التفاعل بين الطلب والنموذج ليس مجرد نزوة في كيفية اتباع النماذج للتعليمات؛ بل هو حقيقة هيكلية عميقة حول كيفية قراءة النموذج لقصاصة نصية.
حاول الباحثون بعد ذلك تفسير سبب حدوث ذلك، وطرحوا خمسة تفسيرات مرشحة (factorizations) بدت منطقية. تساءلوا عما إذا كان طول النص المضاف هو السبب، أو ما إذا كان المحتوى —سواء كان نثراً عادياً أو كوداً برمجياً منسقاً— هو المحرك. كما نظروا فيما إذا كان التأثير عالمياً، بمعنى أنه يدفع النماذج دائماً في نفس الاتجاه، أو إذا كان سمة خاصة لأنواع معينة من النماذج، مثل تلك المدربة على اتباع التعليمات. اختبروا هذه الأفكار بصرامة، بدءاً بمجموعات صغيرة من النماذج ثم وسعوا عيّنتهم لتشمل بنيات وأنواع نصوص أكثر تنوعاً. فشلت التفسيرات المرشحة الخمسة جميعها تحت توسيع العينة. لم يكن التأثير يتعلق ببساطة بطول النص؛ ففي الواقع، لم تكن العلاقة سلسة أو متوقعة، حيث تفاعلت بعض النماذج بجنون مع كلمة إضافية واحدة بينما تجاهلتها نماذج أخرى. كما فشل محتوى النص أيضاً في تفسير النمط؛ فما نجح مع نموذج واحد غالباً ما فشل مع نموذج آخر، واتجاه التغيير انقلب اعتماداً على الاقتران المحدد بين النص والنموذج. وحتى فكرة أن النماذج المدربة على التعليمات ستقاوم هذه التغييرات ثبت خطؤها عندما اختبروا مجموعة أوسع من النصوص.
ما تبقى بعد فشل هذه التفسيرات المرشحة الخمسة هو واقع بسيط وعنيد: التأثير ينتمي إلى الزوج المكون من (الطلب والنموذج) معاً، وليس لأي منهما بشكل فردي. فبادئة ثابتة واحدة مكونة من تسع كلمات يمكن أن تدفع أربعة نماذج مختلفة نحو حالة من الاستقرار التام بينما تدفع نموذجين آخرين نحو الفوضى التامة. النص نفسه الذي جعل تنبؤات أحد النماذج تنغلق في مكانها تسبب في انهيار نموذج آخر. وقد صمد هذا السلوك حتى عندما استخدم الباحثون نصوصاً شائعة في العالم الحقيقي، مما أثبت أنه ليس مجرد نتاج لاستخدام كلمات غريبة أو عشوائية. كما نظر الباحثون في الميكانيكا الداخلية للنماذج، وتحديداً في مقدار الانتباه الذي يوليه النموذج لأول رمز (token) في التسلسل. اقترحت نظرية شائعة أن رموز البداية تعمل كـ "بالوعة" (sink)، تمتص تركيز النموذج وتملي النتيجة. ومع ذلك، عندما قاسوا ذلك، فشلت النظرية في التنبؤ باتجاه التغيير. ففي بعض النماذج، زادت بالوعة الانتباه وزاد الاستقرار؛ وفي نماذج أخرى، زادت بالوعة الانتباه لكن الاستقرار انهار. لقد كانت التفسير الميكانيكي صحيحاً بالنسبة للنصوص الواقعية، لكنه انهار تماماً بالنسبة للمدخلات العشوائية المستخدمة في اختبارهم، مما يشير إلى أن الباحثين كانوا يعملون خارج النطاق الذي تنطبق فيه تلك النظرية الميكانيكية.
تخلص الدراسة إلى أن وحدة التفسير لهذه الظاهرة هي زوج (الطلب والنموذج) نفسه. لا توجد قاعدة واحدة حول طول النص، أو المحتوى، أو نوع النموذج يمكنها التنبؤ بكيفية استجابة نموذج معين لطلب معين. وجد الباحثون أن محاولاتهم لإيجاد قاعدة عالمية غالباً ما تعثرت بسبب خطأ دقيق: تطبيق معيار صارم على كمية لا مجال لتغيرها. فعلى سبيل المثال، اعتقدوا في البداية أنهم وجدوا اتجاهاً عالمياً حيث تتحرك جميع النماذج بنفس الطريقة، ليكتشفوا لاحقاً أن حجم عينتهم الصغير قد أخفى الاستثناءات. ومن خلال توسيع عيناتهم ورفض قبول الأنماط التي لا يمكن أن تفشل، ضمنوا أن تكون نتائجهم صادقة. الصورة النهائية هي صورة من الخصوصية العميقة. إن الطريقة التي يقرأ بها النموذج قصاصة نص ليست خاصية عامة للنموذج، ولا هي خاصية عامة للنص. إنها تفاعل فريد ينشأ فقط عندما يلتقي ذلك النص المحدد بذلك النموذج المحدد. ويدعو الباحثون المجتمع العلمي لمواصلة الاختبار، وحتى ينجح تفسير مرشح جديد في الصمود أمام نفس عملية التوسيع الصارمة، يظل الجواب هو أن التفاعل هو حدث خاص بالزوج، ومقاوم للتصنيف البسيط.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.