Geometric and Behavioral Stratification in Transformer Residual Streams
تحدد هذه الورقة اتجاه التنبؤ بوصفه مرساة مميزة محددة بالمحتوى في مسارات المتبقيات (residual streams) لنموذج المحول (transformer)، والتي تعمل على تقسيم الحوسبة عالية الأبعاد هندسيًا وسلوكيًا إلى واجهة ضيقة ومنظمة قريبة من التنبؤ، ومكمل شاسع يعتمد على المقياس، مما يكشف كيف يتعايش الاستقراء الخطي مع التمثيلات الداخلية المعقدة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول فهم كيف يعمل عقل روبوت عملاق وفائق الذكاء. هذا العقل مبني من نوع من التكنولوجيا تسمى "المحول" (Transformer)، وهي المحرك الذي يقف وراء العديد من روبوتات الدردشة وأدوات الكتابة التي نستخدمها اليوم. هذه الروبوتات لا تفكر مثل البشر؛ بل تعالج المعلومات من خلال "تيار متبقٍ" (residual stream) ضخم وعالي الأبعاد. فكر في هذا التيار كأنه نهر عملاق ومتدفق من الأرقام يتدفق عبر طبقات الروبوت. وعند كل خطوة، يضيف الروبوت معلومات جديدة إلى هذا النهر، وفي النهاية، يتعين عليه أن يقرر الكلمة التالية التي سيقولها.
لفترة طويلة، اعتقد العلماء أنه إذا جعلوا الروبوت أكبر (عن طريق إضافة المزيد من المعلمات أو جعل النهر أكثر اتساعاً)، فإن طريقة اتخاذه للقرار ستصبح فقط أكبر وأكثر تعقيداً بنفس الطريقة. افترضوا أن جزء "اتخاذ القرار" في الدماغ سيتوسع ليشغل كل المساحة الجديدة. لكن هذا البحث الجديد يطرح سؤالاً مختلفاً: ماذا لو كان الروبوت يبقي قناة اتخاذ القرار لديه ضيقة وثابتة، بينما يستخدم المساحة الإضافية لأشياء أخرى تماماً؟ يحاول المؤلف في الأساس رسم خريطة جغرافية لهذا النهر ليرى أين يحدث "التفكير الحقيقي" وأين يقوم الروبوت فقط بتخزين ملاحظاته. يريد أن يعرف ما إذا كانت الخريطة الداخلية للروبوت منظمة بشكل عشوائي أم أنها تتبع قاعدة خاصة وخفية.
الاكتشاف الكبير للورقة البحثية: "مرساة التنبؤ"
في هذه الدراسة، نظر الباحثون نيلسون غودا وزملاؤه في 18 نموذجاً مختلفاً للذكاء الاصطناعي، تتراوح من النماذج الصغيرة (7 مليارات معلمة) إلى الضخمة (120 مليار معلمة). أرادوا معرفة كيف تنظم هذه النماذج "نهرها" الداخلي من البيانات. واكتشفوا أن النماذج لا تطفو بشكل عشوائي؛ بل تنظم كل شيء حول هدف محدد للغاية ومتغير: اتجاه التنبؤ.
تخيل أن الروبوت يحاول تخمين الكلمة التالية في جملة ما. لديه "هدف" في ذهنه — وهو الاتجاه المحدد في دماغه الذي يشير إلى تلك الكلمة. وجد الباحثون أن الروبوت يعامل هذا الهدف كمرساة خاصة. كل شيء في دماغه يُقاس بالنسبة لهذه المرساة.
"الباب الضيق" مقابل "المستودع الضخم"
النتيجة الأكثر إثارة للدهشة هي أن الجزء من الدماغ الذي يقرر الكلمة التالية فعلياً هو صغير جداً ويبقى ثابتاً في الحجم، بغض النظر عن مدى كبر حجم الروبوت. يطلق المؤلف على هذا الجزء اسم واجهة التنبؤ (prediction interface).
- التشبيه: تخيل مستودعاً ضخماً متعدد الطوابق (دماغ النموذج). داخل هذا المستودع، يوجد باب صغير وضيق (واجهة التنبؤ) يؤدي إلى العالم الخارجي (الكلمة التالية).
- النتيجة: سواء كان المستودع بحجم منزل أو بحجم مدينة، فإن ذلك الباب يظل بنفس الحجم تماماً. وجد الباحثون أن هذا "الباب" يستخدم حوالي 4 إلى 10 أبعاد فقط (شريحة ضئيلة من المساحة الإجمالية للدماغ).
- بقية الدماغ: بقية المستودع — "المتمم البعيد عن التنبؤ" (prediction-distal complement) — ضخم جداً. ومع زيادة حجم النماذج، يكبر هذا المستودع أكثر فأكثر، لكن الباب لا يكبر. المساحة الإضافية لا تُستخدم لجعل الباب أعرض، بل تُستخدم لبناء منطقة تخزين ضخمة حول الباب.
لماذا هذا مهم: لعبة "الإشارة مقابل الضجيج"
لماذا يحتفظ الروبوت بباب صغير كهذا؟ تقترح الورقة البحثية أن الأمر يتعلق بالحفاظ على وضوح الإشارة. إذا كان الباب واسعاً وفوضوياً، فستختلط كل الضوضاء القادمة من المستودع الضخم مع القرار. ومن خلال إبقاء الباب ضيقاً والمستودع ضخماً، يمكن للروبوت إجراء كل حساباته المعقدة في المستودع، لكنه يسمح فقط لـ "الإشارة" الواضحة والنقية بالمرور عبر الباب الضيق لاتخاذ قراره.
وجد الباحثون أن "المستودع" (المتمم) يقوم بالكثير من العمل الشاق. حتى وإن كان بعيداً عن باب القرار، فإذا عبثت باتجاه البيانات في المستودع، فإن مخرجات الروبوت ستصبح مجنونة فوراً. ومع ذلك، إذا جعلت البيانات في المستودع أصغر (دون تغيير اتجاهها)، فسيكون الروبوت بخير. هذا يشير إلى أن الروبوت يهتم بـ أين تشير البيانات، وليس بـ حجم تلك البيانات.
لغز "مناهضة التكتل"
هناك التواء غريب وجده الباحثون. عندما نظروا في كيفية تجميع الروبوت للمطالبات المتشابهة (مثل الأسئلة حول الرياضيات مقابل الأسئلة حول التاريخ)، توقعوا أن يكون "المستودع" فوضوياً وغير منظم. بدلاً من ذلك، وجدوا شيئاً غريباً: المستودع يفعل عكس ما تتوقعه تماماً.
- الباب (واجهة التنبؤ): هذا الجزء جيد جداً في التمييز بين المجموعات المختلفة من المطالبات. فهو يبقي أسئلة الرياضيات بعيدة تماماً عن أسئلة التاريخ.
- المستودع (المتمم): هذا الجزء "مناهض للتمييز". إنه في الواقع يدفع المطالبات من نفس المجموعة بعيداً عن بعضها البعض، ويجذب المطالبات من مجموعات مختلفة لتقترب من بعضها.
فكر في الأمر كأنه حفلة. "الباب" هو الحارس الذي يفحص الهويات ويفصل كبار الشخصيات (VIP) عن الزوار العاديين. أما "المستودع" فهو ساحة الرقص. على ساحة الرقص، قد يرقص كبار الشخصيات في دائرة فوضوية، بينما يتجمع الزوار العاديون معاً. يبدو أن المستودع يقوم بنوع خاص من عملية التوازن لضمان أنه حتى لو رأى "الباب" أشياء مختلفة، فإن النتيجة النهائية (الكلمة التالية) لا تزال منطقية.
"إطار المهمة" مقابل "سير الأحداث"
اختبر الباحثون أيضاً ماذا يحدث عندما "يخلطون" أجزاء مختلفة من الدماغ. ووجدوا تسلسلاً هرمياً واضحاً في كيفية سلوك الروبوت:
- طبقة "الموقف" (الأقرب إلى الباب): إذا عبثت بالجزء القريب من باب القرار، فإن الروبوت ينسى فوراً ما كان ينبغي عليه فعله. قد يتوقف عن كتابة قصة ويبدأ في تقديم نصائح قواعد لغوية، أو يتحول من كونه مساعداً مفيداً إلى ناقد غاضب. إنه يغير "إطار" المحادثة فوراً.
- طبقة "المسار" (أبعد قليلاً): إذا عبثت بالطبقة التالية، فسيحتفظ الروبوت بنفس الإطار (سيظل مساعداً مفيداً)، لكنه سيغير "محتوى" القصة. قد يبدأ في التحدث عن قطة بدلاً من كلب، لكنه لا يزال يروي قصة.
- الطبقة "الديناميكية" (الجزء المتحرك): وجد الباحثون أيضاً أن المستودع الضخم يحتوي على جزء "ثابت" (مثل السقالات الدائمة) وجزء "ديناميكي" (مثل الغلاف المتحرك الذي يتحدث كل ثانية). إذا قمت بتجميد الجزء الديناميكي ولم تسمح له بالتحديث، فسينهار الروبوت فوراً. إنه يحتاج إلى هذا التحديث المستمر لمواصلة توليد النصوص.
ماذا يعني هذا للمستقبل
تشير الورقة البحثية إلى أنه مع زيادة حجم نماذج الذكاء الاصطناعي وذكائها، فإنها لا تصبح "أعرض" في اتخاذ قرارها. بدلاً من ذلك، تصبح أفضل في حشد حسابات أكثر تعقيداً داخل المستودع الضخم المحيط بذلك الباب الثابت الصغير.
هذا يغير كيفية تقييمنا لهذه النماذج. إذا نظرنا فقط إلى الإجابة النهائية (ما يخرج من الباب)، فقد نفوت 99% مما يفعله النموذج حقاً داخل المستودع. يمكن للنموذج أن يقوم بعمليات استدلال معقدة للغاية في ذلك الفضاء المخفي الضخم، ولكن لأن الباب ضيق للغاية، لا يمكننا رؤيتها. تقترح المؤلفة أنه لفهم الذكاء الاصطناعي حقاً، نحتاج إلى النظر داخل المستودع، وليس فقط عند الباب.
باختصار، تكشف الورقة البحثية أن عقول الذكاء الاصطناعي العملاة هذه منظمة مثل حصن له بوابة صغيرة وثابتة. السحر يحدث في الفناء الواسع والمخفي خلف البوابة، حيث يتم العمل الحقيقي، والبوابة نفسها تضمن فقط أن تخرج الرسالة النهائية واضحة ونقية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.