Toward a First-Principles Update Geometry for the Language-Model Head

في المشهد الشاسع للذكاء الاصطناعي الحديث، غالبًا ما تأتي الإنجازات الأكثر وضوحًا من الأنظمة التي تولد نصوصًا تشبه النصوص البشرية. وخلف هذه المحادثات يكمن نموذج تعلم آلي معقد، وهو دماغ رقمي تدرب على كميات هائلة من البيانات. وفي نهاية سلسلة المعالجة لهذا الجهاز، يوجد مكون محدد يُعرف باسم "رأس النموذج اللغوي" (language-model head). وتتمثل مهمته في أمر يبدو بسيطًا بشكل مخادع: فهو يأخذ حالة داخلية خفية — وهي تمثيل رياضي لما يفكر فيه الكمبيوتر — ويحولها إلى قائمة من الاحتمالات لكل كلمة في مفرداته. فإذا كان النموذج يحاول إكمال الجملة "السماء هي..."، يقوم هذا المكون بحساب مدى احتمالية أن تكون الكلمة التالية هي "زرقاء"، أو "غائمة"، أو "تسقط"، ويخصص درجة لكل احتمال. لسنوات، تعامل المهندسون مع الرياضيات التي تقود هذا التحويل النهائي كمسألة معيارية، حيث طبقوا نفس القواعد العامة لتعديل أوزان النموذج كما يفعلون مع الطبقات السابقة من الشبكة.

ومع ذلك، يشير منظور جديد إلى أن هذه الخطوة النهائية تختلف جوهريًا عن بقية الآلة. ولأن المخرج هو توزيع احتمالي — وهو مجموعة من النسب المئوية التي يجب أن يبلغ مجموعها مائة بالمائة — فإن القواعد الخاصة بتغييره يجب أن تحترم الهندسة الفريدة للاحتمالات، وليس فقط قواعد تغيير الأرقام الخام. يستكشف ورقة بحثية حديثة لأديتيا سوماندارام من جامعة كولومبيا هذه الفكرة من خلال التعامل مع الطبقة النهائية وتحويل الاحتمالات كوحدة واحدة موحدة. ويجادل المؤلف بأنه لفهم كيفية تحسين هذا الجزء من النظام، يجب أن ننظر إلى كيفية تغيير النسب بين الكلمات، بدلاً من مجرد النظر إلى مقدار تغير الأرقام. ومن خلال استخدام مسافة رياضية محددة تقيس التغير في هذه النسب، تستنتج الدراسة طريقة جديدة لقياس حجم التحديث. والنتيجة هي صورة هندسية جديدة حيث يتم تحديد "حجم" التغيير بناءً على مدى انتشار التمثيلات الداخلية للنموذج للكلمات المختلفة، مما يؤدي إلى اقتراح نوع جديد من المحسنات (optimizers) التي يمكن أن تجعل هذه النماذج تتعلم بكفاءة أكبر.

يبدأ جوهر هذا الاستقصاء بسؤال حول كيفية قياس التغيير. فعندما يقوم الكمبيوتر بتحديث إعداداته الداخلية للتعلم من خطأ ما، فإنه يجري تعديلًا طفيفًا لجدول ضخم من الأرقام. في طرق التدريب القياسية، غالبًا ما يقيس المهندسون مقدار هذا التعديل من خلال النظر إلى أكبر تغيير ممكن يمكن أن يسببه في الأرقام الخام قبل تحويلها إلى احتمالات. لكن المؤلف يشير إلى أنه بالنسبة للطبقة النهائية، فإن الأرقام الخام ليست هي المنتج النهائي؛ بل الاحتمالات هي المنتج. وعملية التحويل، المعروفة باسم "softmax"، لها خاصية مميزة: إذا أضفت نفس المقدار إلى كل رقم في القائمة، فإن الاحتمالات الناتلة لن تتغير على الإطلاق. وهذا يعني أن قياس الحجم الخام للتحديث هو أمر مضلل، لأنه يحصي تغييرات ليس لها أي تأثير على المخرج النهائي. ولحل هذه المشكلة، تلجأ الورقة البحثية إلى مفهوم "مسافة هيلبرت الإسقاطية" (Hilbert's projective distance). وهي طريقة لقياس المسافة بين مجموعتين من الاحتمالات تركز بالكامل على كيفية تغير النسبة بين أي كلمتين. فهي تتجاهل الحجم المطلق للأرقام وتنظر فقط إلى المكانة النسبية لكلمة مقابل أخرى.

من خلال تطبيق مقياس المسافة المحدد هذا، اكتشف الباحث علاقة مفاجئة ونقية بين هندسة التحديث وسلوك النموذج. تُظهر الدراسة أن أقصى تغيير يمكن أن يسببه التحديث في التوزيع الاحتمالي مرتبط مباشرة بالانتشار الفيزيائي لصفوف مصفوفة التحديث. تخيل التحديث كمجموعة من المتجهات، حيث يتوافق كل متجه مع كلمة محددة في المفردات. إن "حجم" التحديث، من حيث مدى قدرته على زعزعة الاحتمالات، يتحدد من خلال المسافة بين المتجهين الأكثر تباعدًا. إذا كانت المتجهات للكلمات المختلفة متجمعة معًا بإحكام، فإن التحديث يكون صغيرًا وآمنًا. أما إذا كانت متباعدة بعيدًا، فإن التحديث يكون كبيرًا ويمكن أن يسبب تقلبات جامحة في تنبؤات النموذج. يعيد هذا الاكتشاف صياغة مشكلة تحديث رأس النموذج اللغوي: فبدلاً من القلق بشأن الحجم الإجمالي للأرقام، يصبح الهدف هو إدارة قطر "سحابة النقاط" التي تمثل الكلمات.

يؤدي هذا الاستبصار الهندسي إلى اقتراح جديد لكيفية بناء هذه التحديثات، مستلهمًا من طريقة حديثة تسمى "Muon" حققت نجاحًا في أجزاء أخرى من الشبكات العصبية. تعمل "Muon" عن طريق موازنة الاتجاهات المختلفة للتحديث بحيث تكون جميعها قوية بالتساوي، مما يمنع النموذج من العالق في وديان ضيقة في مشهد التعلم. ويقترح المؤلف ضرورة تطبيق مبدأ مماثل على رأس النموذج اللغوي، ولكن مع لمسة مختلفة. فبدلاً من موازنة قوة الاتجاهات المنفردة، يجب أن يكون الهدف هو جعل المسافات بين جميع أزواج متجهات الكلمات متساوية قدر الإمكان. التحديث المثالي من شأنه أن ينشر المتجهات بحيث تكون كل كلمة على مسافة متساوية تقريبًا من كل كلمة أخرى، مما يخلق سحابة متوازنة تمامًا. وهذا من شأنه أن يضمن أن يعامل النموذج التمييز بين أي زوج من الكلمات بحساسية متساوية.

ومع ذلك، تحدد الورقة أيضًا حدًا فيزيائيًا صعبًا لهذا المثالية. ففي رأس النموذج اللغوي، يكون عدد الكلمات في المفردات أكبر بكثير من عدد الأبعاد المتاحة لتمثيلها. ومن المستحيل رياضيًا ترتيب عدد هائل من النقاط في مساحة صغيرة بحيث تكون جميعها على مسافة متساوية من بعضها البعض. تمامًا كما لا يمكنك وضع مائة نقطة على ورقة مسطحة بحيث تكون جميعها متساوية البعد عن بعضها البعض، لا يمكنك جعل متجهات الكلمات متساوية البعد تمامًا عندما تكون المفردات ضخمة والمساحة الخفية صغيرة. تقر الدراسة بهذا القيد وتقترح أن الهدف يجب أن يكون إيجاد أفضل تقريب ممكن. سيحاول المحسن المقترح تعظيم أصغر مسافة بين أي كلمتين مع إبقاء أكبر مسافة ضمن حد آمن. يهدف هذا النهج إلى إنشاء تحديث يكون موزعًا بشكل متساوٍ قدر ما يسمح به الشكل الهندسي، مما يضمن عدم تجاهل أي زوج من الكلمات أو معاملته كأنه غير قابل للتمييز بينما يتم دفع الآخرين بعيدًا جدًا.

إن تداعيات هذا العمل هي في المقام الأول نظرية وهيكلية، حيث تقدم عدسة جديدة يمكن من خلالها رؤية الخطوة النهائية لتوليد اللغة. لا يدعي المؤلف أنه بنى نموذجًا مدربًا بالكامل يثبت أن هذه الطريقة تعمل بشكل أفضل في الممارسة العملية، بل يقدم بدلاً من ذلك اشتقاقًا صارمًا لما يجب أن تبدو عليه هندسة التحديث إذا اتبعنا المبادئ الأولى للاحتمالات. وتجادل الورقة بأن الطرق الحالية، التي غالبًا ما تترك هذه الطبقة النهائية لتقنيات التحسين القياسية، تفوت فرصة احترام الوظيفة المحددة لهذا المكون. ومن خلال معاملة التحويل إلى احتمالات كجزء لا يتجزأ من عملية التحديث، وباستخدام مقياس مسافة يحترم خاصية الثبات لدالة "softmax"، توفر الهندسة المقترحة طريقة أكثر طبيعية للتنقل في مشهد التعلم. وتخلص الدراسة إلى أنه بينما يكون الترتيب المتساوي المسافة المثالي مستحيلاً للمفردات الكبيرة، فإن السعي وراء تكوين متقارب من التساوي يوفر اتجاهًا واضحًا ومبدئيًا لتصميم محسنات مستقبلية مصممة خصيصًا للمتطلبات الفريدة لرأس النموذج اللغوي.