Hierarchical Data Selection via Manifold Coverage and Sparse Feature Coverage in LLM Post-training
تقترح الورقة البحثية إطار عمل MASS، وهو إطار هرمي لاختيار البيانات يعمل على تحسين كفاءة وأداء مرحلة ما بعد التدريب للنماذج اللغوية الكبيرة من خلال تجميع البيانات أولاً عبر تغطية المتشعبات منخفضة الأبعاد، ثم اختيار مجموعات فرعية عالية الجودة عبر تغطية الميزات المتفرقة، متفوقاً باستمرار على النماذج المرجعية الحالية وغالباً ما يضاهي التدريب باستخدام البيانات الكاملة باستخدام مجموعات بيانات أصغر بكثير.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناซึ่ง يتطور بسرعة، برز تحدٍ مستمر مع زيادة حجم النماذج وقدراتها: وهو الحجم الهائل للبيانات المطلوبة لتعليمها. لكي تتعلم هذه الأنظمة بفعالية، فإنها تحتاج إلى مكتبات ضخمة من الأمثلة، لكن جمع ومعالجة هذه المعلومات أمر مكلف ويستغرق وقتاً طويلاً. لطالما سعى الباحثون لإيجان طريقة لتحديد أكثر قطع المعلومات قيمة ضمن هذه المجموعات الضخمة، آملين في تدريب نماذج قوية باستخدام جزء صغير وعالي الجودة فقط من البيانات المتاحة. كانت الفكرة السائدة هي أنه إذا استطعت قياس مدى اختلاف قطعتين من البيانات عن بعضهما البعض، يمكنك اختيار مجموعة متنوعة تغطي جميع الجوانب الضرية. ومع ذلك، غالباً ما تعثر هذا النهج لأن المساحات الرياضية المستخدمة لقياس هذه الاختلافات كانت مزدحمة للغاية ومليئة بالضجيج، حيث تمزج بين المواضيع العامة والتفاصيل الصغيرة غير ذات الصلة والأخطاء العشوائية.
اقترح فريق من الباحثين الآن طريقة جديدة لحل هذه المشكلة، عبر التعامل مع اختيار بيانات التدريب ليس كبحث مسطح، بل كعملية اكتشاف متعددة الطبقات. ويجادلون بأنه لكي تجد أفضل البيانات، يجب عليك أولاً فهم المشهد العام للمعلومات ثم التركيز على التفاصيل الدقيقة والمحددة التي تهم. ومن خلال بناء نظام يقوم أولاً بتجميع البيانات حسب موضوعاتها الرئيسية ثم يختار بعناية عينات تغطي التباينات الدقيقة داخل تلك الموضوعات، نجحوا في ابتكار طريقة تتفوق باستمرار على التقنيات الموجودة. وفي الاختبارات التي شملت مهاماً بصرية واستدلالية معقدة، سمحت هذه الطريقة الجديدة للنماذج المدربة على جزء ضئيل فقط من البيانات بأن تؤدي بمستوى يضاهي، أو حتى يتفوق على، النماذج المدربة على مجموعة البيانات بأكملها.
قام الفريق البحثي، بقيادة بنج سون وزملاؤه من عدة جامعات، بتطوير طريقة أطلقوا عليها اسم MASS، وهي اختصار لـ (Manifold Aware Sparse Selection) أو "الاختيار المتناثر المدرك للمتعدد الأشكال". ولفهم سبب ضرورة ذلك، تخيل محاولة تنظيم مكتبة ضخمة حيث يتم وصف كل كتاب بقائمة طويلة جداً من الكلمات المفتاحية. إذا حاولت العثور على كتب متشابهة من خلال مقارنة هذه القوائم مباشرة، فقد ينتهي بك الأمر بتجميع كتاب عن "قطة" مع كتاب عن "سيارة" لمجرد أن كلتا القائمتين تحتويان على كلمة "سريع"، رغم أن الموضوعين مختلفان تماماً. القوائم الأصلية مزدحمة جداً بالتفاصيل الصغيرة والضجيج العشوائي لدرجة أنها لا تستطيع إظهار البنية الحقيقية للمكتبة. أدرك الفريق أن البيانات المستخدمة لتدريب نماذج الذكاء الاصطناعي الحديثة تسلك سلوكاً مشابهاً؛ فتمثيلات هذه البيانات رياضياً عالية الأبعاد ومعقدة للغاية بحيث تفشل المقارنات البسيطة في التقاط علاقاتها الحقيقية.
ولإصلاح ذلك، صمم الفريق عملية من خطوتين تحاكي كيف يمكن للإنسان استكشاف منطقة جديدة. أولاً، يستخدمون أداة تسمى "المشفر التلقائي الكثيف" (dense autoencoder) لضغط البيانات المعقدة إلى شكل أبسط وأقل أبعاداً. فكر في الأمر كأخذ خريطة ثلاثية الأبعاد عالية الدقة لسلسلة جبلية وتحويلها إلى خريطة طبوغرافية ثنائية الأبعاد واضية تظهر القمم والوديان الرئيسية دون ازدحام كل صخرة وشجيرة. تسمح هذه الخطوة للنظام بتحديد المجموعات الدلالية الكبرى داخل البيانات، مما يؤدي فعلياً إلى تصنيف المكتبة إلى أقسام متميزة مثل "العلوم" و"التاريخ" و"الخيال" بناءً على الموضوعات المهيمنة. يضمن هذا التجميع الخشن تغطية المناطق الرئيسية لمساحة المعرفة.
بمجرد تنظيم البيانات في هذه المجموعات الكبرى، تبدأ الخطوة الثانية. هنا، يستخدم الباحثون أداة مختلفة، وهي "المشفر التلقائي المتناثر" (sparse autoencoder)، للبحث عن التفاصيل الدقيقة والمحددة داخل كل مجموعة. وبينما تعاملت الخطوة الأولى مع الصورة الكبيرة، تركز هذه الخطوة على الخصائص الفريدة التي تميز مثالاً عن آخر داخل الفئة نفسها. الأمر يشبه التجول في قسم "العلوم" بالمكتبة والتأكد من أن الكتب المختارة لا تغطي الفيزياء العامة فحسب، بل تغطي أيضاً موضوعات فرعية محددة مثل ميكانيكا الكم، والفيزياء الفلكية، والديناميكا الحرارية، بدلاً من اختيار خمسة كتب تتحدث جميعها عن نفس الموضوع الضيق. هذه الأداة مصممة لاختيار الميزات الأكثر أهمية فقط، متجاهلة الضجيج والتكرار الذي غالباً ما يربك الطرق الأخرى.
اختبر الباحثون هذا النهج على مجموعتي بيانات متحديتين: إحداهما تركز على التعليمات البصرية العامة، والأخرى على مهام الاستدلال المعقدة التي تتضمن صوراً ونصوصاً. وقارنوا طريقتهم بتسع تقنيات شهيرة أخرى لاختيار البيانات، بما في ذلك الاختيار العشوائي والطرق القائمة على درجات التشابه أو الأهمية. كانت النتائج مذهلة؛ فعبر مختلف كميات البيانات، بدءاً من خمسة بالمائة وصولاً إلى خمسة عشر بالمائة من الإجمالي، أنتجت طريقة MASS باستمرار نماذج أدت بشكل أفضل من أي استراتيجية اختيار أخرى. وفي حالات عدة، تفوقت النماذج المدربة على المجموعة الفرعية المختارة بواسطة MASS فعلياً على أداء النماذج المدربة على مجموعة البيانات الكاملة، محققة دقة أعلى في معايير فهم المرئيات والاستدلال المنطقي.
تضمنت الدراسة أيضاً سلسلة من الفحوصات الدقيقة لفهم سبب نجاح الطريقة بهذا الشكل الكبير. وجد الباحثون أن تخطي الخطوة الأولى ومحاولة تجميع البيانات مباشرة من التمثيلات الأصلية المعقدة أدى إلى نتائج أسوأ، مما أكد أن الضغط الأولي كان ضرورياً لإيجاد البنية الصحيحة. وبالمثل، فإن استخدام الخطوة الثانية فقط دون التجميع الأولي فشل في تغطية اتساع البيانات بالكامل. كان الجمع بين الخطوتين أمراً حاسماً، حيث وفرت الأولى إطاراً مستقراً بينما ضمنت الثانية تغطية غنية ومفصلة. كما اكتشفوا أن النظام يتسم بالمتانة تجاه التغييرات في الأدوات المحددة المستخدمة للتحليل، حيث يعمل بشكل جيد حتى عند استخدام أنواع مختلفة من تمثيلات البيانات.
إن أحد الرؤى الرئيسية من هذا العمل هو أن جودة البيانات تهم بقدر تنوعها. يتضمن نظام MASS درجة جودة، مما يسمح له بتجنب اختيار الأمثلة رديئة الجودة حتى لو كانت فريدة. وهذا يضمن أن المجموعة الفرعية النهائية ليست متنوعة فحسب، بل موثوقة أيضاً. وأشار الباحثون إلى أنه بينما يتطلب منهجهم بعض الجهد الحسابي الأولي لإعداد التجميع واستخراج الميزات، فإن هذه التكلفة ضئيلة مقارنة بالمدخرات الناتجة عن التدريب على مجموعة بيانات أصغر بكماً. فالوقت المستغرق في إعداد البيانات هو استثمار لمرة واحدة يؤتي ثماره من خلال تقليل الموارد الهائلة التي يتطلبها التدريب واسع النطاق عادةً.
في نهاية المطاف، يشير هذا العمل إلى تحول جوهري في كيفية تفكيرنا في تعليم الذكاء الاصطناعي. فبدلاً من افتراض أن المزيد من البيانات هو دائماً الأفضل، أو أن مجرد اختيار أمثلة متنوعة يعد كافياً، يظهر الباحثون أن بنية البيانات نفسها هي التي تحمل المفتاح. ومن خلال احترام التسلسل الهرمي الطبيعي للمعلومات — أولاً فهم المشهد العام ثم ملء التفاصيل المحددة — يمكن لنماذج الذكاء الاصطناعي أن تتعلم بكفاءة أكبر. تقدم هذه النتائج مساراً عملياً للمطورين الذين يحتاجون إلى تدريب أنظمة قوية دون الوصول إلى قدرات حوسبة غير محدية أو تدفقات لا تنتهي من البيانات، مما يثبت أنه مع استراتيجية الاختيار الصحيحة، يمكن للقليل من البيانات أن يقطع شوطاً طويلاً بالفعل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.