When More Foundation Models Means Less: Diagnosing and Addressing Multi-View Fusion Failure
تحدد هذه الورقة أن دمج نماذج التأسيس المتعددة بشكل عشوائي غالبًا ما يؤدي إلى تدهور الأداء بسبب التكرار وعدم المواءمة، وتقترح KAGES، وهي طريقة اختيار جشعة فعالة ومعتمدة على التسمية، تعمل على تحسين تكوين مجموعة الرؤى لتحقيق دقة فائقة في المهام اللاحقة باستخدام مجموعة فرعية مدمجة من المشفرات المتوافقة مع المهمة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في العصر الحديث للذكاء الاصطناعي، يمتلك الباحثون إمكانية الوصول إلى مكتبة ضخمة من البرامج الحاسوبية مسبقة التدريب، والتي تُسمى غالباً "النماذج التأسيسية". هذه النماذج هي أنظمة هائلة تعلمت بالفعل كيفية التعرف على الأنماط، أو فهم اللغة، أو تفسير الصور من خلال دراسة كميات هائلة من البيانات. فكر فيها كأدوات خبيرة تم شحذها ولكن لم تُطبق بعد على وظيفة محددة. لسنوات، كان النهج القياسي لحل مشكلة جديدة باستخدام هذه الأدوات هو دمج أكبر عدد ممكن منها، بناءً على افتراض أن المزيد من المعلومات يؤدي دائماً إلى نتائج أفضل. كان المنطق بسيطاً: إذا رأى أداة واحدة صورة بطريقة معينة ورأت أداة أخرى الصورة بطريقة مختلفة، فإن الجمع بينهما يجب أن يخلق رؤية مثالية وشاملة. هذه الفكرة، المعروفة باسم "التعلم متعدد الرؤى"، كانت لفترة طويلة حجر الزاوية في كيفية محاولة العلماء بناء أنظمة أكثر ذكاءً عبر دمج مصادر مختلفة من المعلومات.
ومع ذلك، تتحدى دراسة جديدة هذا الاعتقاد الجوهري. فقد اكتشف باحثون من جامعة بكين للاتصالات والبريد التقني أنه عندما تبدأ في خلط عدد كبير من هذه الخبراء مسبقي التدريب، فإن إضافة المزيد لا تجعل النتيجة النهائية أفضل بالضرورة. في الواقع، بعد نقطة معينة، يمكن أن تؤدي إضافة أداة أخرى إلى جعل النظام أسوأ. وجد الفريق أن أفضل أداء يتحقق عادةً عن طريق اختيار مجموعة صغيرة ومحددة من هذه النماذج بدلاً من استخدام مجموعة كبيرة وعشوائية. وقد لاحظ الباحثون أنه بينما توفر النماذج القليلة الأولى المضافة إلى المزيج رؤى جديدة ومفيدة، فإن الإضافات اللاحقة غالباً ما تكرر معلومات يمتلكها النظام بالفعل أو تقدم إشارات مربكة ليس لها علاقة بالمهمة المطلوبة. وتخلق هذه الظاهرة منحنى حيث يرتفع الأداء بسرعة، ثم يصل إلى ذروة، ثم يبدأ في الهبوط مع إقحام المزيد من النماذج في المزيج.
ولحل هذه المشكلة، طور الباحثون طريقة جديدة تسمى KAGES، والتي تعمل كمُنتقي ذكي لنماذج الذاء الاصطناعي هذه. فبدلاً من دمج كل أداة متاحة بشكل أعمى، تقوم KAGES بتقييم بعناً أي النماذج المحددة يجب دمجها وكم عددها الذي ينبغي استخدامه. وهي تعمل من خلال قياس مدى توافق المعلومات المجمعة من مجموعة من النماذج مع الإجابات الصحيحة لمهمة معينة، دون الحاجة إلى تدريب نظام جديد لاختبارها أولاً. وتتبع الطة أسلوباً جشعاً (greedy) بإضافة النموذج التالي الأفضل الذي يقدم أكبر قدر من المعلومات الجديدة والمفيدة، مع تجنب تلك التي تكرر ببساطة ما هو معروف بالفعل أو تضيف ضجيجاً. ويسمح هذا النهج للنظام بالتوقف عن إضافة النماذج تماماً عندما تتوقف المعلومات الإضافية عن كونها مفيدة، مما يضمن أن يكون المزيج النهائي مدمجاً وعالي الفعالية.
اختبر الفريق هذه الفكرة عبر مجموعة واسعة من المهام، بما في ذلك التعرف على الأشياء في الصور، وتحديد الأنسجة، وحتى فهم اللغة. وفي كل حالة، وجدوا أن افتراض "المزيد هو الأفضل" قد فشل. ففي بعض المهام، بلغ الأداء ذروته بعد دمج ثلاثة أو أربعة نماذج فقط، وأدت إضافة المزيد إلى انخفاض الدقة. على سبيل المثال، في مهمة تتعلق بالتعرف على علامات المرور، حقق النظام أفضل أداء مع مجموعة صغيرة جداً من النماذج، بينما في مهمة تتعلق بتحديد الموقع الجغرافي، كان نموذج واحد جيداً جداً لدرجة أن إضافة غيره لم يقدم أي فائدة بل أضر بالأداء أحياناً. كما لاحظ الباحثون أن العدد المثالي للنماذج يتغير اعتماداً على حجم البيانات المتاحة؛ فمع توفر المزيد من البيانات، يمكن للنظام التعامل مع عدد أكبر قليلاً من النماذج قبل أن يبدأ الأداء في التراجع، لكن الذروة تُبلغ دائماً بعدد صغير بشكل مفاجئ.
أظهرت النتائج أن KAGES تفوقت باستمرار على الطرق الأخرى، بما في ذلك تلك التي حاولت دمج جميع النماذج المتاحة أو تلك التي اختارت ببساطة النماذج المختلفة عن بعضها البعض. ومن خلال التركيز على جودة المزيج بدلاً من كميته، تمكنت KAGES من إيجاد "النقطة المثالية" حيث تعمل النماذج معاً بأكثر فعالية. وفي كثير من الحالات، كان أداؤها قريباً جداً من أداء مُنتقي مثالي نظري يتطلب اختبار كل التشكيلات الممكنة لإيجاد الأفضل، لكنها فعلت ذلك بشكل أسرع بكثير ودون الحاجة لتدريب أنظمة جديدة لكل اختبار. يشير هذا الاكتشاف إلى أن مستقبل بناء أنظمة ذكاء اصطناعي قوية لا يكمن في تراكم المزيد من الأدوات، بل في الاختيار الذكي والدقيق للأدوات المناسبة. ومع استمرار نمو مكتبة نماذج الذكاء الاصطناعي المتاحة، ستصبح القدرة على اختيار فريق صغير ومثالي من الخبراء أكثر أهمة من أي وقت مضى، مما يحول تحدي إدارة الموارد الهائلة إلى فرصة للدقة والكفاءة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.