11158 ورقة بحثية
يقدم AdaSwitch إطار عمل للتعلم التعاوني ينتقل تكيفياً بين وكيل محلي صغير ووكيل سحابي كبير، مما يُمكّن النموذج المحلي من تحديد الأخطاء استبطانياً وطلب المساعدة في خطوات الاستدلال المعقدة، وهو ما يؤدي بدوره إلى تحسين أداء المهام وكفاءتها بشكل كبير مع تقليل التكاليف الحسابية إلى أدنى حد.
يُعد SEDD إطار عمل عالي الأداء، ومعززاً بمعالجات الرسوميات (GPU)، لإزالة تكرار مجموعات البيانات واسعة النطاق، حيث يتفوق بشكل كبير على الأدوات الحالية التي تعمل بالمعالجات المركزية (CPU) ومعالجات الرسوميات (GPU) عبر استبدال عملية إعادة ترتيب البيانات بأسلوب التدفق (streaming) وتحسين دالات التجزئة (hash functions)، محققاً تسارعاً يصل إلى 375 ضعفاً مع الحفاظ على دقة عالية.
تقدم هذه الورقة "رموز تجميع الرسوم البيانية القابلة للتعلم" (LGPT)، وهو نهج مبتكر يستخدم معاملات قابلة للتعلم كرموز توجيهية (prompt tokens) للنماذج اللغوية الكبيرة لموازنة المعلومات الرسومية الدقيقة والكلية بكفاءة، مما يحقق مكاسب أداء كبيرة في المهام القائمة على الرسوم البيانية دون الحاجة إلى ضبط دقيق للنموذج اللغوي الكبير.
تقدم هذه الورقة البحثية RAG-Gym ووكيل ReSearch++، مبرهنةً على أن نقل الإشراف من الإجابات النهائية إلى عملية البحث ذاتها يُنتج وكلاء بحث عن المعلومات أكثر موثوقية وقدرة على التعميم، لا سيما في البيئات خارج النطاق المعرفي.
تقدم هذه الورقة KCGen-KT، وهو مسار عمل مؤتمت يعتمد على النماذج اللغوية الكبيرة لتوليد وتوسيم مكونات المعرفة للمشكلات البرمجية مفتوحة النهايات، مما يثبت من خلال تقييم مكثف أن هذه المكونات المولدة بواسطة الذكاء الاصطناعي تفوق المكونات التقليدية المكتوبة بشرياً في التنبؤ بأداء الطلاب ونمذجة منحنيات التعلم.
تقدم LogQuant تقنية تكميم ببتين موزعة لوغاريتميًا (log-distributed 2-bit quantization) لمخازن KV cache، مما يحسن بشكل كبير من إنتاجية الاستدلال، وحجم الدفعة، ودقة المهام للنماذج اللغوية الكبيرة مع الحفاظ على بصمة ذاكرة دنيا.
تثبت هذه الدراسة تجريبياً أن النماذج اللغوية الكبيرة الأصغر حجماً والقابلة للنشر محلياً غالباً ما توفر بديلاً مستداماً وفعالاً من حيث التكلفة للنماذج الأكبر في المهام التنظيمية اليومية، داعيةً إلى التحول من معايير قياس تعظيم الأداء إلى تقييمات الكفاية الواعية بالسياق.
تقدم الورقة البحثية استراتيجية "من المتناثر إلى الكثيف" (Sparse-to-Dense - StD)، وهي استراتيجية فك ترميز جاهزة للاستخدام ولا تتطلب ضبطاً، تعمل على تسريع فهم الفيديو في النماذج اللغوية الكبيرة بمعدل يصل إلى 1.94 ضعفاً دون فقدان في الأداء، وذلك عبر الاستفادة من آلية تعاونية حيث يقوم نموذج متناثر سريع بفك ترميز الرموز بشكل تخميني بينما يقوم نموذج كثيف بطيء بالتحقق منها بالتوازي.
تُثبت هذه الورقة أن نماذج لغة "خليط الخبراء" (MoE) يمكن أن تتفوق على نظيراتها الكثيفة في ظل قيود موارد متساوية تماماً (إجمالي المعلمات، والحوسبة، والبيانات) من خلال تحديد معدل تنشيط أمثل يظل ثابتاً عبر أحجام النماذج المختلفة، وهو اكتشاف تم التحقق من صحته من خلال تجارب مكثفة تضمنت تدريب ما يقرب من 250 نموذجاً ومعالجة 50 تريليون رمز.
تجادل هذه الورقة بأن الوكلاء القائمين على النماذج اللغوية الكبيرة يمكنهم تفكيك هيمنة "الحدائق المسيجة" من خلال تمكين "التوافق التشغيلي الشامل" عبر محولات تتوسطها الذكاءات الاصطناعية، مما يخفض تكلفة تبادل البيانات عبر المنصات بشكل جذري، وبالتالي استعادة حرية المستخدم والمنافسة في السوق مع استلزام أطر عمل جديدة لمعالجة المخاطر الأمنية والقانونية المرتبطة بذلك.