12380 ورقة بحثية
تقترح الورقة البحثية "حالات التفكير" (Thinking States)، وهي طريقة تعمل على تحسين كفاءة وأداء الاستنتاج من خلال توليد وتضمين رموز تفكير كامنة أثناء مرحلة معالجة المدخلات، مما يسمح بتدريب قابل للتوازي وتقليل زمن استجابة الاستدلال مقارنة بأسلوب "سلسلة الأفكار" التقليدي.
تعد ManifoldKV طريقة لضغط ذاكرة التخزين المؤقت (KV cache) لا تتطلب تدريباً، وهي تعمل على تحسين دقة الاستنتاج للسياقات الطويلة باستخدام المسافة الإقليدية بدلاً من تشابه جيب التمام لالتقاط كل من الأهمية الزاوية والمقدار للرموز بشكل أفضل.
تقدم الورقة البحثية **WorldTravel**، وهو معيار مرجعي جديد متعدد الوسائط يتكون من سيناريوهات سفر واقعية ومعقدة صُممت لكشف الفجوة الكبيرة في أداء النماذج الرائدة الحالية عند التنقل عبر القيود الزمنية والمنطقية المترابطة وثيقاً من خلال بيئات الويب النصية والبصرية.
يُعد MemAdapter إطار عمل موحداً لاسترجاع الذاكرة يستخدم مسترجع رسوم بيانية فرعية توليديًا ووحدة محاذاة خفيفة الوزن لتمكين دمج ذاكرة عابر للنماذج يتميز بالسرعة والكفاءة والأداء العالي للوكلاء القائمين على النماذج اللغوية الكبيرة.
يُعد Prism آلية انتباه ذات تخلخل كتلوي (block-sparse) لا تتطلب تدريباً، ويحقق تسريعاً يصل إلى 5.1 ضعفاً عبر استخدام نهج مدرك للطيف لتصحيح فقدان المعلومات الموضعية الناتجة عن التجميع المتوسط (mean pooling) في تضمينات الموضع الدوارة (RoPE).
تقدم هذه الورقة البحثية "التعلم التعزيزي بالمكافأة القابلة للنقل" (RLTR)، وهو نهج مبتكر يعزز متانة وكفاءة العينات في استدلال النماذج اللغوية الكبيرة من خلال تدريب النماذج على إنتاج خطوات استدلال تظل فعالة عند نقلها لتوجيه نماذج منفصلة، بدلاً من التركيز فقط على صحة الإجابة النهائية.
تقدم هذه الورقة البحثية إطار ALOPE-RL، وهو إطار عمل للتعلم المعزز يستفيد من المكافآت المدركة للأخطاء المستمدة من ملاحظات ودرجات الترجمة الموضحة بشرياً لتمكين نماذج اللغات الكبيرة المدمجة من تحقيق أداء رائد في تقدير الجودة لزوج اللغات الإنجليزية-المالايالامية منخفض الموارد دون الاعتماد على ترجمات مرجعية.
تقدم الورقة البحثية "الوسيط للنماذج الأولية متعدد الطبقات" (MLPM)، وهو أداة خفيفة الوزن وقابلة للتخصيص للإشراف على المدخلات تستفيد من النماذج الأولية للطبقات المتوسطة لتحقيق أداء سلامة رائد مع عبء إضافي ضئيل، مما يعالج بفعالية تحديات الكفاءة والقدرة على التكيف في نشر النماذج اللغوية الكبيرة.
تستقصي هذه الورقة البحثية التأثير غير المستكشف كفايةً للمعرفة البارامترية في النماذج اللغوية ذات السياق الطويل، كاشفةً أنها تزداد أهمية مع طول السياق ويمكن أن تعيقها قدرات الاسترجاع الخارجية القوية، مما دفع المؤلفين إلى اقتراح اختبار "إبرة في كومة قش" هجين يظهر تفوق نماذج Qwen-2.5 على نماذج Llama-3.1 عند تقييمها بناءً على منظور القدرة المزدوجة هذا.
تُعد FLAT-LLM طريقة ضغط هيكلي سريعة وخالية من التدريب، تستخدم تحويلات فضاء تنشيط منخفضة الرتبة دقيقة التفاصيل عبر تحليل المكونات الرئيسية (PCA) على مستوى الرأس وتخصيص الرتبة التكيفي لتقليل حجم نموذج اللغات الكبيرة (LLM) بشكل كبير وتحسين سرعة الاستدلال مع الحفاظ على دقة عالية دون الحاجة إلى إعادة ضبط دقيق للاسترداد.