11535 ورقة بحثية
يعالج RateQuant عيوب التكميم الساذج لـ KV cache متعدد الدقة عبر الاستفادة من نظرية معدل التشوه لملائمة نماذج تشوه لكل مكمم وحل تخصيص البتات الأمثل عبر عملية "التعبئة العكسية" ذات الصيغة المغلقة، محققاً انخفاضات كبيرة في الارتياب مع حد أدنى من عبء المعايرة.
تقدم الورقة البحثية نموذج "Toeplitz MLP Mixer" (TMM)، وهو بنية شبيهة بالمحولات (transformer) تستبدل آلية الانتباه بضرب مصفوفة "توبليتز" (Toeplitz) ذات القناع المثلثي لتحقيق تعقيد أقل من التربيعي، مع إظهار كفاءة تدريب فائقة، وقدرة أعلى على الاحتفاظ بالمعلومات، وأداء أفضل في التعلم داخل السياق مقارنة بالنماذج الأخرى ذات التعقيد الأقل من التربيعي.
تقترح هذه الورقة إطاراً لأنظمة الاستدلال التكراري يمثل حالة الاستدلال المتطورة كـرسم بياني للحالة المعرفية، وتُقدم مقياس "فجوة الرتبة" (order-gap) كشرط محلي، وضروري وكافٍ لتحديد متى يكون من غير المرجح أن تؤدي التكرارات الإضافية إلى تحسينات.
تقدم الورقة البحثية ProtSent، وهو إطار عمل للضبط الدقيق التبايني يعمل على تكييف نماذج لغة البروتين لتصبح نماذج تضمين عامة الأغراض، مما يحسن الأداء بشكل كبير عبر 23 مهمة لاحقة تتعلق بوظيفة البروتين وبنيته وتطوره دون الحاجة إلى إشراف خاص بكل مهمة.
تجادل هذه الورقة بأن الفجوة بين الأداء القوي للذكاء الاصطناائي التوليدي في الاختبارات المعيارية وفائدته المحدودة في العالم الحقيقي تنبع من ممارسات تقييم معيبة، وتقترح إطار عمل SCU-GenEval لتحويل التقييم نحو قياس التحسينات المستدامة في النتائج البشرية ضمن سياقات نشر محددة.
تقدم الورقة البحثية MELD، وهو كاشف متعدد المهام للنصوص المولدة بواسطة الذكاء الاصطناعي يعزز المتانة ضد الهجمات، وتحولات النطاق، والمولدات غير المرئية من خلال توظيف الإشراف المساعد، وتقطير المعرفة، وتصنيف السلبيات الصعبة، محققاً أداءً هو الأفضل في مجاله على المقاييس المرجعية مع الحفاظ على كفاءة الكاشف الثنائي القياسي.
تقدم الورقة البحثية إطار عمل BLUE، وهو إطار للتعلم التعزيزي يوحد بين ملفات تعريف المستخدم النصية القابلة للتفسير وبين التضمينات الكامنة التمييزية من خلال محاذاة ملفات التعريف القائمة على اللغة مع إشارات المكافأة في فضاء التضمين، مما يحقق أداءً فائقاً في التوصية المتسلسلة لصفرية المحتوى ونقل النطاق عبر المجالات مع تعزيز السياق الشخصي للإجابة على الأسئلة.
تقدم هذه الورقة البحثية إطار عمل GSM-SEM، وهو إطار عشوائي يولد متغيرات معيارية متنوعة دلاليًا ومعدلة واقعيًا للتخفيف من تحيز الحفظ في تقييمات النماذج اللغوية الكبيرة، مما يكشف عن انخفاضات كبيرة في الأداء في النماذج المتطورة عند اختبارها على هذه المجموعات من البيانات المُعاد توليدها ديناميكيًا.
تقترح الورقة البحثية نماذج لغوية ذاتية التماسك (SCoL)، وهو إطار عمل لما بعد التدريب يُمكّن النماذج اللغوية الكبيرة من دمج معارف جديدة باستمرار في أوزانها عبر توليد تعليمات تحديث متفرقة ومحددة لكل طبقة من خلال التعلم المعزز الميتافيزيقي، مما يؤدي إلى تحسين الاحتفاظ بالمعلومات وتقليل التداخل مقارنة بالنماذج المرجعية الحالية.
تتحدى هذه الورقة البحثية مفهوم "ضريبة الترجمة" الموحدة في معايير القياس من الإنجليزية إلى الصينية من خلال إثبات أن تضخم الدرجات ليس تأثيراً قياسياً، بل هو ظاهرة معقدة تعتمد على العناصر وتدفعها مخاطر صلاحية محددة وتفاعلات بين عائلات النماذج، وتقترح في نهاية المطوي بروتوكولاً جديداً للتطبيع وقائمة مراجعة للإبلاقات لمعالجة هذه القضايا الدقيقة.