24235 ورقة بحثية
تثبت هذه الورقة أن التشخيصات الطيفية المتماثلة عمياء جوهرياً عن اتجاه تدفق الانتباه، حيث تقدم إطار عمل ثنائي المحور يجمع بين مقياس سعة "تشيجر" ثنائي الأجزاء ومعامل عدم التماثل للتمييز بنجاح والتنبؤ بأنماط الفشل المتميزة في النماذج اللغوية الكبيرة.
تجادل هذه الورقة بأن التصنيفات غير المشروطة القياسية في التحسين البايزي الانتقالي غير مستقرة بسبب متغيرات النظام الخفية، وتقترح درجة النظام المحمولة (PRS) وخوارزمية (RegimePlanner) لربط اختيار دالة الاستحواذ بمعلمات السياق الملحوظة مثل الميزانية والجودة السابقة، وذلك لتحقيق أداء متفوق وتمكين تقييمات أكثر موثوقية وإدراكاً للسياق.
تقدم هذه المساهمة "البحث عن البنية العصبية القائم على دلتا" (Delta-based Neural Architecture Search)، وهي طريقة فعالة من حيث استهلاك الرموز (token-efficient) تقوم فيها النماذج اللغوية الكبيرة التي تم ضبطها بدقة بتوليد فروق برمجية (code diffs) مدمجة لتحسين النماذج الأساسية، مما يحقق معدلات أعلى بكثير من حيث الصلاحية والدقة عبر مجموعات بيانات متعددة مقارنة بالتوليف الكامل للنماذج التقليدي، مع تقليل أطوال المخرجات بشكل جذري.
تقترح الورقة البحثية إطار عمل "DiffICL"، وهو إطار للتعلم داخل السياق لتوليد البيانات الجدولية يستفيد من الأوليات الهيكلية سابقة التدريب للتغلب على المقايضة التقليدية بين الجودة والخصوصية في أنظمة البيانات الصغيرة، وذلك عبر استنتاج توزيعات البيانات من سياق محدود بدلاً من حفظ العينات الفردية.
تقدم هذه الدراسة إطاراً تشخيصياً منضبطاً لعزل اعتلالات بيانات محددة، كاشفةً عن أنه في حين تتفوق الأساليب السببية لاستنتاج شبكات التنظيم الجيني على النماذج المرجعية القائمة على الارتباط في الظروف المثالية، فإن مزاياها تُلغى بشكل انتقائي بفعل مشكلات مثل تساقط البيانات والمؤثرات الكامنة، مما يقدم توجيهاً دقيقاً حول متى ولماذا تنجح أو تفشل الطرق المختلفة.
تقدم الورقة البحثية آلية توجيه الفهرس المقلوب التكيفي لنماذج خليط الخبراء (AIR-MoE)، وهي آلية توجيه من مرحلتين قابلة للإدراج المباشر تعتمد على التكميم المتجهي، وتتعامل بكفاءة مع نماذج خليط الخبراء ذات الحبيبية الدقيقة عبر تقليل تكاليف التوجيه مع الحفاظ على أداء عالٍ دون الحاجة إلى تغييرات هيكلية في النموذج.
يُعد KernelBench-X معياراً شاملاً لتقييم نوى Triton المُنشأة بواسطة النماذج اللغوية الكبيرة عبر 176 مهمة، حيث كشف أن بنية المهمة تفوق في أهميتها تصميم الطريقة في تحديد الصحة، وأن التحسين التكراري يحسن معدلات التجميع ولكنه يقلل من الأداء، وأن النماذج الحالية تعاني في تحقيق الدقة العددية وكفاءة الأجهزة رغم وصولها إلى الصحة الدلالية.
تقدم الورقة البحثية EP-GRPO، وهو إطار عمل موسع لتحسين السياسة النسبي للمجموعات (GRPO) يعالج أخطاء تخصيص الائتمان في GRPO من خلال الاستفادة من الإنتروبيا الجوهرية وتباعد السياسة لتوفير تحكم كثيف وذاتي الإشراف على مستوى الرمز (token)، مما يحقق دقة وكفاءة فائقتين في مهام الاستدلال الرياضي.
تقترح هذه المقالة "نحت المهارات اللغوية" (skill neegisms)، وهي عبارة عن رموز ناعمة (soft-tokens) مُحسّنة يتم دمجها في مفردات النموذج اللغوي الكبير كحل قابل للتوسع للتعلم المستمر، مما يمكّن النموذج من اكتساب ودمج مهارات جديدة دون الحاجة إلى تحديث الأوزان أو التعرض للنسيان الكارثي.
يوضح هذا المقال أن الاستمرارية الهندسية في الشبكات العصبية العميقة تنتج عن التأثيرات المشتركة للوصلات المتبقية، التي تعمل على محاذاة تحديثات الأوزان عبر الطبقات، واللاخطية لكسر التماثل، التي تقيد الطبقات ضمن إطار إحداثي مشترك لمنع الانجراف الدوراني.