22512 ورقة بحثية
تقترح هذه الورقة نماذج لغوية ذات انتشار عصبي (N-MDLMs)، والتي تجمع بين الانتشار الكتلي والندرة القائمة على النبضات لتحسين إنتاجية الاستدلال وكفاءة الطاقة بشكل كبير من خلال تمكين توليد عدة رموز لكل عملية وصول إلى المعلمات مع تقليل الحوسبة الفعلية عبر تخطي القنوات غير النشطة.
تقترح هذه الورقة البحثية "المعرفات الدلالية مزدوجة الغرض" (Dual-purpose Semantic IDs)، وهي طريقة تستخدم التكميم الهرمي لتحويل التضمينات الكثيفة إلى رموز منفصلة لكل من الهوية التعاونية وإعادة بناء المحتوى، مما يحقق كفاءة في الإدخال والإخراج بمستوى النماذج اللغوية الكبيرة (LLM) ويُنجح في النشر ضمن أنظمة التوصية ذات النطاق الإنتاجي للتغلب على اختناقات الذاكرة.
تُعد FinAbstain إطار عمل مبتكر للتنبؤ المالي الانتقائي، حيث يستخدم نظام استرجاع معزز بالمعلومات (RAG) متعدد الوسائط ومعاير لعدم اليقين لتجميع الأدلة من وكلاء متنوعين والامتناع عن التنبؤات عندما يكون مستوى الثقة منخفضاً، مما يؤدي إلى المقايضة بين التغطية وتقليل الخطأ والتراجع في بنية زمنية آمنة وقابلة للتدقيق.
تجادل هذه الورقة بأن طرق تضمين البيانات الجدولية الحالية، والمُحسّنة لمهام التنبؤ، تفشل في التوافق مع التفضيلات البشرية للبحث عن التشابه، وتقترح إجراء تقييم جديد لمعالجة هذه الفجوة باستخدام حالة استخدام إدارة دورة حياة المنتج (PLM).
تقدم هذه الورقة OpenCoder، وهو إطار عمل مدرك لعدم اليقين يقوم بتقدير واستغلال عدم اليقين الخاص بالمصدر لتصفية وترتيب أدلة الاسترجاع غير المتجانسة، مما يحسن صحة توليد الكود على مستوى المستودع مع إثبات أن فوائده تعتمد على النموذج اللغوي الكبير الخلفي وتفاعلات الأدلة.
تقدم هذه الورقة "بُعد المحاذاة الفعالة" ككمية قابلة للقياس لتوصيف هندسة الإشارة والضجيج لتدرجات التنشيط، مقدمةً حداً نظرياً للعينة المحدودة وأدلة تجريبية على أن النماذج الأعرض في الشبكات المتبقية تحسن أداء الاختبار من خلال زيادة هذا البُعد وتقليل عدم محاذاة التدرج بين بيانات التدريب وبيانات الاختبار.
تقدم الورقة البحثية GAUGE، وهو معيار مرجعي مبتكر يقيم النماذج المالية التي تبنيها أنظمة الذكاء الاصطناعي مقابل الممارسات الملحوظة للمحللين بدلاً من إجابة "ذهبية" واحدة، مما يكشف أنه بينما تتفوق الوكلاء الحاليون في البناء الآلي للنماذج، إلا أنهم لا يزالون يتخلفون بشكل كبير عن المتخصصين البشريين في أحكام التقييم.
تقدم هذه الورقة إطار عمل مستقر للتدريب بنظام FP4 لنماذج اللغات الكبيرة، يعالج عدم استقرار التحسين الناتج عن تبديل الموتّرات في أساليب القياس المجهري التقليدية من خلال فرض تكميم كتل ثنائي الأبعاد غير متأثر بتبديل الموتّرات، محققاً أداءً يضاهي نظام BF16 مع حد أدنى من التدهور عبر نماذج تصل إلى 30 مليار معلمة.
تقدم هذه الورقة طريقة محاكاة قابلة للتفاضل تعتمد على نظرية الدالة الضمنية (Implicit Function Theorem) تتسم بالكفاءة لتحسين المسارات الغنية بالتلامس، مما يقلل استهلاك الذاكرة بشكل جذري مقارنة بالتفاضل التلقائي غير المنبسط (unrolled automatic differentiation)، وتجمعها مع تقطير المُحسِّن (optimiser distillation) لتحسين معدل نجاح التحكم التنبئي بالنماذج المتبقية (residual MPC) بشكل كبير في المهام الروبوتية المعقدة.
تقدم هذه الورقة نموذجاً بديلاً للشبكة العصبية، سريعاً ودقيقاً وقابلاً للاشتقاق كلياً، لنموذج موجات الثقوب السوداء الثنائية المترنحة NRSur7dq4، والذي يحقق دقة مطابقة للنسبة النسبية (NR) مع توفير تسريع كبير على وحدات معالجة الرسومات وتمكين طرق الاستدلال القائمة على التدرج.