22423 ورقة بحثية
تقترح هذه الورقة تعلم التجزئة (tokenization) من البداية إلى النهاية باستخدام التعلم التعزيزي مع تقديرات دالة الدرجة (score function) وخصم الوقت لتقليل التباين، مما يثبت أن هذا النهج يتفوق على طرق التمرير المباشر (straight-through methods) السابقة عند مقياس 100 مليون معلمة.
يقدم البحث نموذج GraphRiverCast، وهو نموذج شبكة عصبية يستفيد من طوبولوجيا الأنهار للتنبؤ بدقة بالديناميكا المائية اليومية العالمية عبر شبكات بدقة 0.25 درجة باستخدام بيانات أجهزة القيم المبعثرة فقط، متفوقاً على النماذج العالمية الحالية بنسبة 25% ومتعمماً بفعالية على المجاري المائية غير المقاسة دون تدهور جوهري في المهارة.
تقترح هذه الورقة إطاراً مفاهيمياً موحداً لنماذج الانتشار المنفصلة يرتكز على بناء فضاء الحالة المنفصلة، مما يوحد الصيغ الحالية، ويوضح مقايضات التصميم، ويوجه اتجاهات الأبحاث المستقبلية.
تثبت هذه الورقة أن نمو مقاييس أوزان المحولات (transformer weights) أثناء التدريب محكوم بشكل يمكن التنبؤ به بإحصائية محسوبة مسبقاً ولا تعتمد على التدريب (الاعتلاج الشرطي لثنائي الجرام)، وذلك باتباع علاقة قانون القوة التي تسمح بالتنبؤ الأمامي الدقيق بتغيرات حجم الأوزان عبر مختلف معدلات التعلم والبنيات المعمارية.
تقدم هذه الورقة مسرع المحولات (TFA)، وهو محرك أجهزة INT8 قابل للتخليق يحقق استنتاج محولات دقيق البت، من البداية إلى النهاية، مع تحقق وظيفي بنسبة 100% وتحسينات كبيرة متوقعة في الطاقة والسرعة مقارنة بالنماذج المرجعية للمعالجات المركزية (CPU).
يقدم StateTune إطار عمل جديداً، ذا حالة (stateful)، وحلقة مغلقة لضبط تدفق تصميم الإلكترونيات (EDA)، والذي يستفيد من ذاكرة تحسين مستمرة ومحكومة بالأدلة وسياسة ترقية موجهة بواسطة EHVI للتفوق بشكل كبير على النماذج المرجعية الحالية المعتمدة على النماذج اللغوية الكبيرة (LLM) والتحسين البايزي في جودة النتائج عبر العديد من المعايير الصناعية.
تقدم هذه الورقة البحثية "الإنهاء الحامل للأدلة" (ECT)، وهو إطار عمل مبتكر لوكلاء النماذج اللغوية الكبيرة (LLMs) المستخدمة للأدوات، يفرض شهادات نمطية تربط ادعاءات الإجابة بأدلة تتبع صالحة وقابلة لإعادة التشغيل قبل الإتمام، مما يثبت في تجارب منضبطة أنه يحقق صفرًا من عمليات الإتمام غير الآمنة ويقلل بشكل كبير من حالات الإنهاء المبكر غير المدعوم مقارنة بالنهج القائمة على النقد الموجودة حاليًا.
تقدم هذه الورقة طريقة لتحقيق التنبؤ المطابق (conformal prediction) القابل للتكرار من خلال مشاركة بذرة عشوائية وتقريب العتبات إلى شبكة خشنة، مما يضمن مجموعات تنبؤ متطابقة عبر محللين مستقلين مع الحفاظ على ضمانات تغطية صالحة بتكلفة قابلة للقياس في حجم المجموعة ومتطلبات البيانات.
تستخدم هذه الدراسة التضمينات السياقية من نماذج "بيرت" (BERT) متعددة لتقديم دليل حوسبي على أن الأفعال المساعدة (light verbs) في اللغة الأردية تتمايز بشكل منهجي عن نظيراتها من الأفعال الرئيسية في بنية الحدث، مع الحفاظ على الارتباط المعجمي الخاص بالكلمة الأصلية (lemma)، بما يتوافق مع التحليل النظري لـ "بوت" (Butt).
تقدم الورقة البحثية MolEmb، وهو إطار عمل خفيف الوزن يعمل على تكييف النماذج اللغوية الكبيرة متعددة الوسائط لتعمل كنماذج تضمين جزيئي عامة ومدركة للسياق، مما يثبت قابليتها للتطبيق في التنبؤ بالخصائص والاسترجاع عبر الوسائط من خلال محاذاة تباينية ثنائية الاتجاه بين الملامح الجزيئية والأوصاف النصية.