24832 ورقة بحثية
تقترح هذه الورقة طريقة قوية لتحديد بصمة النماذج اللغوية الكبيرة بناءً على توزيعات الانحراف المعياري المستقرة لمصفوفات معاملات الانتباه، مما يثبت أن هذه التوقيعات الجوهرية يمكنها تحديد سلالة النموذج وكشف انتهاك حقوق الطبع والنشر حتى بعد التدريب المستمر المكثف أو عملية إعادة التدوء (upcycling).
تقدم هذه الورقة DiaData، وهي قاعدة بيانات متكاملة واسعة النطاق تضم 149 مليون قياس لمستوى الغلوكوز من 2,510 شخصاً، صُممت لتعزيز أبحاث السكري من النوع الأول عبر توفير مجموعات بيانات شاملة لتعلم الآلة والكشف عن ارتباط بين تغيرات معدل ضربات القلب ونقص سكر الدم الوشيك.
تقدم هذه الورقة البحثية تقنية "المطابقة عند وقت الاختبار" (TTM)، وهي خوارزمية تكرارية ذاتية التحسين تعمل على تصحيح عيوب التقييم من خلال درجة مطابقة مجموعات مبتكرة، وتعزز بشكل كبير قدرات الاستدلال التركيبي في النماذج متعددة الوسائط، مما يمكنها من تجاوز النتائج السابقة المتفوقة والأداء البشري المقدر في المعايير الرئيسية.
تقترح هذه الورقة شبكة انتباه رسومية مبتكرة مستوحاة من الفيزياء، مدمجة مع توزيع باريتو المعمم المعتمد على الموسم والمكان، لتحسين التنبؤ طويل المدى بهطول الأمطار المتطرفة في تايلاند من خلال الاستفادة من الارتباطات عن بُعد وهياكل الرسوم البيانية الزمكانية.
تقدم هذه الورقة "الكنتورات القصوى" (Extremal Contours)، وهي طريقة تفسير لا تتطلب تدريباً تستبدل الأقنعة الكثيفة المتجزئة بكنتورات ناعمة ومحدبة نجمياً يتم تحسينها عبر تدرجات المصنف لإنتاج عزويات بصرية مدمجة ومستقرة وأمينة لنماذج الرؤية.
تقترح الورقة آلية تكييف فعالة من حيث المعلمات لمحاكيات الشبكة الرسومية (GNS) تستهدف طبقات تمرير الرسائل المبكرة لتمكين التكيف السريع مع خصائص المواد الجديدة ببيانات دنيا، مما يسهل تطبيقات تعميم المواد والتصميم العكسي.
تقدم الورقة البحثية **Belief Net**، وهو إطار عمل للترشيح القابل للتفاضل يتعلم معاملات نموذج ماركوف المخفي (HMM) القابلة للتفسير من خلال صياغة المرشح الأمامي كشبكة عصبية مهيكلة يتم تحسينها عبر التدرج الاشتقاقي العشوائي.
تقدم هذه الورقة AdaFair-MARL، وهو إطار عمل للتعلم التعزيزي متعدد الوكلاء التعاوني المقيد الذي يفرض عدالة تكيفية في عبء العمل من خلال آلية تحديث ثنائية الأصل (primal-dual) تعتمد على هندسة مؤشر جين للعدالة (Jain's Fairness Index)، محققاً استيفاءً شبه مثالي للقيود وتحسناً في التوازن دون الحاجة إلى ضبط يدوي للعقوبات.
تقدم الورقة البحثية تقنية **Selective RoPE**، وهي آلية لتدوير التضمين (rotary embedding) تعتمد على المدخلات وتعمل على تعميم الدورات ذات الزوايا الثابتة إلى زوايا عشوائية، مما يحسن الأداء في كل من نماذج الـ softmax والـ linear transformers من خلال السماح للنموذج بالتحكم ديناميكياً في الترميز الموضعي واضمحلال المعلومات.
تُعد TreeCoder إطار عمل مرن يعمل على تحسين دقة توليد الأكواد بواسطة النماذج اللغوية الكبيرة من خلال التعامل مع استراتيجيات فك التشفير ومختلف القيود (مثل القواعد النحوية والتنفيذ) كعناصر قابلة للتحسين ضمن عملية بحث شجري، مما يقلل من الحاجة إلى هندسة الأوامر اليدوية.