24235 ورقة بحثية
تقترح هذه الورقة البحثية إطار عمل VARS-FL، وهو إطار لاختيار العملاء في التعلم الاتحادي غير المتماثل (non-IID) في أنظمة إنترنت الأشياء، والذي يعمل على تحسين التقارب والاستقرار من خلال تجميع انخفاضات خسارة التحقق من جانب الخادم في درجة سمعة مدركة للتاريخ، متفوقاً بذلك على الأساليب الحالية مثل FedAvg وOort على مجموعة بيانات Edge-IIoTset.
يُعد VisMMoE نظام تفريغ فعال لنماذج خليط الخبراء للرؤية واللغة واسعة النطاق، حيث يستفيد من تقارب الخبير البصري من خلال تقليم الرموز والتنسيق التنبؤي لتحسين أداء الاستدلال بشكل كبير على المنصات ذات الذاكرة المحدودة.
تقدم هذه الورقة البحثية آلية "اضطراب الهدف التربيعي" (QOP)، وهي آلية جديدة للخصوصية التفاضلية في تقليل المخاطر التجريبية تستبدل فرضية التدرج المحدود للطرق الخطية التقليدية باضطرابات تربيعية عشوائية قائمة على الانحناء، مما يحقق ضمانات الخصوصية والمنفعة تحت فرضيات أضعف، بما في ذلك في نظام الاستيفاء ومع الحلول التقريبية.
تقترح هذه الورقة إطار عمل PREFER، وهو إطار تعلم عبر الإنترنت يقوم بإنشاء ملخصات مخصصة لمراجعات المنتجات من خلال صقل فهمه لتفضيلات المستخدمين الفردية بشكل تكراري عبر التغذية الراجعة المباشرة، متجاوزاً بذلك قيود أنظمة التلخيص الثابتة والعامة.
تقدم الورقة البحثية DropsToGrid، وهو عملية عصبية مكانية-زمانية مدركة للضجيج تدمج بيانات محطات الأرصاد الجوية المتفرقة والمشوبة بالضجيج مع سياق الرادار لتوليد خرائط هطول أمطار عالية الدقة وذات عدم يقين مُعاير جيداً، متفوقة بذلك على النماذج التشغيلية ونماذج التعلم العميق المرجعية الحالية.
تقترح الورقة البحثية تقنية تقطير السياسة القريبة (NPD)، وهي إطار عمل غير متزامن يعمل على تسريع تقطير المعرفة القائم على السياسة من خلال فصل عملية التوليد عن التدريب واستخدام تصفية -IFD للتخفيف من تأخيرات السياسة، مما يحقق تسريعاً بمقدار 8.1 ضعفاً وأداءً فائقاً مقارنة بالضبط الدقيق للتعلم الخاضع للإشراف (SFT) القياسي والنماذج الأكبر حجماً.
تُثبت هذه الورقة أنه بينما تُنتج بنيات الدوائر الكمومية التباينية المختلفة، ذات ميزانية الترميز نفسها، أطيافاً ترددية متطابقة، فإن قابليتها للتدريب تخضع بشكل جوهري للشكل البنيوي، حيث تعاني التصميمات المتسلسلة من تجويع التدرج الهيكلي بسبب نقص رتبة جاكوبي، في حين تضمن التصميمات المتوازية وإضافة طبقات خريطة الميزات كفاءة المعلمات والتقارب القوي.
تقدم هذه الورقة "رسم خرائط الثقة الفائقة للكرة" (HCM)، وهو إطار عمل بسيط، وخالٍ من أخذ العينات، وخالٍ من التوزيع، يستفيد من القيود الهندسية على الكرة الفائقة الوحدة لتوفير تقديرات يقينية، وقابلة للتفسير، وفعالة من حيث التكلفة لمهام الانحدار والتصنيف، متفوقاً بذلك على أساليب التجميع والأساليب البرهانية القائمة في مواءمة الثقة مع الخطأ.
تثبت هذه الورقة أن عقوبة سوء التوصيف في تحسين النطاق الكيرنلي (kernelized bandit optimization) — سواء في الحالة غير المتصلة (الندم البسيط) أو الحالة المتصلة (الندم التراكمي) — يمكن تقليلها من عامل جذر تربيعي للتعقيد إلى عامل لوغاريتمي أو لوغاريتمي متعدد، وذلك عبر استغلال التمركز الطيفي في الحالة غير المتصلة وتقسيم المجال المكاني في الحالة المتصلة.
تقدم هذه الورقة البحثية "التدريب الواعي لضغط مفاتيح والقيم (KV-CAT)"، وهي طريقة للتدريب المسبق المستمر تقوم بحجب فجوات (KV) أثناء التدريب لتحفيز تعلم تمثيلات قابلة للضغط بطبيعتها، مما يحسن بشكل كبير من فعالية ضغط ذاكرة التخزين المؤقت (KV cache) اللاحقة لنمذجة اللغة ذات السياق الطويل.