22512 ورقة بحثية
تكشف هذه الورقة أن عبء الإرسال في WebGPU، وليس جودة النواة، هو العائق الأساسي لاستنتاج النماذج اللغوية الكبيرة (LLM) ذات الدفعة الواحدة في المتصفحات، مما يثبت أن القياسات البسيطة تبالغ في تقدير التكاليف بسبب تداخل التزامن وتخلص إلى أن تقليل عدد عمليات الإرسال من خلال التجميع هو استراتيجية التحسين الأكثر فعالية.
تقدم هذه الورقة البحثية حلاً لتخزين نقاط التنشيط (activation checkpointing) موفرًا للذاكرة لمكتبة PyTorch يجمع بين النافذة المنزلقة وخوارزمية هيرشبيرغ لتقليل ذروة استخدام الذاكرة من إلى ، مما يتيح حل مشكلات حقيبة الظهر (knapsack problems) ذات القيم 0/1 الأكبر بكثير مع تسريع في وقت التشغيل بنسبة 25-28% ودمجه لاحقًا في PyTorch 2.10.
تقترح هذه الورقة خوارزمية جديدة لمعالجة البيانات مسبقاً باستخدام رسم خرائط التوزيع المئيني لتحقيق العدالة المضادة للواقع في التعلم التعزيزي من خلال تقدير الحالات والمكافآت المضادة للواقع دون الاعتماد على افتراضات الجمع الصارمة، مع توفير حدود نظرية لعدم العدالة وعدم المثالية والتحقق من النهج من خلال تجارب عددية وتجارب واقعية في مجال الصحة الرقمية.
تقترح هذه الأبحاث الجارية طريقة ضبط دقيق واعية بالكربون تدمج بديل طاقة قابلاً للتفاضل في دالة الخسارة لتحديد منطقة "نقطة التعادل" المعتمدة على النموذج والمهمة، حيث يمكن للنماذج اللغوية الكبيرة تحقيق دقة محسنة في المهمة مع انبعاثات كربونية إضافية معدومة أو تقترب من الصفر.
تقترح هذه الورقة إطار عمل قائم على نظرية المجال المتوسط (mean-field) يستنبط مخطط جزيئات متفاعلة موزونة لتوجيه نماذج الانتشار نحو مكافآت محددة على مستوى التوزيع أثناء وقت الاستدلال، مما يوسع طرق المكافأة النقطية الحالية ويوفر أساساً مبدئياً للتوجيه على مستوى الدفعة.
تقدم الورقة البحثية ORCA، وهو إطار عمل يتم التحكم فيه وكيلِيًّا لشبكات الجسم اللاسلكية يقوم بتكييف المجالات الاستقبالية الزمنية ديناميكيًا عند وقت الاستدلال بناءً على إحصاءات الإشارة خفيفة الوزن، محققًا أداءً قويًا في كشف الشذوذ عبر البيانات الفسيولوجية غير المتجانسة دون الحاجة إلى إعادة التدريب أو الضبط الخاص بمجموعة بيانات معينة.
تقترح هذه الورقة البحثية "الانتباه المتناثر للعاطفة" (SAE)، وهو نموذج فعال للتعرف على تعبيرات الوجه العاطفية يقوم بالتخلص من ما يصل إلى 90% من رموز الصورة لتحقيق دقة تضاهي أحدث المعايير في مجموعة بيانات (RAF-DB) مع تقليل التعقيد الحسابي بشكل كبير من أجل النشر على الأجهزة الطرفية.
تقدم هذه الورقة Fling، وهي طريقة جديدة لتخطيط الرسوم البيانية تستبدل تحسين الإحداثيات المباشر بمجال عصبي ضمني مدمج يتم تمثيله بواسطة سمات العقد والمعالم، مما يتيح رسمًا بيانيًا قابلاً للتوسع، وفعالاً في استهلاك العينات، وقابلاً للتوسع يتفوق على تقنيات تقليل الإجهاد الحالية مع دعم قيود جمالية متنوعة.
يقدم DistillCache إطار عمل للتعلم التعزيزي يتعلم سياسة خفيفة الوزن لإقصاء رموز ذاكرة التخزين المؤقت (KV-cache) بشكل تكيفي بناءً على إشارات النموذج الداخلية ومكافآت تباعد كولباك - ليبلير (KL-divergence)، محققاً كفاءة فائقة في الذاكرة والحفاظ على الدقة لاستنتاج النماذج اللغوية الكبيرة ذات السياق الطويل مقارنة بالطرق الاستدلالية والمتزامنة الحالية.
تقترح هذه الورقة طريقة تعلم قائمة على الفيزياء تعمل على تحسين تحديد المواقع الصوتي الزائدي الكلاسيكي لتحقيق أداء قوي ومعاير لعدم اليقين في البيئات الخارجية المعقدة، مما يتيح مراقبة آلية قابلة للتوسع للحياة البرية.