22512 ورقة بحثية
تكشف هذه الورقة أن النماذج اللغوية ترمز السنة الحالية بشكل غير متسق، حيث تحافظ على مفهوم "ترابطي" قائم على مرحلة ما قبل التدريب من خلال آليات الاستدعاء الحقائقي التي تقاوم التعديل، بينما يتم تحديث المفهوم "التصريحي" الناتج عن مرحلة ما بعد التدريب بسهولة عبر التلقين، مما يخلق تباعداً جوهرياً يمنع التصحيح المتزامن لكلا المفهومين الزمنيّين.
يُعد DeltaLog مخطط فك تشفير يعتمد على الحالة المتكررة يعمل على تسريع نماذج الانتباه الخطي من خلال تأجيل التجسيد الكامل للحالة لصالح إلحاق تحديثات مدمجة بسجل لوغاريتمي محدود ودمجها دورياً، مما يقلل بشكل كبير من حركة مرور الذاكرة ويحسن سرعة الخدمة من البداية إلى النهاية.
تقدم هذه الورقة البحثية طريقة "إزالة التعلم عبر البروز الطيفي" (Spectral Saliency Unlearning - SSU)، وهي طريقة لإزالة التعلم الآلي مستوحاة من "Muon"، تقوم بتحديث الاتجاهات الطيفية الضعيفة بشكل انتقائي بناءً على إشارات إزالة تعلم واثقة لإزالة تأثير بيانات تدريب محددة بفعالية مع الحفاظ على فائدة النموذج عبر مختلف البنيات.
تُفند هذه الورقة فرضية تانغ-تشانج المتعلقة بأفضل ثابت في متباينات معيار شاتن للمصفوفات العامة من خلال تقديم مثال مضاد عند ، بينما تثبت في الوقت ذاته نتائج إيجابية حادة للحدود ذات الرتبة الواحدة عبر قيم مختلفة لـ وللحالة الخاصة لمصفوفتين عند .
تقترح هذه الورقة إطار عمل للتدريب متعدد المراحل لتعلم الآلة الكمي متعدد الوسائط يفصل بين تمثيلات الأسماء والعلاقات باستخدام الموترات والدوائر الكمية المتغيرة، مما يظهر تحسناً كبيراً في التعميم التركيبي على مجموعة بيانات CLEVR بعدد أقل بكثير من المعلمات القابلة للتدريب مقارنة بالنماذج الكلاساسية المرجعية.
إن FluxBin هو إطار عمل لتصميم مشترك بين الخوارزمية والنواة يجمع بين طريقة مبتكرة لتفكيك الثنائيات المنفصلة ونواة CUDA متخصصة باستخدام جداول البحث والتعيين العمودي الافتراضي لتمكين استنتاج النماذج اللغوية الكبيرة (LLM) بدقة بتّية فائقة الانخفاض مع تحقيق تسريع كبير في السرعة، وتوفير في الطاقة، وتقليل في الذاكرة مع الحفاظ على دقة عالية.
تقدم هذه الورقة البحثية TRI-HAR، وهو إطار عمل غير متأثر بالدوران يضمن هيكلياً المتانة تجاه تغيرات توجه وحدة القياس بالقصور الذاتي (IMU) المستقلة لكل موقع في التعرف على الأنشطة البشرية متعددة المستشعرات، وذلك من خلال توظيف عمود فقري متماثل مع مجموعة دوران (SO(3)) ودمج ميزات غير متغير، مما يتفوق على الطرق التقليدية القائمة على تعزيز الدوران دون الحاجة إلى معايرة صريحة أو تعزيز.
تقترح هذه الورقة إطار عمل على مستوى النموذج لتعميم القابلية للنقل استناداً إلى نظرية التجريد السببي، والذي يستبدل تحديد الاستعلامات النوعية بخريطة محاذاة واحدة لنقل جميع الاستعلامات في آن واحد، مع توفير حدود فترية معتمدة للسيناريوهات غير القابلة للنقل أو غير الموجهة لهدف محدد من خلال الأمثلة المتينة توزيعياً.
تثبت هذه الورقة أن خوارزمية CART تحقق التكيف المكاني الأمثل (minimax-optimal) مع النعومة المحلية وتباين الخواص عند استخدام قاعدة توقف الحد الأدنى من انخفاض الشوائب (MID)، بينما تثبت أن قاعدة الحد الأدنى لحجم الورقة المستخدمة على نطاق واسع تفشل في توفير هذا التكيف.
تقترح هذه الورقة البحثية إطار عمل ASCEND، وهو إطار ضغط متغاير تكيفي لعملية تقطير المعرفة الاتحادية، والذي يصيغ اختيار الاستراتيجية كمسألة "مقام متعدد الأذرع غير مستقر" لتحسين كفاءة الاتصال ووقت التدريب ديناميكيًا عبر موارد العملاء المتنوعة مع الحفاظ على دقة النموذج.