22512 ورقة بحثية
تقدم هذه الورقة مراجعة شاملة للشبكات العصبية الكمومية الهجينة، حيث تجمع بين أسسها النظرية، وبنياتها المتنوعة، وتحديات تنفيذها لتقديم منظور مهيكل حول أدائها الحالي وإمكاناتها المستقبلية في الجسر بين التعلم الآلي الكلاسيكي والكمومي.
يُظهر ReBRAC-v2 أن تحديث نموذج "الممثل-الناقد" (actor-critic) التقليدي المنظم بالسلوك بشكل منهجي عبر خيارات هندسية محددة — مثل الممثلين القائمين على التدفق الطبيعي (normalizing flow actors)، والتنظيم السلوكي المختلط، والتحسين المرحلي — يمكن أن يحقق أداءً يضاهي أحدث ما توصل إليه العلم عبر معايير متنوعة للتعلم التعزيزي غير المتصل (offline reinforcement learning) باستخدام تكوين واحد قابل للنقل دون تغييرات هيكلية خاصة بكل مهمة.
تتقصى هذه الورقة المقايضة بين سرعة التقارب وفجوة الأمثلية في تعلم الآلة الموزع، حيث تثبت من خلال عمليات المحاكاة أنه بينما تعمل الدوال القائمة على دالة الإشارة (signum) غير الليبشيتزية على تسريع التقارب في الانحدار الموزع، إلا أنها تؤدي حتماً إلى إدخال فجوات أمثلية كبيرة في الحالة المستقرة مقارنة بالطرق الخطية.
تؤسس هذه الورقة قانون قياس نظري يربط بين دقة تحولات التوزيع والدرجة متعددة الحدود المطلوبة للكشف، مما يثبت أن اختبار النواة المعاير بنطاق ترددي يتفوق على كل من الإحصاءات القائمة على العزوم والطرق الطوبولوجية في تحديد التغيرات في التضمينات عالية الأبعاد.
تقدم هذه الورقة وصفة تدريب عملية لنموذج المحول الموحد (nGPT) تدمج تقنيات مثل "التهيئة المسبقة لتدرج اللوجيت" (Logit Gradient Preconditioning) و"GatedAdamW"، مما يمكّن نماذج خليط الخبراء (MoE) الهجينة من نوع "مامبا-محول" (Mamba-Transformer) ذات الـ 14 مليار معلمة من تحقيق نفس خسارة التحقق التي تحققها نظيراتها غير الموحدة باستخدام نصف عدد رموز التدريب تقريباً.
تقدم الورقة البحثية Router-Mem، وهو إطار عمل تنفيذ تدريجي مشروط بالأدلة يقرر ديناميكيًا ما إذا كان سيتم الإنهاء المبكر أو توسيع استرجاع الذاكرة بناءً على كفاية الأدلة، مما يحقق جودة إجابة قوية مع تقليل زمن انتقال الاستدلال بشكل كبير مقارنة بالتنفيذ الكامل للذاكرة.
تقدم هذه الورقة خوارزمية أخذ عينات غير تكييفية تحقق تقريباً بمقدار لانحدار النشط في نماذج المؤشر الواحد ذات دوال الربط غير المعروفة باستخدام تعقيد استعلام قريب من الأمثل، مع إثبات حدود دنيا قريبة من الإحكام لـ لسد فجوات كبيرة في الأدبيات الحالية.
تجادل هذه الورقة بأنه عندما يتم تقييم كفاءة التقريب من خلال التعقيد البتي الحسابي بدلاً من عدد المعلمات، لا تتفوق أي طريقة بشكل جوهري على الحدود المتأصلة التي يفرضها الإنتروبيا المترية، مما يكشف أن المزايا المتصورة للشبكات العصبية تنبع غالباً من الاختلافات في تعقيد فئة الدوال بدلاً من التفوق المعماري، ويعيد صياغة "لعنة الأبعاد" التقليدية باعتبارها "لعنة تعقيد بتي" أكثر جوهرية.
تُثبت هذه الورقة أن قدرة التنبؤ المقنع على تحديد التوزيع المشترك للبيانات الأساسية تعتمد كلياً على جدول القناع، مما يكشف أن الجداول التي تهيمن عليها السياقات الكبيرة تعاني من "عمى الأنماط" حيث يمكن لأخطاء الهدف الضئيلة أسياً أن تحجب التحولات التوزيعية العيانية، في حين أن الأقنعة ذات الرؤية المنخفضة وكتلة القناع الكامل الإيجابية تستعيد قابلية التحديد من خلال الحفاظ على الحساسية تجاه أوزان الأنماط العالمية.
يُعد QR-Erase إطار عمل فعال لـ "إلغاء التعلم" (machine unlearning) يعتمد على الفضاءات الجزئية (subspace-based)، حيث يستخدم تحليل QR المحوري وتحديد المواقع في الطبقات لإزالة المعلومات الخاصة بالمهمة بدقة من معاملات النموذج، محققاً بذلك توازناً متفوقاً بين النسيان والاحتفاظ يضاهي الأساليب القائمة على تحليل القيم المفردة (SVD) مع تجنب تكاليفها الحسابية.