22510 ورقة بحثية
تقدم هذه الورقة البحثية التدريب المسبق الثابت (InvPT)، وهو طريقة تدريب مسبق مستمر تعتمد على الكود فقط، تجمع بين نمذجة اللغة المقنعة والتعلم التبايني الخاضع للإشراف متعدد الإيجابيات على كود تم تحويله دلالياً، وذلك لتحسين متانة النماذج القائمة على الترميز بشكل كبير ضد التباينات النحوية مع الحفاظ على الدقة القياسية.
تقدم هذه الورقة إطار عمل للتعلم الآلي مراعياً للحوكمة ومصمماً خصيصاً لمنظومة الأموال عبر الهاتف المحمول في رواندا، والذي يعالج الاختلال الشديد في فئات البيانات والقيود التشغيلية من خلال هندسة السمات السلوكية والمقارنة المرجعية لمصنفات متنوعة لتحسين الكشف عن المعاملات المشبوهة لصالح مركز الاستخبارات المالية.
تحدد هذه الورقة البحثية وتحلل نظرياً "لعنة الغموض" في النماذج اللغوية الكبيرة، مبرهنةً على أن توزيعات التوكن التالي الغامضة هي بطبيعتها أصعب في التعلم بدقة بسبب زيادة المتطلبات من حيث السعة، وأحجام التضمين، وخطوات التدريب، وتضخم ضجيج أخذ العينات، وهو استنتاج تم التحقق من صحته من خلال تجارب اصطناعية وواقعية.
تحل هذه الورقة مشكلة مركزية مفتوحة في تجميع المعلومات عبر الشبكات من خلال إثبات حد أدنى وثيق قدره لمتوسط مربع الخطأ للمتعلمين على رسم بياني موجه غير حلقي بعمق ، مما يطابق الحدود العليا الحالية ويمد النتيجة لتشمل فئة واسعة من دالات الخسارة المحدبة بما في ذلك الخسارة اللوجستية.
تقدم الورقة البحثية QSMP، وهي طريقة مبتكرة تجمع بين Quick Shift وMatrix Profile لتحديد المتتابعات الفرعية للسلاسل الزمنية التمثيلية بكفاءة لأغراض التلخيص والتصور، مع تعقيد مكاني متفوق مقارنة بالنهج الرائدة الحالية.
تكشف هذه الورقة أن النماذج اللغوية ترمز السنة الحالية بشكل غير متسق، حيث تحافظ على مفهوم "ترابطي" قائم على مرحلة ما قبل التدريب من خلال آليات الاستدعاء الحقائقي التي تقاوم التعديل، بينما يتم تحديث المفهوم "التصريحي" الناتج عن مرحلة ما بعد التدريب بسهولة عبر التلقين، مما يخلق تباعداً جوهرياً يمنع التصحيح المتزامن لكلا المفهومين الزمنيّين.
يُعد DeltaLog مخطط فك تشفير يعتمد على الحالة المتكررة يعمل على تسريع نماذج الانتباه الخطي من خلال تأجيل التجسيد الكامل للحالة لصالح إلحاق تحديثات مدمجة بسجل لوغاريتمي محدود ودمجها دورياً، مما يقلل بشكل كبير من حركة مرور الذاكرة ويحسن سرعة الخدمة من البداية إلى النهاية.
تقدم هذه الورقة البحثية طريقة "إزالة التعلم عبر البروز الطيفي" (Spectral Saliency Unlearning - SSU)، وهي طريقة لإزالة التعلم الآلي مستوحاة من "Muon"، تقوم بتحديث الاتجاهات الطيفية الضعيفة بشكل انتقائي بناءً على إشارات إزالة تعلم واثقة لإزالة تأثير بيانات تدريب محددة بفعالية مع الحفاظ على فائدة النموذج عبر مختلف البنيات.
تُفند هذه الورقة فرضية تانغ-تشانج المتعلقة بأفضل ثابت في متباينات معيار شاتن للمصفوفات العامة من خلال تقديم مثال مضاد عند ، بينما تثبت في الوقت ذاته نتائج إيجابية حادة للحدود ذات الرتبة الواحدة عبر قيم مختلفة لـ وللحالة الخاصة لمصفوفتين عند .
تقترح هذه الورقة إطار عمل للتدريب متعدد المراحل لتعلم الآلة الكمي متعدد الوسائط يفصل بين تمثيلات الأسماء والعلاقات باستخدام الموترات والدوائر الكمية المتغيرة، مما يظهر تحسناً كبيراً في التعميم التركيبي على مجموعة بيانات CLEVR بعدد أقل بكثير من المعلمات القابلة للتدريب مقارنة بالنماذج الكلاساسية المرجعية.