27306 ورقة بحثية
تقدم هذه الورقة البحثية "Power-Softmax"، وهي نسخة مبتكرة من آلية الانتباه الذاتي (self-attention) متوافقة مع التشف𝙩 المتماثل (HE)، تتيح تدريب أول نماذج لغوية كبيرة (LLMs) ذات بنية متعددة الحدود بمليار معلمة، والتي تكون قادرة على إجراء استدلال آمن على البيانات المشفرة مع الحفاظ على قدرات الاستنتاج والتعلم في السياق المماثلة لنماذج المحولات (transformers) القياسية.
تجادل هذه الورقة بأن مفهوم الارتباطات الزائفة في أبحاث تعلم الآلة لا يتم تعريفه من خلال خصائص إحصائية ثابتة، بل يتم التفاوض عليه من خلال أربعة "أطر براغماتية" — وهي الصلة، والقدرة على التعميم، والمشابهة البشرية، والضرر — والتي تعكس أحكاماً تقنية ومعرفية وأخلاقية سياقية حول سلوك النموذج.
تقدم هذه الورقة أول استقصاء منهجي لـ "توريث التحيز"، حيث توضح كيف يمكن للنماذج اللغوية الكبيرة المستخدمة في تعزيز البيانات أن تنقل وتضخم تحيزات التدريب إلى المهام اللاحقة، مع تحديد عوامل عدم الاتساق الرئيسية واقتراح ثلاث استراتيجيات تخفيف متميزة لمعالجة هذا التحدي.
تعد MusicInfuser طريقة فعالة تعمل على تكييف نماذج الانتشار من النص إلى الفيديو المدربة مسبقًا لإنتاج مقاطع فيديو لرقصات عالية الجودة ومتزامنة مع الموسيقى عبر الضبط الدقيق الانتقائي لطبقات محددة، مما يحقق تعميمًا قويًا وتزامنًا دون الحاجة إلى بيانات حركة أو موارد حوسبة مكثفة.
تقدم الورقة البحثية TF1-EN-3M، وهي مجموعة بيانات مفتوحة ومبتكرة تضم ثلاثة ملايين حكاية أخلاقية إنجليزية اصطناعية تم إنشاؤها بواسطة نماذج لغوية صغيرة ذات أوزان مفتوحة باستخدام هيكل مكون من ست خانات منظم ومسار تقييم قابل لإعادة الإنتاج، مما يثبت إمكانية تحقيق سرد قصص أخلاقية عالي الجودة وضخم النطاق دون الاعتماد على النماذج العملاقة المملوكة لجهات خاصة.
تقدم هذه الورقة ResQu، وهو إطار عمل جديد لرفع دقة الصور يجمع بين المعالجة المسبقة باستخدام المويجات الكواترنيونية ونماذج الانتشار الكامنة ومعايير النماذج التأسيسية لتحقيق جودة إدراكية فائقة ودقة هيكلية، لا سيما عند عوامل التكبير العالية.
تقدم هذه المساهمة إطار عمل NFDRL، وهو إطار عمل فعال من حيث المعلمات للتعلم التعزيزي التوزيعي يستفيد من التدفقات الطبيعية المستمرة ومسافة كرامر (Cramér) المبتكرة المدركة للهندسة لنمذجة توزيعات العوائد المعقدة ببصمة مدمجة مع ضمان التقارب النظري وتقدير تدرج غير منحاز.
تقدم هذه الورقة نموذج الانتشار العلائقي المشروط بالرسم البياني (GRDM)، وهو نهج مبتكر يسخر الشبكات العصبية الرسومية لتوليد جميع الجداول في قاعدة بيانات علائقية بشكل مشترك دون فرض ترتيب تسلسلي، مما يتفوق على النماذج المرجعية ذات التوليد الذاتي في التقاط التبعيات المعقدة بين الجداول وتحقيق أحدث مستويات الدقة.
تقدم هذه الورقة ATR-Bench، وهو إطار عمل مرجعي موحد للتعلم الاتحادي يعمل على تقييم الأساليب بشكل منهجي عبر ثلاثة أبعاد أساسية — التكيف، والثقة، والاستنتاج — لمعالجة غياب التقييم المعياري وتسهيل المقارنة العادلة في تدريب النماذج اللامركزية.
تقترح هذه الورقة CreTTA، وهي طريقة قابلة للتوسع للتكيف في وقت الاختبار، تعيد صياغة تعلم التوزيع الهامشي كمسألة طاقة متبقية تباينية للقضاء على أخذ العينات المكلف، وضمان تنبؤات جيدة المعايرة، ومنع الإفراط في التخصيص دون الاعتماد على تقديرات التسميات غير المؤكدة.