22999 ورقة بحثية
تقدم الورقة البحثية MobileMoE، وهي عائلة من نماذج لغوية تعتمد على تقنية "خليط الخبراء" (Mixture-of-Experts) ذات معلمات تقل عن المليار، مصممة للعمل على الأجهزة، والتي تعمل على تحسين البنية والتدريب لتحقيق أداء وكفاءة متفوقين مقارنة بالنماذج الكثيفة ونماذج "خليط الخبراء" المرجعية الحالية، مما يتيح استنتاجاً سريعاً على الهواتف الذكية الشائعة.
تقدم الورقة البحثية MUSE-Autoskill، وهو إطار عمل لوكيل ذاتي التطور يعزز قدرات حل المهام من خلال إدارة المهارات عبر دورة حياة موحدة من الإنشاء، والذاكرة، والإدارة، والتقييم، والتحسين، مع التعامل معها كأصول طويلة الأمد وواعية بالخبرة لتحسين قابلية إعادة الاستخدام، والموثوقية، ونقل المهارات عبر المهام.
تقدم هذه الورقة "التعلم الخطي الاتحادي القابل للنسيان" (Forgettable Federated Linear Learning)، وهو إطار عمل يقرب الشبكات العصبية العميقة باستخدام نماذج خطية لتمكين عملية نسيان اتحادي معتمدة وفعالة وآمنة دون الحاجة إلى اتصالات إضافية من العملاء أو تخزين النماذج التاريخية.
تقدم هذه الورقة إطار عمل لتقسيم صور الرنين المغناطيسي لا يتطلب تدريباً، وذلك باستخدام تحليل البيانات الطوبولوجية والهمولوجيا المستمرة المكعبة لتقسيم البنى التشريحية تلقائياً دون الحاجة إلى مجموعات بيانات ضخمة موسومة، مما يوفر خطاً مرجعياً قابلاً للتفسير ومناسباً لإعدادات البيانات الشحيحة وصقل الخبراء.
تقترح الورقة البحثية "تمثيل هادامارد" (Hadamard Representation)، وهو تعديل معماري بسيط يستبدل الطبقات الخفية القياسية بضرب عناصر طبقتين مستقلتين، وذلك لمنع خمول الخلايا العصبية وزيادة الرتبة الفعالة، مما يؤدي باستمرار إلى تحسين أداء خوارزميات التعلم المعزز المختلفة الخالية من النماذج عبر مجالات متعددة دون الحاجة إلى ضبط المعلمات الفائقة.
تتقصى هذه الدراسة كيفية تأثير تقنيات التقليم واستراتيجيات إعادة التدريب المختلفة على أداء التصنيف وقابلية التفسير لنموذج "GoogLeNet" على مجموعة بيانات "ImageNet"، حيث وجدت أن إعادة التدريب الكافية يمكن أن تستعيد دقة خط الأساس أو تتجاوزها، بينما كشفت أن درجة التفسير الآلي (MIS) لا ترتبط بمعدلات التقليم وقد لا تتماشى مع المفاهيم الحدسية لقابلية التفسير.
تقدم هذه الورقة البحثية إطار عمل "مشاركة المعلمات دقيقة التفاصيل" (FiPS)، وهو إطار عمل موحد لضغط طبقات "المتعددة الطبقات ذات التغذية الأمامية" (MLPs) في نماذج "المحولات" (Transformers) عبر التحسين المشترك لمشاركة المعلمات عبر الكتل، والتحليل ذي الرتبة المنخفضة، والتناثر، مما يحقق تقليصاً كبيراً في حجم النموذج مع حد أدنى من الفقد في الدقة في كل من "محولات الرؤية" (Vision Transformers) و"النماذج اللغوية الكبيرة" (Large Language Models).
تقدم هذه الورقة البحثية GDformer، وهو إطار عمل جديد للكشف عن الشذوذ غير الخاضع للإشراف يستفيد من محول معزز بقاموس عالمي للتغلب على قيود تحليل السلاسل الفرعية المنعزلة من خلال إنشاء معيار كشف موحد على مستوى السلسلة يعتمد على التمثيلات العالمية وأوزان الارتباط، محققاً بذلك أداءً هو الأفضل في فئته عبر العديد من المعايير الواقعية.
يُعد ReactEmbed وحدة برمجية خفيفة الوزن وسهلة الاستخدام، تعمل على توحيد تمثيلات البروتينات والجزيئات المنفصلة في فضاء وظيفي مشترك من خلال الاستفادة من شبكات التفاعلات الكيميائية الحيوية، مما يتيح نمذجة فعالة عبر المجالات دون الحاجة إلى إعادة تدريب مكلفة.
تُقدم الورقة البحثية نموذج FragmentNet، وهو نموذج من الرسم البياني إلى المتسلسلة (graph-to-sequence) يستخدم أداة ترميز تكيفية مبتكرة لتفكيك الجزيئات إلى شظايا صالحة كيميائياً ذات حبيبية قابلة للضبط، مما يثبت أن التدريب المسبق على مستوى هذه الشظايا يحسن بشكل كبير أداء التنبؤ بالخصائص في المهام اللاحقة مقارنة بالنهج التقليدية القائمة على مستوى الذرة أو القواعد الصارمة.