25265 ورقة بحثية
تتناول هذه الورقة التحدي الذي كان مستعصياً في السابق والمتمثل في التلاعب الدلالي العالمي عالي الدقة في ضغط الصور المتعلم عبر تحليل فشل الهجمات القياسية واقتراح طريقة PGD-GSM جديدة ذات جدول زمني لـ "الاضمحلال الهندسي الدوري" لتنفيذ مثل هذه الهجمات بنجاح.
يُعد AdaPreLoRA مُحسِّنًا مبتكرًا لتقنية LoRA يعالج مشكلة التفرد في مسبق المترادفات للفضاء العاملي (factor-space preconditioner) عبر اعتماد مسبق مترادفات كرونيكر قطري (diagonal Kronecker preconditioner) قائم على Adafactor في فضاء الأوزان، واختيار تحديث عاملي ذي صيغة مغلقة يقلل من عدم التوازن المرجح بـ ، مما يحقق أداءً تنافسيًا عبر مختلف النماذج والمهام مع الحفاظ على انخفاض عبء الذاكرة.
تتقصى هذه الورقة بشكل منهجي التقليم الهيكلي وتقطير المعرفة لضغط نماذج خليط الخبراء (MoE) واسعة النطاق أثناء مرحلة ما قبل التدريب، مبرهنةً على أن التقليم يوفر تهيئة فائقة، وأن جداول الضغط التدريجية تتفوق على أساليب الخطوة الواحدة، وأن الجمع بين نمذجة اللغة وتقطير التنبؤ متعدد الرموز يحقق أداءً تنافسياً في نموذج أصغر حجماً بشكل ملحوظ.
تقدم هذه الورقة "الأبعاد السببية" (كابا) كمقياس جوهري للنموذج يحدد الرتبة الفعالة للتأثير السببي لطبقة المحول (transformer)، مما يكشف أنه بينما تتوسع القدرة التمثيلية خطياً مع عرض المشفّر التلقائي المتناثر (sparse autoencoder)، فإن القدرة السببية تتشبع عند مستوى دون خطي يظل ثابتاً تجاه حجم النموذج ويظهر أنماطاً هيكلية متميزة عبر عمق الشبكة.
يقدم MeshFIM إطار عمل "الملء من المنتصف" (Fill-in-the-Middle) القائم على التوليد الذاتي، والذي يتيح تحريراً وإصلاحاً محلياً فعالاً وعالي الجودة للشبكات منخفضة المضلعات عبر إعادة توليد مناطق محددة مشروطة بالسياق المحيط، مما يتغلب على عدم الكفاءة والاضطراب الهيكلي الذي تسببه طرق إعادة التوليد التقليدية التي تعتمد مبدأ "الكل أو لا شيء".
تقدم هذه الورقة "الترميز الصوتي المعجمي" (LAC)، وهو إطار عمل تتواصل فيه وكلاء النماذج اللغوية الكبيرة (LLM) المدربة مسبقًا عبر الصوت من خلال تحويل الموجات الصوتية إلى أوصاف نصية إنجليزية قابلة للتفسير وإعادة بنائها عبر صقل الحلقة المغلقة، مما يعامل اللغة الطبيعية فعليًا كتمثيل نقل فاقد ذي معدل محدود للصوت.
تقترح هذه الورقة إطار عمل OLSF-TRS، وهو إطار عمل معمم وقابل للتوسع يدمج التحسين التوافقي المهيكل مع التعلم المعزز متعدد الوكلاء لتحسين القرارات المتسلسلة للطلبات والحاويات والروبوتات في أنظمة مناولة الحاويات الروبوتية، محققاً أداءً قريباً من الأمثل في النطاقات الصغيرة ومتفوقاً بشكل كبير على أفضل الخوارزميات الاستدلالية الحالية في السيناريوهات واسعة النطاق من خلال تقليل حركات الحاويات وتعزيز الكفاءة التشغيلية.
تحدد هذه الورقة أن طرق نسيان النماذج اللغوية الكبيرة الحالية غالباً ما تخل بالأمانة من خلال الهلوسة أو التصرف بشكل غير متسق، وتقترح تعريفاً رسمياً لنسيان الأمانة إلى جانب طريقة جديدة تسمى ReVa تعمل على تحسين فعالية النسيان وفائدة المعرفة المستبقاة بشكل كبير.
تقدم هذه الورقة EDMolGPT، وهو إطار عمل توليدي يستفيد من خرائط كثافة الإلكترونات منخفضة الدقة لملء موقع الارتباط كشرط قائم على أسس فيزيائية للتصميم الجزيئي الجديد (de novo)، مما يتغلب على قيود تمثيلات الجيوب الصلبة ويُمكّن من توليد جزيئات ذات هيئات ثلاثية الأبعاد واقعية.
يُعد EvoMAS إطار عمل مبتكر يعالج أوجه القصور في تصميمات الوكلاء المتعددين الاستاتيكية ذات الخطوة الواحدة، وذلك من خلال التعلم لبناء وتكييف سير العمل ديناميكيًا أثناء وقت التنفيذ عبر عملية اتخاذ قرار تسلسلية على المستوى الميتا، مما يؤدي إلى تحسين الأداء بشكل كبير في المهام المعقدة طويلة الأمد.