23088 ورقة بحثية
تقدم هذه الورقة طريقة التقطير الذاتي داخل السياسة الموزون بالموضع (PW-OPSD)، وهي طريقة تعمل على تحسين أداء نماذج الاستدلال من خلال تحديد أن موثوقية توكن المعلم تتبع نمطاً ذا بنية مسارية يمكن التنبؤ به بشكل أفضل عبر موضع التوكن بدلاً من الإنتروبيا، مما يسمح بالتقطير المستهدف دون حسابات إضافية للمعلم.
تُعد AgForce بنية مشفر-فك تشفير (encoder-decoder) مبتكرة تتغلب على مشكلتي "العمى المستضدي" و"انهيار المفردات" في طرق تصميم الأجسام المضادة الحالية عبر توظيف مكونات متخصصة مثل إسقاط الإطار (framework dropout)، والوحدات العنقودية المبوّبة (gated bottlenecks)، وشبكة كثافة الخليط (Mixture Density Network) لتحقيق تصميم أجسام مضادة متفوق مشروط بالمستضد مع تحسين جودة الارتباط واستعادة التسلسل.
يقدم UniVL إطار عمل موحداً لتمثيل الرؤية واللغة يلغي الحاجة إلى مشفرات نصية مستقلة عبر القراءة البصرية للتعليمات المُصوّرة مكانياً لتحقيق توليد صور سياقي عالي الجودة وفعال ومحدد مكانياً.
تقدم الورقة البحثية ASSEMBLAGE-DEEPHISTORY، وهي مجموعة بيانات ثنائية شاملة متعددة البناء تحتوي على 73,610 ملفاً ثنائياً من 248 مشروعاً مفتوح المصدر توحد سياق التجميع، والشيفرة المصدرية، وتسميات الثغرات الأمنية (CVE) عبر المترجمات، ومستويات التحسين، والزمن، مما يتيح تحليلات جديدة للكشف عن الثغرات الأمنية في الملفات الثنائية والتشابه بينها.
تقدم هذه الورقة البحثية "BlockFormer"، وهو أسلوب قائم على المحولات (transformer) تم تدريبه على بيانات اصطناعية يستنتج بدقة المعلمات من خرائط التفاعل متغيرة الحجم، وهو ما تجلى في تطبيقه الناجح لتحديد موقع السنترومير عبر أنواع مختلفة.
تقدم هذه الورقة "الأجزاء المتشابهة" (Alike Parts)، وهو إطار عمل يعزز التفسيرات القائمة على النماذج الأولية باستخدام درجات أهمية الميزات لتسليط الضوء على الميزات ذات الصلة المشتركة من أجل التفسير المحلي، ولتعزيز تنوع الميزات في اختيار النماذج الأولية العالمية دون المساس بدقة التنبؤ.
تؤسس هذه الورقة نظرية مجال متوسط لعملية الإسقاط (dropout) باعتبارها اضطراباً لانتشار الإشارة الحرج، كاشفةً عن فئات عالمية متميزة للتنشيطات الناعمة مقابل المنكسرة، ومستنتجةً جداول زمنية مثالية للإسقاط تعتمد على التقديم الأمامي، والتي تقلل بشكل كبير من خسارة الاختبار في الشبكات العصبية العميقة.
يُعد EntmaxKV إطار عمل لفك التشفير المتناثر المدرك للدعم، والذي يستفيد من التناثر الدقيق لانتباه -entmax لتحميل صفحات ذاكرة التخزين المؤقت (KV cache) بشكل انتقائي قبل عملية الاستدلال، مما يقلل بشكل كبير من حركة مرور الذاكرة ويحقق تسارعاً جوهرياً في توليد السياقات الطويلة مع الحفاظ على دقة مقاربة للنماذج المرجعية ذات الذاكرة الكاملة.
تجادل هذه الورقة بأن كواشف النصوص المعتمدة على الذكاء الاصطناعي تعمل أساساً على تضخيم محور "النمطية" (typicality) المُدرب مسبقاً والمتأصل في المشفرات الخام بدلاً من تعلم حد فاصل متميز بين الذكاء الاصطناعي والبشر، وهي آلية تفسر فشلها في التعامل مع كتابات غير الناطقين باللغة، وقابليتها للتأثر بالتدخلات البسيطة، وحقيقة أن المسابر (probes) الدنيا يمكنها مضاهاة أداء الضبط الدقيق الكامل.
تقترح هذه الورقة فرضية تدرج القيمة لتفسير فعالية طرق التعلم المعزز الخالية من الناقد مثل PPO وGRPO في مرحلة ما بعد التدريب للنماذج اللغوية الكبيرة، حيث تُثبت أن تحديثات الممثل تقرب تدرجات القيمة من خلال التفاضل التلقائي وتضع معياراً لمتى يحقق التعلم المعزز أكبر المكاسب بناءً على إشارة القيمة وهامش المكافأة.