12253 ورقة بحثية
تقترح الورقة البحثية "تنعيم الانتباه لغرض النسيان" (ASU)، وهو إطار عمل يعمل بفعالية على محو المحتوى الحساس المحفوظ في النماذج اللغوية الكبيرة من خلال تسطيح توزيعات الانتباه عبر قياس درجة الحرارة، مما يحقق نسيانًا قويًا مع الحفاظ على فائدة النموذج وتماسك الاستجابة.
تقدم هذه الورقة أول بنية هجينة بين "مامبا" (Mamba) و"ترانسفورمر" (Transformer) لعملية التلخيص الاستخراجي، والتي تستفيد من نماذج فضاء الحالة ذات الزمن الخطي لمعالجة المستندات الكاملة دون بتر، محققةً تحسينات كبيرة في مقاييس (ROUGE) وسرعة أكبر في الاستدلال في سيناريوهات الموارد المنخفضة مقارنة بالطرق الحالية.
تقدم هذه الورقة "اختبار تورينج الفردي" باستخدام بيانات رسائل خاصة تمتد لعشر سنوات لتقييم طرق محاكاة النماذج اللغوية الكبيرة المختلفة، كاشفةً أنه بينما تفشل النماذج الحالية في محاكة فرد معين بشكل مقنع أمام معارفه، إلا أنها تظهر نقاط قوة متميزة في التقاط الأسلوب اللغوي مقابل المعرفة الشخصية اعتماداً على ما إذا كانت الأساليب المستخدمة بارامترية (الضبط الدقيق) أم غير بارامترية (الاسترجاع المعزز أو الذاكرة).
تقدم هذه الورقة JailNewsBench، وهو أول معيار متعدد اللغات وإقليمي مصمم لتقييم مدى عرضة النماذج اللغوية الكبيرة لتوليد الأخبار الزائفة الناجم عن كسر الحماية (jailbreak)، مما يكشف عن اختلالات أمنية كبيرة عبر اللغات والمناطق ويسلط الضوء على محدودية الدفاع ضد مثل هذه الهجمات في مجموعات البيانات الأمنية الحالية.
تكشف هذه الورقة أن مصنفات السلامة التي تعتمد على التضمينات المجمدة تعاني من تدهور كارثي في الأداء وإخفاقات صامتة خطيرة بسبب الانزياح الطفيف في التضمين في النماذج المضبوطة بالتعليمات، مما يتحدى الافتراض بأن آليات السلامة تظل قوية عبر تحديثات النماذج.
تقدم هذه الورقة Catalyst-Agent، وهو وكيل ذاتي التشغيل مدعوم بنماذج اللغات الكبيرة (LLM) يستفيد من بروتوكول سياق النموذج (Model Context Protocol) والشبكات العصبية الرسومية لفحص وتحسين واقتراح محفزات غير متجانسة جديدة لتفاعلات رئيسية مثل تفاعل اختزال الأكسجين (ORR)، وتفاعل اختزال النيتروجين (NRR)، وتفاعل اختزال ثاني أكسيد الكربون (CO2RR) بأقل قدر من التدخل البشري.
تقدم هذه الورقة البحثية "الحقيقة كمسار" (TaT)، وهي طريقة جديدة للتفسير تحلل الإزاحات الهندسية على مستوى الطبقات في النماذج اللغوية الكبيرة بدلاً من التنشيطات الساكنة، مما يميز بفعالية بين الاستدلال الصحيح والأنماط الزائفة من خلال التغلب على قيود الميزات متعددة الدلالات والمغالطات اللفظية.
تقدم الورقة البحثية MetaState، وهو تعزيز تكراري خفيف الوزن يزود نماذج لغة الانتشار المنفصلة المجمدة بذاكرة عمل مستمرة لحل مشكلة "جزيرة المعلومات"، مما يحسن الاتساق عبر الخطوات ودقة التوليد دون زيادة في معلمات الهيكل الأساسي.
يُعد PanCanBench معياراً شاملاً يتكون من 282 سؤالاً حقيقياً لمرضى سرطان البنكرياس و3,130 معياراً مستمداً من الخبراء، وهو يكشف عن تباينات كبيرة في الدقة الواقعية والاكتمال لـ 22 نموذجاً من النماذج اللغوية الكبيرة، مما يسلط الضوء على أن ارتفاع درجات المعايير وتكامل البحث عبر الويب لا يضمنان بالضرورة السلامة السريرية أو تقليل الهلوسة.
تقدم هذه الدراسة منهجية عامة لبناء مجموعات بيانات تعليمات اصطناعية عالية الجودة مع آثار استدلال تسلسل الأفكب (Chain-of-Thought) بدءاً من مفردات متخصصة في مجال معين، مما يثبت فعاليتها في تعزيز قدرات الاستدلال لنماذج اللغات الكبيرة (LLMs) في المجال المالي الياباني من خلال مجموعة بيانات تبلغ 9.5 مليار توكن.