11070 ورقة بحثية
تُظهر هذه الورقة أن الاضطرابات المعجمية تضعف بشدة قدرة النماذج اللغوية الكبيرة على الاستنتاج من خلال تفتيت عملية التقطيع (tokenization) وتحويل الانتباه في طبقات المحولات (transformer layers)، وهو تأثير مزدوج يجعل استراتيجيات الإصلاح أثناء الاستنتاج غير فعالة لأنها تفشل في استعادة كل من المحتوى الفاسد وتخصيص الانتباه في آن واحد.
تحدد هذه الورقة "معضلة العمق والأداء" الحرجة في الضبط الدقيق للنماذج اللغوية الكبيرة عبر التعلم الاتحادي المجزأ، حيث تُثبت أنه بينما تزيد تقسيمات النماذج الأكثر عمقاً من كفاءة النظام والخصوصية، إلا أنها تؤدي حتماً إلى انهيار كارثي في الأداء بسبب ضجيج التجميع غير المحدود الذي يتسبب في "انهيار الانتباه" (Attention Collapse) في قسم الخادم، وهو فشل لا تستطيع طرق التجميع الاتحادي الحالية معالجته.
مستلهماً من نظرية أنظمة التعلم المتكاملة في علم الأعصاب، تقترح هذه الورقة "ذاكرة الوكيل ثنائية الطبقة"، وهو إطار عمل يعمل على تحسين ذاكرة الوكيل عبر استخدام نموذج متتالي مدرك للتكلفة لتوجز وتقليم المعلومات الواردة بشكل انتقائي للتخزين الخارجي، يليه دمج بارامتري دوري لاستيعاب المعرفة عالية القيمة داخلياً، مما يحافظ على دقة استرجاع عالية مع تقليل التخزين الزائد والتكاليف الحسابية بشكل كبير.
تقدم هذه الورقة إطار عمل GNRS-Search، الذي يوظف أخذ عينات ماركوف تشين مونت كارلو على رسم بياني من نوع "و-أو" (And-Or Graph) لتخليق قواعد معيارية مُجسدة، مما يحسن بشكل كبير من الجدوى التشغيلية والقابلية للتحقق في البيئات المنظمة من خلال فصل المنطق القابل للتنفيذ عن توليد النثر السطحي.
تُظهر هذه الدراسة أن الردود ذات الأسلوب البشري في سير عمل الإشراف على خطاب الكراهية القائم على النماذج اللغوية الكبيرة يمكن أن تؤدي إلى تدهور كبير في أداء النموذج من خلال هجمات "التبييض" و"التشويه"، مما يكشف عن ثغرات اتجاهية مستقرة تفشل التدابير الدفاعية الحالية في القضاء عليها تماماً.
تقدم الورقة البحثية "الاشتراط الذاتي غير المربوط" (Untied Self-Conditioning)، وهو أداة عينات خالية من التدريب تعالج عدم التطابق بين التدريب والاستنتاج في نماذج اللغة القائمة على مطابقة التدفق، وذلك عبر فك الارتباط بين مدخلات الاشتراط الذاتي الفائضة وتقريب التنبؤات بمتوسط الخطوات، مما يحسن جودة التوليد بشكل كبير ويقلل من الحيرة عبر عدد قليل إلى العديد من خطوات أخذ العينات.
تقدم هذه الورقة إطار عمل للترقيع التنشيطي المتسلسل لتحديد الدوائر الفرعية الموزعة لرؤوس الانتباه التي تدعم سببيًا استدلال "سلسلة الأفكار" في النماذج اللغوية الكبيرة، وذلك عبر تتبع التأثيرات المنتشرة زمنيًا عبر مواضع الرموز والتحقق من أهميتها الوظيفية من خلال الاستئصال المستهدف.
تقدم هذه الورقة BanglaSafe، وهو معيار مرجعي للغة البنغالية متجذر ثقافياً يكشف أن إخفاقات سلامة النماذج اللغوية الكبيرة مدفوعة بأساليب الكتابة الرسمية أكثر من ترجمة اللغة، حيث ثبت عدم أمان أكثر من نصف الاستجابات من 18 نموذجاً ريادياً وتواجه المصنفات الحالية صعوبة في اكتشاف هذه الأضرار.
تقدم هذه الورقة البحثية ذاكرة المهارات المدركة للحدود (BASM)، وهو إطار عمل مبتكر يعزز موثوقية وكلاء النماذج اللغوية الكبيرة (LLM) من خلال تعزيز المهارات المسترجعة بشروط حدودية صريحة لمنع "فخ محاكاة المهارة" وتحسين معدلات نجاح المهام بشكل كبير عبر اختبارات قياسية متعددة.
تُثبت هذه الورقة أنه بينما يمكن للكفاءة المعرفية الجوهرية أن تنبثق من التدرج المنحدر في بنية دنيا، فإن الوظائف الميتا-معرفية الحرجة مثل التوقف التكيفي وتخصيص الموارد القائم على القيمة لا تنبثق تلقائياً ويجب حسابها صراحةً لتحقيق مكاسب كبيرة في الأداء، حيث تُظهر النتائج التجريبية أن التخصيص الصريح للقيمة يحقق فائدة تصل إلى سبعة أضعاف التقديرات السلسة في السيناريوهات عالية المخاطر.