11158 ورقة بحثية
تحدد هذه الورقة رؤوس انتباه محددة في الطبقات المتوسطة في النماذج اللغوية الكبيرة والتي تقود بشكل سببي الربط الثقافي، كاشفةً أنه بينما تمتلك النماذج معرفة ثقافية كافية، فإن ميلها إلى التدرج نحو المعاملة المتساوية ينبع من عنق زجاجة في التوجيه يمكن التخفيف من حدته من خلال تدخلات ميكانيكية مستهدفة مثل تعطيل الرؤوس (head knockout) والتحجيم بـ (-scaling).
تقدم هذه الورقة Soft-SVeRL، وهو إطار عمل للتعلم التعزيزي ذاتي التحقق يستخدم مكافآت ناعمة مفككة قائمة على قوائم التحقق لتحسين اتباع التعليمات في المهام القابلة للتحقق جزئياً، مع معالجة المقايضات الحرجة بين ضجيج المُحقِّق وتضخم المكافأة من خلال آليات استقرار صريحة.
تقدم هذه الورقة مقياس الاختيار البديل السياقي (CAC) لتقييم النماذج اللغوية كمياً بناءً على الخصائص التركيبية الرسمية وخصائص الخطاب الوظيفية لأدوات التعيين في اللغة الإنجليزية، مما يكشف أنه بينما تستطيع بعض النماذج الضخمة جداً مضاهاة أداء الأطفال البشر في كلا المعيارين، لا يحقق أي نموذج حالي تم تدريبه على بيانات مماثلة هذا الأمر في آن واحد.
تقدم هذه الورقة البحثية GraphLit، وهو إطار عمل للتعلم الخاضع للإشراف الذاتي يستخدم شبكات الشخصيات غير المتجانسة الديناميكية (DHCNs) لدمج تفاعلات الشخصيات مع سياقاتها النصية، مما يجعله يتفوق على النماذج المرجعية الحالية في مهام أدبية متنوعة ويسمح برؤى جديدة حول عدم الخطية السردية.
توضح هذه الورقة أن إسقاط متجهات المهام على الفضاءات الفرعية لميزات الـ SAE يفشل كاستراتيجية لتعديل النموذج بسبب عدم المحاذاة الهندسية، وتقترح بدلاً من ذلك استخدام الـ SAEs كـ "سماعات طبية" تشخيصية لحقن متجهات المهام الخام انتقائياً في طبقات محددة، مما يحسن أداء الاستدلال الرياضي بشكل كبير دون تكلفة حوسبية إضافية.
تُثبت هذه الورقة أنه بينما يمكن لتوجيه التنشيط (Activation Steering) توليد بيانات اصطناعية فعالة لتحسين كشف السلامة في المهام اللاحقة، إلا أن فائدته تظل مقيدة بنطاق ضيق حيث يجب موازنة قوة التوجيه بعناية للحفاظ على تنوع الاستجابة جنباً إلى جنب مع اتساق المفهوم والتماسك.
تتحدى هذه الورقة البحثية استنتاج معيار GSM-Symbolic القائل بافتقار النماذج اللغوية الكبيرة إلى القدرة على التفكير الحقيقي، وذلك من خلال إثبات أن الانخفاضات المسجلة في الأداء غالباً ما تكون غير ذات دلالة إحصائية ومربكة بسبب تحولات توزيعية غير محسوبة في نصوص المسائل، مما يكشف بدلاً من ذلك عن أن إخفاقات النماذج هي إخفاقات محددة وغير متجانسة وليست عالمية.
تتقصى هذه الدراسة التجريبية استراتيجيات تطوير نماذج لغوية كبيرة متعددة اللغات موثوقة تعمل كحكم (LLM-as-a-judge) عبر اللغات ذات الموارد العالية والمتوسطة والمنخفضة، كاشفةً أن النماذج الأصغر التي خضعت للضبط الدقيق تتفوق باستخدام البيانات المتخصصة في المجال، بينما تتفوق النماذج الأكبر التي تعمل بنمط التعلم الصفري في سيناريوهات خارج نطاق المجال، ومحذرةً من أن الضبط الدقيق خارج نطاق المجال يمكن أن يؤدي إلى تدهور الأداء.
تقدم هذه الورقة IPO-Mine، وهي مجموعة أدوات مفتوحة المصدر ومجموعة بيانات متعددة الوسائط ضخمة ذات بنية مقسمة إلى أقسام تضم أكثر من 109,000 ملف من ملفات الاكتتاب العام و76,000 صورة، صُممت لتمكين التحليل المعياري للوثائق التنظيمية الطويلة والكشف عن فجوات محاذاة كبيرة بين النماذج متعددة الوسائط الحديثة وأحكام الخبراء البشريين.
تقدم هذه الورقة بنك مطالبات مصنف بالإجماع يميز بين الكود البرمجي الخبيث القابل للتنفيذ والمعرفة الأمنية الضارة لتوفير معيار مرجعي موثوق ومعياري لقياس ما إذا كانت النماذج المتخصصة في البرمجة تستوفي معايير الرفض الأكثر صرامة المطلوبة لمنع توليد أسلحة وظيفية.