11611 ورقة بحثية
تقترح هذه الورقة "تنظيم عنق زجاجة السلامة" (SBR)، وهو آلية دفاعية مبتكرة تعمل على تثبيت طبقة فك التشفيد (unembedding layer) بنماذج متوافقة مع معايير السلامة، مما يؤدي بفعالية إلى تحييد هجمات الضبط الدقيق الضارة من خلال استغلال العنق الزجاجي الهندسي للحفاظ على السلامة دون المساس بأداء المهام الحميدة.
تُعد PersonaKit منصة ويب مفتوحة المصدر ومنخفضة زمن الاستجابة، تُمكّن الباحثين من النمذجة الأولية السريعة وتقييم استراتيجيات متنوعة لتبادل الأدوار الخاصة بالشخصيات في أنظمة الحوار الصوتي ثنائية الاتجاه (full-duplex) من خلال إعدادات JSON بديهية واختبارات A/B مؤتمتة.
تقارن هذه الدراسة بين جيلين من النماذج اللغوية الكبيرة مقابل النصوص الإخبارية التي كتبها بشر باستخدام صيغة HPSG ومقاييس التنوع، مما يكشف أنه بينما تظل الكتابة البشرية مستقرة، تُظهر النماذج الأحدث المضبوطة للتعليمات انخفاضاً ملحوظاً في التنوع التركيبي والمعجمي، مما يشير إلى احتمال ضيق النطاق التعبيري رغم تحسن التماسك.
تقدم هذه الورقة طريقة بحث قائمة على الجدة تعتمد على "شجرة الأفكار" (Tree-of-Thought)، والتي تستفيد من المعرفة المسبقة للنماذج اللغوية الكبيرة (LLM) لقياس وتقليم مسارات الاستدلال الزائدة، مما يؤدي إلى تحسين الكفاءة وتقليل تكاليف الرموز (tokens) في مهام التخطيط والاستدلال القائمة على اللغة.
تقدم الورقة البحثية BEACON، وهو إطار عمل لتعلم السياسات الموجهة بالمعالم (milestone-guided)، والذي يعالج مشكلتي سوء تخصيص الائتمان وعدم كفاءة العينات في الوكلاء اللغويين ذوي الأفق الطويل من خلال تقسيم المسارات عند حدود المعالم وتطبيق تقدير الميزة ثنائي النطاق، محققاً أداءً هو الأفضل حالياً في اختبارات قياسية مثل ALFWorld.
تقدم هذه الورقة "تخطيط محفظة مونت كارلو" (MCPP)، وهو مخطط خفيف الوزن ذو حلقة مغلقة يعمل على تحسين احتمالية إكمال سير العمل الوكيل ضمن قيود صريحة للميزانية والموعد النهائي من خلال التخصيص الديناميكي للنماذج والعينات المتوازية بناءً على النتائج المحاكاتية.
تقدم هذه الورقة IRC-Bench، وهو معيار مرجعي جديد صُمم لتقييم التعرف على الكيانات المشار إليها ضمنياً في سرديات الاستذكار بضمير المتكلم من خلال اختبار النماذج على استنتاج الأهداف من خلال أدلة سياقية مبعثرة بدلاً من التلميحات الصريحة، حيث أظهرت النتائج أن نموذج Llama 3.1 8B المعدل بتقنية QLoRA يتفوق في بيئات العالم المفتوح بينما يتفوق نموذج DPR المضبوط بدقة في استرجاع العالم المغلق.
توضح هذه المقالة أن "آلية المقلاع" (slingshot mechanism)، التي تتميز بزيادات دورية حادة في الخسارة ونمو سريع في المعلمات أثناء التدريب طويل الأمد، لا تمثل ديناميكية تحسين جوهرية، بل هي بالأحرى نتاج رقمي ناجم عن الحسابات بنظام الفاصلة العائمة منخفض الدقة، حيث تؤدي أخطاء التقريب في التدرجات إلى انتهاك شرط المجموع الصفري وتؤدي إلى حلقة تغذية راجعة إيجابية تُعرف باسم تضخم الميزات الرقمي (NFI).
تستهل هذه الورقة دراسة التحديد والإنشاء التبايني في الحد الأقصى من خلال توصيف الفئات القابلة للتعلم عبر رسم بياني تقاطعي مشترك، وتأسيس شروط وأبعاد هندسية جديدة، وإثبات أن البيانات التباينية يمكن أن تكون أكثر متانة تجاه الفساد العدائي من الأمثلة التقليدية التي تقتصر على الإيجاب فقط.
تقترح الورقة البحثية TIDE، وهي بنية ترانسفورمر (transformer) مبتكرة تستبدل نظام حقن الرموز أحادي الحقن القياسي بنظام "ذاكرة التضمين" (EmbeddingMemory) الذي يحقن متجهات دلالية خالية من السياق في كل طبقة، وذلك لمعالجة نقص تدريب الرموز النادرة والانهيار السياقي للرموز المتشابهة لتحسين أداء نمذجة اللغة.