23941 ورقة بحثية
تقدم هذه الورقة البحثية "تنظيم التدفق الدلالي" (Semantic Flow Regularization - SFR)، وهو هدف تدريب خفيف الوزن يخفف من حدة "انهيار الأنماط المتعددة" (Cross-Style Collapse) في النماذج اللغوية الكبيرة التي تم ضبطها بدقة، وذلك عبر الإشراف على التدفق الدلالي باستخدام مطابقة التدفق الشرطي، مما يعزز بشكل كبير تنوع المخرجات، ودقة الأسلوب، والأداء في كل من مهام الحوار والبرمجة دون زيادة تكاليف الاستدلال.
تقدم هذه الورقة إطارين عمل بشريين-آليين لبناء معايير مرجعية للكلام باللغة المستهدفة للتغلب على قيود التقييم المتمحور حول اللغة الإنجليزية، مما أدى إلى إصدار ثلاث مجموعات بيانات كورية (KVoiceBench وKOpenAudioBench وKMMAU) تكشف عن فجوات كبيرة ونقاط ضعف تكميلية في نماذج اللغات الكلامية (SpeechLMs) الحديثة عند تقييمها في مهام الأسئلة والأجوبة المنطوقة باللغة الكورية وفهم الصوت.
تقدم الورقة البحثية AsyncTool، وهو معيار مرجعي مبتكر مصمم لتقييم قدرات استدعاء الأدوات غير المتزامنة للوكلاء القائمين على النماذج اللغوية الكبيرة في سيناريوهات متعددة المهام مع محاكاة زمن الاستجابة، مما يكشف عن معاناة النماذج الحالية مع التنسيق الزمني والكفاءة عند التعامل مع استجابات الأدوات المتأخرة.
تقدم هذه الورقة Meow2X وTRNE، وهما إطاران عمل لا يتطلبان إعادة التدريب يعملان على تحديد موقع السمية في طبقات MLP المبكرة لبعض النماذج اللغوية عبر تحليل التنشيط، وكبحها من خلال التوسع أثناء الاستدلال أو تعديلات طفيفة في الأوزان، مما يحقق تحسينات مستمرة في السلامة دون المساس بجودة اللغة.
تقدم هذه الورقة إطاراً نظرياً وخوارزميات استكشاف-استغلال متسلسلة لتعيين مهام التنبؤ ديناميكياً لوكلاء بشريين أو وكلاء ذكاء اصطناعي مع قيود السعة، وتُظهر من خلال التجارب أن هذه الأساليب تتفوق بشكل كبير على النماذج المرجعية غير السياقية عبر التعلم لتحسين خبرة الوكيل وسياق المهمة.
تُدقق هذه الورقة تجريبيًا آلية محاسبة ميزانية k-NAF في فك التشفير المرتكز (Anchored Decoding) عبر أعباء عمل ثابتة ومتكيفة، لتجد أن الإنفاق التراكمي لـ KL يظل باستمرار أقل بكتم من ميزانيات مستوى التسلسل، وأن حالات استنفاد الميزانية الظاهرة تُعزى إلى آثار وسيطة وليس إلى إخفاقات فعلية في الآلية.
تقدم هذه الورقة إطار عمل الاستدلال المتكامل عبر البنى الهيكلية (IAR)، والذي يجمع بين تحليل ذروة المعلومات المتبادلة المعاير بنطاق التردد مع تداخل نسبة التفكير العميق ومقاييس استقرار جاكارد لتوفير منهجية موحدة وقابلة للتعميم لتفسير أنماط الاستدلال عبر مختلف بنيات النماذج اللغوية الكبيرة والمجالات.
تقدم هذه الورقة الشبكات المتجهية (VN)، وهي بنية متكررة هرمية تستبدل مصفوفات الأوزان الثابتة بمكتبات من ذرات الأوزان القابلة لإعادة الاستخدام من الرتبة 1 لتمكين تكوين أوزان متفرقة ومحددة للمدخلات، مما يحقق تحسناً كبيراً في التعميم خارج نطاق التوزيع في المهام التركيبية مقارنة بالشبكات العميقة القياسية.
تقدم هذه الورقة تصنيفاً لسلاسل التفكير المضغوطة (الصريحة، والمؤلفة، والضمنية)، وتثبت من خلال تجارب منضبطة أنه بينما يتطلب الاستنتاج الأكثر خشونة المزيد من البيانات ويظهر سلوكيات تميز وتذكر مختلفة، فإن التعلم المعزز اللاحق باستخدام مكافآت قابلة للتحقق يمكن أن يفكك بفعالية هذه الخطوات المضغوطة التي تم تعلمها أثناء الضبط الدقيق الخاضع للإشراف.
يُعد MemGuard إطار عمل للذاكرة مدركاً للأنواع يمنع تلوث الذاكرة غير المتجانس في النماذج اللغوية الكبيرة المعززة بالذاكرة طويلة الأمد من خلال تعيين أدوار وظيفية صريحة للذكريات وتكوين الأدلة بشكل انتقائي، مما يحسن الموثوقية وكفاءة الاسترجاع بشكل كبير.