11535 ورقة بحثية
تقدم هذه الورقة MathLens، وهو معيار مرجعي مبتكر يفكك الاستدلال متعدد الوسائط إلى مكونات الإدراك، والاستدلال، والمكونات الخاصة بالوسائط المتعددة ليكشف أن استراتيجيات التدريب مثل التعلم المعزز والضبط الدقيق الموجه للنصوص تنتج ملفات تعريف قدرات متميزة غير مرئية لمقاييس الدقة الإجمالية، مما يشير إلى أن التقدم الظاهري يعكس تحولات في التوازن بين المهارات الفرعية بدلاً من التقدم الموحد.
يُعد CompassLLM إطار عمل جديداً متعدد الوكلاء يستفيد من النماذج اللغوية الكبيرة لحل استعلامات المسارات الشائعة من خلال مرحلتين متتاليتين تتمثلان في البحث في المسارات التاريخية وتوليد مسارات جديدة، مما يوفر دقة فائقة وفعالية من حيث التكلفة مقارنة بالطرق التقليدية التي تتطلب تدريباً مكثفاً.
تقترح هذه الورقة إطار عمل جديداً لقياس حفظ بيانات التدريب داخل العميل وبين العملاء في التعلم الاتحادي من خلال تكييف تقنيات قياس العينات الدقيقة من التعلم المركزي، مما يكشف أن نماذج التعلم الاتحادي تظهر مخاطر حفظ كبيرة تتأثر بعوامل تدريب واستدلال محددة.
تقدم الورقة البحثية "Catch Your Breath" (CYB)، وهي دالة خسارة خاضعة للإشراف يتم صياغتها كمسألة قرار متسلسلة تُمكّن النماذج التأسيسية من إدراج رموز التوقف ذاتياً وتكيفياً أثناء الاستدلال لتخصيص خطوات الحوسبة ديناميكياً، مما يؤدي إلى تحسين الارتباك (perplexity) ودقة المهام اللاحقة دون زيادة في التكاليف الحسابية أو تكاليف الذاكرة.
تقدم هذه الورقة البحثية HiTGNN، وهي شبكة عصبية رسومية زمنية هرمية، وReVeAL، وهو إطار عمل خفيف الوزن لوقت الاختبار، لتعزيز التنبؤ المبكر بمخاطر مرض السكري من النوع الثاني من خلال الاستفادة بفعالية من المعلومات الزمنية والسياقية الغنية في الملاحظات السريرية مع معالجة تحديات مثل قيود الخصوصية ومحدودية الموارد.
تقدم هذه الورقة تقنية "أربعة على ستة" (4/6)، وهي تقنية تغيير حجم الكتلة التكيفية لتكميم NVFP4 تعمل على تقليل خطأ التكميم من خلال ضبط مقاييس الكتل ديناميكيًا للتعامل بشكل أفضل مع القيم الكبيرة، مما يحقق أداءً في التدريب والاستدلال أقرب إلى BF16 مع حد أدنى من العبء الحسابي.
تقترح هذه الورقة استخدام البحث الشعاعي (beam search) بدلاً من أخذ العينات متعدد الحدود (multinomial sampling) لتوليد المرشحين لتقدير عدم اليقين القائم على الاتساق في النماذج اللغوية الكبيرة، مما يثبت أن هذا النهج يقلل التباين ويحقق أداءً رائدًا في مهام الأسئلة والأجوبة قصيرة الصيغة.
تتناول هذه الورقة تحدي قياس جودة الاسترجاع في البيئات الواقعية حيث يكون العدد الإجمالي للوثائق ذات الصلة غير معروف، وذلك من خلال تقييم الاستراتيجيات الحالية مقابل أحكام الاستجابة القائمة على النماذج اللغوية الكبيرة، واقتراح مقياس جديد وفعال لا يتطلب معرفة بمجموعة الاستدعاء الكاملة.
تقدم هذه الورقة مجموعة بيانات "Chameleon" لتوضيح أن تفاعلات المستخدمين مع النماذج اللغوية مدفوعة في الغالب بالحالة السياقية بدلاً من السمات الثابتة، مما يكشف أن النماذج الحالية "عمياء عن الحالة" بينما تتفاعل نماذج المكافأة بشكل غير متسق مع حالات المستخدمين.
إنّ LLM-AutoDP هو إطار عمل مبتكر يسخّر وكلاء النماذج اللغوية الكبيرة (LLM agents) لتوليد استراتيجيات معالجة البيانات وتحسينها بشكل تكراري لضبط النماذج بدقة، وذلك دون وصول مباشر من البشر إلى البيانات الحساسة، محققاً نتائج عالية الجودة ومقللاً وقت البحث بشكل كبير من خلال تقنيات تسريع متخصصة.