11750 ورقة بحثية
يُعد StepCache نظاماً مستقلاً عن البنية التحتية الخلفية (backend-agnostic) يعمل على تحسين خدمة النماذج اللغوية الكبيرة (LLM) لأعباء العمل ذات الهياكل المشتركة والقيود المحلية، وذلك عبر تنفيذ إعادة الاستخدام على مستوى الخطوة، والتحقق خفيف الوزن، والرقع الانتقائي لتقليل زمن الاستجابة واستهلاك الرموز (tokens) بشكل كبير مع ضمان صحة المخرجات.
تُعد OneComp إطار عمل مفتوح المصدر يعمل على أتمتة عملية ضغط نماذج الذكاء الاصطناعي التوليدي المعقدة لما بعد التدريب إلى مسار عمل قابل لإعادة الإنتاج ومعتمد على مواصفات الأجهزة، مما يتيح التكميم التدريجي متعدد الدقة لسد الفجوة بين الابتكار الخوارزمي والنشر الفعال في بيئات الإنتاج.
تقدم الورقة البحثية CrossTrace، وهي أول مجموعة بيانات واسعة النطاق وعابرة للمجالات تضم 1,389 مساراً من مسارات الاستدلال العلمي المرتكز على الحقائق لتوليد الفرضيات، مما يثبت أن الضبط الدقيق للنماذج اللغوية على هذه البيانات متعددة التخصصات يحسن بشكل كبير من جودة الاستدلال، والامتثال الهيكلي، والقدرة على الانتقال عبر المجالات مع الحفاظ على دقة واقعية شبه مثالية.
تقترح هذه الورقة بنية ذاكرة مستوحاة حيوياً ومرتكزة على علوم الأعصاب للنماذج اللغوية الكبيرة، تتغلب على قيود توسيع نوافذ السياق عبر تنفيذ إطار عمل ثلاثي المبادئ — يتميز بتسلسلات هرمية للمعتقدات قائمة على التكافؤ، وتصعيد استرجاع من النظام 1 إلى النظام 2، وتشفير نشط يعتمد على التغذية الراجعة — لتمكين تفاعل مدى الحياة، لانهائي، وفعال من حيث التكلفة، ومقاوم للهلوسة.
تحدد هذه الورقة وتضع معايير قياسية لثغرة استدلال منهجي في النماذج اللغوية الكبيرة حيث تتجاوز الاستدلالات السطحية البارزة قيود الجدوى الضمنية، مما يثبت أن هذا الفشل ينبع من معالجة الكلمات المفتاحية الترابطية بدلاً من نقص المعرفة، ويمكن التخفيف من حدته جزئياً من خلال استراتيجيات صياغة الأوامر المستهدفة.
تُظهر هذه الدراسة أن البيانات المتوازية لها تأثير ضئيل فقط على تعلم التمثيلات متعددة اللغات المشتركة، حيث يبرز المحاذاة عبر اللغات إلى مستويات مماثلة حتى بدون إشارات ترجمة صريحة، بينما تعمل البيانات المتوازية بشكل أساسي على تسريع مشاركة التمثيلات في المراحل المبكرة وتقليل الخلايا العصبية الخاصة بكل لغة.
تقدم هذه الورقة البحثية "Trojan-Speak"، وهي طريقة ضبط دقيق عدائية تستخدم التعلم المنهجي والتعلم المعزز القائم على (GRPO)، والتي تنجح في تجاوز مصنفات "Anthropic" الدستورية للالتفاف على فلاتر السلامة في المواضيع الخطيرة مع حد أدنى من التدهور في قدرات الاستنتاج لدى النموذج، مما يثبت عدم كفاية المصنفات القائمة على النماذج اللغوية الكبيرة وحدها وإمكانية استخدام مجسات مستوى التنشيط لتحسين المتانة.
تقترح هذه الورقة إطار عمل "المولد-المفسر" (Generator-Interpreter) لمعالجة الخلفية الثقافية المغفول عنها في التعبير عن العواطف في النماذج اللغوية الكبيرة، كاشفةً من خلال تقييم عابر للثقافات يشمل 15 دولة أن كلاً من منظورَي التعبير والتفسير يؤثران بشكل كبير على أداء عزو العواطف، مع لعب أصل المولد دوراً مهيمناً.
تُعد PolarQuant طريقةً للكمية ما بعد التدريب (post-training quantization) للنماذج اللغوية الكبيرة، حيث تحقق ضغطاً يقترب من كونه غير فاقد للمعلومات عبر تطبيق التنميط القائم على الكتل (block-wise normalization) وتدوير "والش-هادامارد" (Walsh-Hadamard rotation) لتحويل الأوزان إلى توزيع غاوسي تقريبي، مما يتيح كمية دقيقة للغاية دون الحاجة إلى بيانات معايرة، بينما تعمل كخطوة معالجة مسبقة فعالة لمكممات INT4 اللاحقة.
تقدم هذه الورقة GISTBench، وهو معيار ومجموعة بيانات اصطناعية مبتكرة صُممت لتقييم قدرة النماذج اللغوية الكبيرة على استخراج والتحقق من اهتمامات المستخدمين من سجلات التفاعل في أنظمة التوصية، وذلك باستخدام مقاييس جديدة لـ "الارتباط بالاهتمام" (Interest Groundedness) و"الخصوصية" (Specificity) للكشف عن اختناقات الأداء الحالية في التعامل مع إشارات التفاعل غير المتجانسة.