11103 ورقة بحثية
تتقصى هذه الورقة مشكلة "عدم تطابق لغة الوسيط" (Argument Language Mismatch) في النماذج اللغوية الكبيرة متعددة اللغات عند استدعاء واجهة برمجة التطبيقات (API)، وتُثبت أن الضبط الدقيق الخاضع للإشراف (supervised fine-tuning) يعمل كخط أساس قوي لضمان اتساق لغة الوسيط، بينما لا يقدم التعلم التعزيزي (reinforcement learning) سوى تحسينات تدريجية تتركز أساساً في جوانب التعميم والموازنات متعددة الأهداف.
تُثبت هذه الورقة أن التخصيص الديموغرافي الضمني في النماذج اللغوية الكبيرة مدفوع بإشارات تنشيط داخلية موضعية يمكن تحديدها، والتحكم فيها سببياً، وإزالتها انتقائياً لكبح المخرجات المتحيزة مع الحفاظ على الأداء العام للنموذج.
تقدم هذه الورقة البحثية "البحث عبر تموج المحور" (Ripple-Pivot Search - RPS)، وهي طريقة فك تشفير متوازية خالية من التدريب لنماذج اللغات الكبيرة الانتشارية (Diffusion LLMs) تعمل على تسريع الاستدلال من خلال الالتزام الاستباقي بمواضع المحور ذات الاعتلاج المتوسط لتحفيز "تأثير التموج" لتقليل عدم اليقين، محققةً تسريعًا يصل إلى 18 ضعفًا مع الحفاظ على جودة التوليد أو تحسينها.
تقترح هذه الورقة إطار عمل لتحسين التعميم خارج التوزيع عبر تشغيل "الإببليكسيتي" (epiplexity) —وهو مقياس للمعلومات الهيكلية القابلة للاستخراج— كإشارة تكيفية لكل من اختيار نطاقات البيانات الطبيعية وتوجيه توليد البيانات الاصطناعية لتعظيم قابلية نقل التمثيلات المتعلمة.
تقترح الورقة البحثية AWARe، وهي طريقة لضبط النماذج بدقة تخفف من حدة النسيان الكارثي في النماذج اللغوية الكبيرة متعددة الوسائط من خلال تجميد المعلمات الحرجة للمعرفة السابقة ديناميكيًا بناءً على أنماط التنشيط، مما يحافظ على القدرات السابقة مع تحقيق أداء متفوق في المهام اللاحقة دون تعديل بنيات النماذج.
تُثبت هذه الورقة أن الإشراف على مستوى النوع يستحث وجود "مكتبة آليات نمطية" منفصلة، وقابلة للتدقيق، وخالية من التكلفة في نماذج المحولات (transformers)، والتي تنظم التوجيه السببي حسب نوع الدليل مع بقائها منفصلة وظيفياً عن قراءة الإجابة، وهو استنتاج تم التحقق من صحته من خلال بروتوكول مسجل مسبقاً وقابل للفحص آلياً عبر مقاييس متعددة للنماذج.
تُثبت هذه الورقة أنه في حين أن ضغط السياق القائم على الجوهر يحسن الاستدلال متعدد الخطوات واسترجاع الحقائق في الوكلاء اللغويين ذوي الأفق الطويل، إلا أنه يضعف بشكل كبير الإجابة على الأسئلة الزمنية من خلال التخلص من تواريخ وأوقات محددة، وهو عجز يمكن معالجته بدقة عبر تعديل بسيط في التوجيه للحفاظ على التعبيرات الزمنية.
تقدم هذه الورقة البحثية طريقة "إزالة التكميم المشروطة باللغة" (LCD)، وهي طريقة خفيفة الوزن تُطبق بعد عملية التكميم (post-hoc) لربط تصحيحات "LoRA" لكل لغة بالنماذج المكممة لاستعادة الأداء متعدد اللغات المفقود أثناء التكميم الشديد بشكل كبير، بينما تكشف أيضاً عن تباين أنماط انتشار الخطأ باختلاف بنية النموذج وعمقه.
تُثبت هذه الورقة أن الضبط الدقيق لنموذج لغوي مفتوح الأوزان باستخدام تحسين السياسة النسبي المجموعي (GRPO) وإطار تقييم مزدوج — يجمع بين معايير نموذج لغوي كبير كحَكَم (LLM-as-a-judge) وتدقيق أثر المعالجة المتوسط السببي (CATE) المستقل عن الحَكَم — ينتج نصائح مالية تتفوق بشكل كبير على النماذج التجارية المرجعية من حيث الرفع المقدر في الأرباح والحد من المخاطر.
تقدم هذه الورقة TELLME، وهي طريقة مبتكرة تدمج التعلم المعزز بالاختبار مع التدريب المسبق المستمر لاكتساب المعرفة الخاصة بالمجال بكفاءة وتحسين الاحتفاظ بالذاكرة طويلة المدى في النماذج اللغوية الكبيرة، مع التغلب على تحديات البيانات والحوسبة التي تواجهها الأساليب التقليدية.