24055 ورقة بحثية
تجادل هذه الورقة بأن الانتقال من النشر القائم على الاستدلال فقط إلى الدمج الليلي القائم على الأوزان عبر تقنية LoRA يتفوق بشكل كبير على التكثيف المتتالي القائم على نافذة السياق في الاحتفاظ بمعرفة المستخدم، بينما تثبت أيضاً أن وسيط الإنتروبيا المتقاطعة لكل رمز هو مقي المقاييس الأكثر موثوقية للدقة مقارنة بالمتوسط.
تقدم هذه الورقة مقياساً مصححاً للاحتمالية يسمى "البتات فوق العشوائية" (Bits-over-Random - BoR) لتحسين عدد الأدوات المقدمة لوكلاء النماذج اللغوية الكبيرة ديناميكياً، حيث تثبت من خلال التعلم التعزيزي أن القوائم المختصرة التكيفية تحسن دقة اختيار الأدوات وتغطيتها بشكل كبير مقارنة بالنهج ثابت الحجم عبر اختبارات معيارية متنوعة.
تقدم هذه الورقة إطاراً سلوكياً موحداً متعدد الأبعاد يقيم استدلال النماذج اللغوية الكبيرة عبر ستة أبعاد متميزة — الصحة، والاتساق، والمتانة، والتماسك المنطقي، والكفاءة، والاستقرار — للكشف عن رؤى نقدية ومنع أخطاء التصنيف التي تغفلها مقاييس الدقة التقليدية التي تقتصر على الدقة فقط.
تُظهر هذه الورقة أن الوسيط للإنتروبيا المتقاطعة (median cross-entropy) غالباً ما يتفوق على المتوسط المعتاد للإنتروبيا المتقاطعة (mean cross-entropy) في تتبع جودة النماذج اللغوية عبر سيناريوهات مثل تعلم الحقائق الاصطناعية وتقطير الـ K-الأعلى (top-K distillation)، وذلك لأنه يرتبط بشكل أفضل بالأداء في المهام من خلال التركيز على كتلة التوزيع بدلاً من التأثر بالقيم المتطرفة في الذيول.
تُعد VaaWIT إطار عمل متكاملًا يعزز ترجمة صور الويب متعددة اللغات من خلال دمج وحدة انتباه ثنائية المسار ومهايئ مدرك بصريًا لسد الفجوة في التمثيل البصري لدى النماذج اللغوية الكبيرة، محققةً أداءً هو الأفضل في فئته باستخدام الضبط الدقيق الموفر للمعلمات.
تقدم هذه الورقة إطار عمل شفافاً قائماً على الميزات، يستفيد من الخصائص الإدراكية للكلام والتعلم الآلي القابل للتفسير لتحديد الارتباطات المستقرة بين الأنماط الصوتية واللغوية وشدة الاكتئاب والقلق واضطراب نقص الانتباه مع فرط النشاط عبر كل من المعايير المرجعية المنضبطة والبيانات السريرية الواقعية.
تقترح الورقة البحثية إطار عمل Mix-MoE، وهو إطار عمل "خليط من الخبراء" (Mixture-of-Experts) ثنائي المراحل يفصل بين خبراء النماذج اللغوية وخبراء الترجمة الآلية ويستخدم توجيهاً معززاً بتحويل فوريه للتخفيف بفعالية من تداخل المعلمات وتحسين أداء الترجمة الآلية متعددة اللغات بشكل كبير في النماذج اللغوية الكبيرة.
تقدم الورقة البحثية SUPRA، وهي بنية ثنائية المسار مفككة تعالج مشكلة انقلاب الأداء في تعلم الرسوم البيانية متعدد الوسائط الناتجة عن "معضلة التجميع" للنماذج التأسيسية الضخمة، وذلك عبر فصل معالجة الميزات غير المرتبطة بالبنية الطوبولوجية عن التآزر الهيكلي خفيف الوزن، مما يحقق نتائج هي الأفضل في فئتها مع تقليل الذاكرة ووقت التدريب بشكل كبير.
تقدم هذه الورقة TraceLock، وهو متحكم خفيف الوزن وذاتي الإشراف يتعلم سياسة التزام بالرموز (token-commitment) قابلة لإعادة الاستخدام لنماذج اللغات الانتشارية المجمدة من خلال الاستفادة من الاستقرار المستقبلي، مما يحسن جودة التوليد والقدرة على التكيف عبر إعدادات مختلفة دون الحاجة إلى إعادة التدريب.
تقدم الورقة البحثية نظام MDIA، وهو نظام تشخيصي متعدد الوكلاء يستخدم رسماً بيانياً ذا 7 عقد متخصصة التوجيه على نموذج لغوي كبير غير مضبوط بدقة، والذي يتفوق بشكل كبير على برامج الدردشة السريرية القياسية في معيار HealthBench Professional، مما يثبت أن التصميم المعماري والميزات على مستوى المحرك هي محركات حاسمة للأداء السريري الوكيل، مع تسليط الضوء على التباين الذي تفرضه نماذج التقييم المختلفة.