11611 ورقة بحثية
تقدم الورقة البحثية RELIC، وهو إطار عمل لتقييم الاستدلال المعقد للنماذج اللغوية الكبيرة من خلال اختبار قدرتها على التعرف على اللغات الخالية من السياق ضمن السياق، مما يكشف أن حتى النماذج المتقدمة تفشل في رفع قدرة الحوسبة الاستنتاجية مع زيادة صعوبة المهمة وغالباً ما تتحول من الاستدلال الخوارزمي إلى التخمين مع زيادة التعقيد.
تكشف هذه الدراسة أن صيغة الأسئلة، بما في ذلك عدد الخيارات وصياغة محددة، تؤثر بشكل كبير على أداء النماذج اللغوية الكبيرة في مهام الاستدلال، مما يتسبب غالباً في حدوث انفصال بين دقة خطوات الاستدلال وصحة الإجابة النهائية.
تُظهر هذه الدراسة أن النماذج اللغوية الكبيرة، من خلال استخدام استراتيجيات التلقين بـ "الصفر محاولة" (zero-shot) و"القليل من الأمثلة" (few-shot)، توفر بديلاً فعالاً ومجدياً لتعرّف الكيانات المسماة في النصوص التاريخية حيث تندر بيانات التدريب المُصنفة، محققةً أداءً قوياً إلى حد معقول رغم عدم وصولها إلى مستوى النماذج الخاضعة للإشراف الكامل.
تستقصي هذه الورقة الآليات الداخلية للرفض في النماذج اللغوية الكبيرة المضبوطة للتعليمات من خلال تدريب المشفّرات التلقائية المتناثرة لتحديد واستئصال سمات كامنة محددة تقلب النموذج سببياً من الرفض إلى الامتثال، مما يكشف عن مسار متعدد المراحل لكسر الحماية ويسلط الضال على وجود ميزات سلامة فائضة عن الحاجة.
تقدم هذه المساهمة أول طريقة لتوليد تفسيرات تباينية في نماذج تحويل الكلام إلى نص من خلال تحليل كيفية تأثير ميزات المخطط الطيفي للمدخلات على الاختيار بين المخرجات البديلة، وتثبت فعاليتها من خلال دراسة حالة حول تحديد النوع الاجتماعي في ترجمة الكلام.
تقدم هذه الورقة GISP، وهي طريقة تقليم هيكلي تكراري عالمية تجمع درجات الأهمية القائمة على الخسارة من الدرجة الأولى لتجميع رؤوس الانتباه وقنوات MLP بكفاءة، مما يتفوق بذلك على النماذج المحلية التقليدية عبر تثبيت الدقة عند مستويات التشتت العالية وتمكين التحسين الخاص بمهمة معينة دون الحاجة إلى ضبط دقيق وسيط.
تكشف هذه الورقة أن الحكام القائمين على النماذج اللغوية الكبيرة يظهرون عدم اتساق ملحوظاً في التقييم داخل نفس المُقيّم عبر عمليات تشغيل مختلفة، مما يقوض موثوقية درجاتهم، وتستقصي ما إذا كان يمكن استغلال مثل هذه التقييمات بفعالية من خلال إرشادات محددة.
تقدم الورقة البحثية MiMo-Embodied، وهو أول نموذج تأسيسي مفتوح المصدر عابر للأجساس (cross-embodied) يحقق أداءً هو الأفضل في مجاله في كل من القيادة الذاتية والذكاء الاصطناي المادي (embodied AI) عبر الاستفادة من التعلم متعدد المراحل، والبيانات المنسقة، والضبط الدقيق باستخدام سلسلة الأفكار (CoT) والتعلم المعزز (RL) لإظهار انتقال إيجابي قوي بين هذين المجالين.
تتقصى هذه الدراسة كيفية تخصيص نماذج الترجمة الشفهية للجنس القواعدي للمصطلحات التي تشير إلى المتحدث، من خلال الكشف عن أنه في حين تُظهر النماذج اللغوية الداخلية انحيازاً ذكورياً، فإن النماذج عالية الأداء يمكنها تجاوز ذلك باستخدام الإشارات الصوتية وآلية مبتكرة تربط ضمائر المتكلم بالمصطلحات المحددة جنسياً عبر معلومات طيف التردد الموزعة بدلاً من مجرد طبقة الصوت.
تقدم هذه الورقة تدقيقاً منهجياً لمجموعات بيانات الرؤية واللغة والعمل (VLA) واسعة الاستخدام، كاشفةً أنها تعتمد بشكل أساسي على تعليمات تكرارية ونمطية ذات تنوع لغوي محدود، مما يسلط الضرض على الحاجة إلى تنسيق وتقارير أكثر منهجية لمجموعات البيانات من أجل توسيع نطاق التغطية اللغوية.