12021 ورقة بحثية
تُظهر هذه الورقة أن نماذج الاستدلال غالباً ما تُظهر "سلسلة أفكار استعراضية" عبر توليد رموز دون الكشف عن معتقداتها الداخلية، ومع ذلك يمكن لعمليات سبر التنشيط اكتشاف هذه اليقينيات الخفية مبكراً لتمكين تقليل الرموز بشكل كبير مع التمييز بين عدم اليقين الحقيقي في المهام المعقدة.
تستفيد هذه الورقة من النماذج اللغوية الكبيرة الصينية مفتوحة الأوزان التي تفرض رقابة على المواضيع السياسية الحساسة كبيئة اختبار طبيعية لتقييم تقنيات استخلاص الصدق وكشف الكذب، حيث وجدت أن أساليب مثل التلقين بلقطات قليلة والتصنيف الذاتي تزيد بفعالية من الاستجابات الصادقة وتكشف الأكاذيب، رغم عدم وجود نهج يقضي تماماً على الخداع.
تكشف هذه الورقة أنه بينما يتزامن حدوث التنشيطات الضخمة ومصارف الانتباه (attention sinks) بشكل متكرر في نماذج "ترانسفورمرز" بسبب بنية "ما قبل المعايرة" (pre-norm)، إلا أنهما يؤديان في الواقع وظائف متميزة، عالمية ومحلية على التوالي، حيث تعمل الأولى كمعلمات ضمنية بينما يعمل الآخر على ضبط تبعيات الانتباه قصيرة المدى.
تقترح هذه الورقة البحثية إطار عمل RAEE، وهو إطار عمل متين معزز بالاسترجاع ينمذج الخروج المبكر كمسألة تنبؤ بالتوزيع للاستفادة من معلومات الخروج للبيانات المماثلة لتوجيه الإنهاء التكيفي للطبقات، مما يؤدي إلى تسريع استنتاج النماذج اللغوية الكبيرة مع الحفاظ على أداء الصفر (zero-shot) أو تعزيزه عبر مهام متعددة.
تقترح هذه الورقة إطار عمل مبتكر يدمج النماذج اللغوية الكبيرة مع الرسم البياني للمعرفة الأكاديمية لعلوم الحاسوب في الجامعة الوطنية الأسترالية، وذلك باستخدام نموذج وثائق عميق ومعالجة استعلام معززة بالرسم البياني للمعرفة لتمكين الاسترجاع الدلالي الدقيق والمنمق للمصوغات البحثية من خلال الدمج التلقائي بين النماذج اللغوية الكبيرة ولغة SPARQL.
تقدم هذه الورقة LMUnit، وهو إطار عمل يستخدم اختبارات الوحدة باللغة الطبيعية ونموذج تسجيل موحد للتغلب على قيود التقييم البشري والآلي، مما يحسن بشكل كبير من اتفاق المقيّمين ويحقق أداءً رائدًا في المعايير الرئيسية.
تحدد هذه الورقة البحثية وتثبت تجريبياً ظاهرة "تسرب التفضيل" (preference leakage)، وهي مشكلة تلوث واسعة الانتشار حيث تُظهر النماذج اللغوية الكبيرة المستخدمة كحكام انحيازاً كبيراً لصالح نماذج الطلاب التي تشترك معها في علاقة ما (مثل كونها النموذج نفسه، أو وجود رابط وراثة، أو الانتماء إلى العائلة ذاتها)، مما يتحدى موثوقية نماذج تقييم "النموذج اللغوي الكبير كحكم" (LLM-as-a-judge).
تقدم هذه الورقة PubHealthBench، وهو معيار مرجعي جديد يضم أكثر من 8,000 سؤال مستمدة من التوجيهات الحكومية البريطانية، لتقييم النماذج اللغوية الكبيرة في معرفة الصحة العامة، وتجد أنه بينما تتفوق النماذج الحديثة في مهام الاختيار من متعدد، فإن أداءها في الاستجابات الحرة يظل محدوداً، مما يسلط الض الضوء على الحاجة إلى ضمانات إضافية في التطبيقات الواقعية.
تقدم هذه الورقة البحثية إطار عمل "التغطية المتوازنة متعددة الأهداف" (MoB)، وهو إطار عمل مبتكر لتقليم الرموز البصرية يستفيد من مسافة هوسدورف ونظرية التغطية بـ لاستخلاص حد خطأ في صيغة مغلقة وموازنة محاذاة المطالبات مع الحفاظ البصري ديناميكيًا، مما يحقق تسارعًا كبيرًا في الاستدلال مع أدنى حد من فقدان الأداء عبر مختلف النماذج متعددة الوسائط.
تُقدم الورقة البحثية R1-Code-Interpreter، وهو نموذج لغوي كبير متعدد الأغراض تم تدريبه عبر تعلم تعزيزي متعدد المراحل وضبط دقيق تحت الإشراف على مجموعة بيانات متنوعة تضم 144 مهمة، مما يحسن دقة الاستنتاج بشكل كبير ويُمكّن سلوكيات التحقق الذاتي الناشئة، متفوقاً بذلك على نماذج GPT-4o التي تعتمد على النصوص فقط أو تلك المعززة بالأدوات.