12380 ورقة بحثية
تقدم هذه الورقة دراسة تجريبية رائدة واسعة النطاق تحلل أكثر من 20,000 مستودع من مستودعات GitHub لتثبت أن النماذج اللغوية الكبيرة تُحدث تحولاً ملموساً في أساليب البرمجة في العالم الحقيقي، وهو ما يتضح من خلال اتجاهات مثل زيادة الالتزام باتفاقيات تسمية snake_case والتحولات في تعقيد الكود وقابلية الصيانة.
يُعد D-SCoRE إطار عمل لا يتطلب تدريباً يقوم تلقائياً بتوليد مجموعات بيانات متنوعة وعالية الجودة لأسئلة وأجوبة قائمة على "سلسلة الأفكار" من مصادر نصية عشوائية، مما يُمكّن النماذج اللغوية الكبيرة التي يتم ضبطها الدقيق بناءً على مخرجاته من التفوق على تلك المدربة على بيانات مشروحة بشرياً مع العمل بكفاءة على أجهزة استهلاكية.
تقدم الورقة البحثية إطار عمل GIRCSE، وهو إطار عمل مبتكر يستفيد من التوليد ذاتي الانحدار وهدف الصقل التبايني التكراري لصقل التمثيلات الدلالية بشكل تكراري، متفوقاً بذلك على تضمينات النماذج اللغوية الكبيرة القائمة على المشفر فقط في الاختبارات المعيارية مع إظهار قدرات ناشئة للتوسع أثناء وقت الاختبار.
تُعزز النسخة الثالثة من مهمة LeWiDi المشتركة في مؤتمر NLPerspectives تطوير الذكاء الاصطناي المدرك للاختلاف عبر توسيع المعيار المرجعي ليشمل أربع مهام متنوعة في معالجة اللغات الطبيعية ذات مخططات تسمية ترتيبية، وتقديم نماذج تقييم قائمة على التسميات الناعمة والمنظورات مع مقاييس مبتكرة، وتوفير موارد ورؤى جديدة حول نمذجة تباين الأحكام البشرية.
تقدم هذه الورقة البحثية Pxplore، وهو إطار عمل مبتكر يجمع بين التعلم المعزز والنماذج اللغوية الكبيرة لتوليد مسارات تعلم شخصية وموجهة نحو الأهداف من خلال نمذجة حالات المتعلمين وتحسين السياسات عبر الضبط الدقيق الخاضع للإشراف وتحسين السياسة النسبي للمجموعات.
تُثبت هذه الورقة كمياً أن تلوث مجموعة الاختبار يؤدي إلى تضخيم أداء التقييم التوليدي بشكل كبير من خلال تمكين النماذج من تجاوز الخطأ غير القابل للاختزال عبر الحفظ، بينما تكشف أن عوامل مثل حجم النموذج، ومدة التدريب، ودرجة حرارة الاستدلال تعدل هذه التأثيرات بشكل حاسم بطرق تختلف عن التقييمات التمييزية.
تقترح هذه الورقة إطار عمل "استدعاء الوظائف المعزز بالتفكير" (TAFC)، وهو إطار عمل مبتكر يعزز دقة وقابلية تفسير استدعاء الوظائف في النماذج اللغوية الكبيرة (LLMs) من خلال تضمين استدلال صريح وديناميكي مباشرة في توليد المعلمات دون الحاجة إلى تعديلات هيكلية.
تقدم الورقة البحثية FadeMem، وهي بنية ذاكرة لوكيل مستوحاة بيولوجياً تستخدم التحلل الأسي التكيفي وتسلسلاً هرمياً ثنائي الطبقات لنسيان المعلومات غير ذات الصلة بشكل انتقائي، مما يحقق أداءً فائقاً في الاستدلال متعدد الخطوات والاسترجاع مع تقليل بنسبة 45% في التخزين مقارنة باستراتيجيات الاحتفاظ الثنائية التقليدية.
تقدم الورقة البحثية DimStance، وهي أول مجموعة بيانات متعددة اللغات تتضمن تعليقات توضيحية للقيمة (valence) والاستثارة (arousal) لـ 7,365 نصاً عبر خمس لغات، لتمكين تحليل الموقف البعدي دقيق التفاصيل واختبار أداء نماذج مختلفة في التنبؤ بهذه الحالات الوجدانية.
تقدم هذه الورقة إطار عمل MAGIC، وهو إطار عمل جديد للتعلم المعزز متعدد الوكلاء ومتعدد الجولات يعزز سلامة النماذج اللغوية الكبيرة من خلال لعبة تنافسية مشتركة التطور، حيث يقوم وكيل مهاجم بتوليد استراتيجيات تركيبية مبتكرة ديناميكيًا لكشف الثغرات، مما يدفع وكيل مدافع إلى التعميم والرفض القوي للمدخلات التنافسية غير المرئية.