12058 ورقة بحثية
تقدم هذه الورقة البحثية GUMBridge، وهو متن لغوي جديد يضم 16 نوعاً متنوعاً من النصوص الإنجليزية مع تعليقات توضيحية دقيقة لأنواع الربط المرجعي الفرعية، بينما تثبت أن كلاً من حل الربط وتصنيف الأنواع الفرعية لا يزالان يمثلان مهاماً صعبة بالنسبة للنماذج اللغوية الكبيرة المعاصرة.
تُثبت هذه الورقة أن ملفات تعريف إنتروبيا المخرجات (output-entropy profiles) المستمدة من آثار فك التشفير في النماذج اللغوية الكبيرة (LLM decoding traces) يمكن أن تعمل كإشارة فعالة أثناء وقت الاستدلال لتقدير دقة مستوى الشريحة (slice-level accuracy) تحت ظروف انزياح النطاق (domain shift)، مما يتيح مراقبة قابلة للتوسع واكتساب بيانات مستهدف عبر مختلف مهام الاستدلال في مجالات العلوم والتكنولوجيا والهندسة والرياضيات (STEM).
تقترح هذه الورقة إطار عمل يستفيد من سمات الشخصية المستقرة كإشارات كامنة لتصفية وتوجيه تفضيلات المستخدم، مما يثبت أن تكييف النماذج اللغوية الكبيرة مع التفضيلات المتسقة مع الشخصية يحسن بشكل كبير من دقة الإجابة على الأسئلة المخصصة، وتقدم PACIFIC، وهي مجموعة بيانات جديدة من بيانات التفضيلات المصنفة حسب الشخصية.
تقدم هذه الورقة البحثية "البحث الفائق" (Super Research)، وهي مهمة ومعيار جديد مصمم لتقييم قدرة النماذج اللغوية الكبيرة على حل الأسئلة شديدة التعقيد من خلال دمج التخطيط المهيكل، والاسترجاع فائق الاتساع، والتحقيق التكراري فائق العمق، مدعوماً ببروتوكول تدقيق مرتكز على الرسوم البيانية لتقييم الأداء عبر خمسة أبعاد حاسمة.
تقدم هذه الورقة ClinConsensus، وهو معيار مرجعي طبي صيني شامل يضم 2,500 حالة مفتوحة منسقة من قبل خبراء عبر كامل نطاق الرعاية، والذي يستخدم مقياساً مبتكراً لتسجيل الاتساق وإطار تقييم ثنائي الحكام للكشف عن تباين كبير في الأداء وفجوات في الاستنتاج لدى النماذج اللغوية الكبيرة الحالية.
تقدم هذه الورقة نموذجاً بديلاً مبتكراً يحافظ في آن واحد على كل من توزيعات تكرار الرموز التجريبية (مثل قانون زيبف) وهياكل الارتباط بعيد المدى للتسلسلات الرمزية مثل اللغة والحمض النووي (DNA) عن طريق رسم الضجيج الغاوسي الكسري على المدرج التكراري الأصلي، مما يتيح فك الارتباط بين الميزات الهيكلية واختبار أصول قوانين القياس.
تجادل هذه الورقة بأن التطور الذاتي المستدام في النماذج اللغوية الكبيرة يتطلب مسار بيانات ذاتي التخليق يضمن زيادة في اكتساب المعلومات القابلة للتعلم، ويتحقق ذلك من خلال إطار ثلاثي يتكون من "المقترح-الحلال-المتحقق" معزز بالتطور المشترك غير المتماثل، ونمو القدرة، والبحث الاستباقي عن المعلومات للتغلب على قيود اللعب الذاتي الهش.
تُظهر هذه الورقة أن تدريب الانتباه المتناثر من طرف إلى طرف يعاني من "امتصاص التوجيه" (routing absorption)، حيث تتكيف إسقاطات الـ Q/K/V في النموذج مع أي قناع مفروض، مما يجعل آليات البوابات المتعلمة غير فعالة مقارنة بالبوابات العشوائية، ويشير ذلك إلى أن التناثر اللاحق (post-hoc sparsification) يعد بديلاً متفوقاً.
يُعد HELIOS إطار عمل مبتكر لاسترجاع الجداول والنصوص متعدد الحبيبات، حيث يوفق بين استرجاع المخططات الفرعية ثنائية التجزئة القائمة على الحواف، وتوسيع العقد ذات الصلة بالاستعلام، والتحسين القائم على نموذج اللغة الكبير (LLM) بنمط النجمة للتغلب على قيود أساليب الدمج المبكر والمتأخر الحالية، مما يؤدي إلى تحسين الأداء بشكل كبير في معايير الإجابة على الأسئلة في النطاق المفتوح.
تُثبت هذه الورقة أن نموذج الترجمة NLLB-200 التابع لشركة ميتا يتعلم ضمنياً كلاً من البنية الجينية للغات البشرية والارتباطات المفاهيمية العالمية، مما يوفر دليلاً هندسياً على وجود مستودع مفاهيمي محايد لغوياً يماثل النظريات المعرفية للتنظيم المعجمي متعدد اللغات.