12323 ورقة بحثية
تقدم هذه الورقة MoBiQuant، وهو إطار عمل جديد للكمّ من نوع "خليط البتات" (Mixture-of-Bits) يعالج تحديات النشر المرن للنماذج اللغوية الكبيرة (LLMs) عبر ضبط دقة الأوزان ديناميكيًا بناءً على الحساسية على مستوى الرمز (token-level sensitivity) وموجه مدرك للرموز (token-aware router)، مما يتيح تبديل الدقة بسلاسة أثناء وقت التشغيل دون الحاجة إلى معايرة متكررة مع مطابقة أداء الكمّ بعد التدريب الخاص بكل دقة بت محددة.
تقترح هذه الورقة طريقة تجميع قائمة على الأمثلة المحدبة تضمن الوصول إلى القيم المثلى العالمية وتنتج مواضيع مستقرة وقابلة للتفسير، مما يظهر تفوقاً في القدرة على إعادة الإنتاج والفعالية مقارنة بالنهج التقليدية مثل "K-means" و"LDA" عند تطبيقها على مجموعة ضخمة من الأدبيات الطبية الحيوية المتعلقة بمكافحة الشيخوخة.
من خلال تحليل ٣٦٩,٨٣٧ استعلاماً من واقع العالم الحقيقي عبر متجه سمات لغوية ذي ٢٢ بُعداً، تُثبت هذه الدراسة أن خصائص معينة في الاستعلامات التي تسبب حيرة البشر، مثل التعشيق العميق للجمل والغموض وعدم التحديد، تزيد بشكل كبير من احتمالية حدوث الهلوسة في النماذج اللغوية الكبيرة، مما يؤسس إطاراً قائماً على البيانات للحد من هذه المخاطر من خلال إعادة صياغة الاستعلامات الموجهة.
تقدم الورقة البحثية RARE-PHENIX، وهو إطار عمل للذكاء الاصطناًعي متكامل من طرف إلى طرف يدمج النماذج اللغوية الكبيرة لاستخراج وتوحيد وترتيب مصطلحات "أونتولوجيا المظاهر البشرية" (Human Phenotype Ontology) من الملاحظات السريرية، مما يظهر أداءً فائقاً على النماذج المرجعية الحالية في دعم تشخيص الأمراض النادرة عبر مجموعات بيانات متعددة المواقع.
تقدم الورقة البحثية QueryBandits، وهو إطار عمل لـ "المناديب السياقية" (contextual bandit) غير مرتبط بنموذج محدد، يقوم باختيار استراتيجيات إعادة صياغة الاستعلام المثلى بشكل تكيفي للتخفيف من حدة الهلوسة في النماذج اللغوية الكبيرة مغلقة المصدر، مما يثبت أن السياسات الديناميكية عبر الإنترنت تتفوق بشكل كبير على أساليب إعادة الصياغة الثابتة والأساس المرجعي الذي لا يتضمن إعادة صياغة دون الحاجة إلى إعادة تدريب النموذج.
تقيم هذه الورقة نماذج "ناييف بايز" (Naive Bayes)، و"بي إل إس تي إم" (BiLSTM)، و"بيرت" (BERT) لتصنيف المستندات غير المتوازنة، وتخلص إلى أنه بينما يقدم نموذج "بيرت" أعلى دقة، فإن نموذج "بي إل إس تي إم" يوفر الحل الأكثر توازناً من خلال الجمع بين الأداء العالي والتكاليف الحسابية المتوسطة للأتمتة في العالم الحقيقي.
بتحدي الرؤية القائلة بأن أنظمة الأعداد العودية الدقيقة مثالية تواصلياً، تحلل هذه الدراسة ٥٢ لغة متنوعة باستخدام مقياس تعقيد منقح لتثبت أن العديد من الأنظمة أقل كفاءة بشكل ملحوظ مما كان يُعتقد سابقاً بسبب التباينات الصرفية والنحوية التي لم تؤخذ في الحسبان.
تستقصي هذه الورقة البحثية بشكل منهجي العلاقة بين هندسة مصفوفة فك التضمين (unembedding matrix) في نماذج المحولات (Transformer) وأداء النماذج اللغوية عبر 108 نماذج خاضعة للضبط، وتخلص إلى أن المقاييس الهندسية مثل الرتبة الفعالة (effective rank) تعكس في المقام الأول المعلمات الفائقة للتدريب بدلاً من كونها مؤشرات موثوقة للأداء في المهام اللاحقة.
تقدم هذه الورقة تصنيف "منفعة النموذج اللغوي" (LUX)، وهو إطار عمل شامل منظم ضمن مجالات الأداء، والتفاعل، والعمليات، والحوكمة، لتوحيد معايير تقييم منفعة النماذج اللغوية الكبيرة في التطبيقات الواقعية عالية المخاطر بما يتجاوز مجرد النجاح على مستوى المهام.
تقترح الورقة البحثية إطار عمل MIMIC، الذي يستفيد من نماذج الرؤية واللغة لتوليد "الحديث الداخلي" كتمثيل لغوي للنية السلوكية، مما يمكّن سياسة قائمة على الانتشار من تحقيق سلوكيات متنوعة وعالية الدقة تشبه سلوك البشر مع إمكانية توجيه دقيقة في وقت الاستنتاج دون الحاجة إلى بيانات تدريب إضافية.