11750 ورقة بحثية
تقدم الورقة البحثية تقنية VISTA، وهي تقنية خفيفة الوزن ومستقلة عن النموذج، تعمل على تصور أهمية مستوى الرمز (token) في النماذج اللغوية الكبيرة من خلال الاستفادة من استراتيجيات قائمة على الاضطراب وإطار تحليلي ثلاثي المصفوفات لإنشاء خرائط الصلة دون تكبد تكاليف حوسبية إضافية.
تقدم هذه الورقة نهجاً قائماً على التوجيه (router-based approach) للاختيار الديناميكي لأفضل نموذج لغوي كبير لكل استعلام بهدف تعظيم تنوع الاستجابة، مما يثبت أنه لا يوجد نموذج واحد يهيمن عالمياً، ولكن يمكن لموجه متعلم أن يتفوق بشكل كبير على أفضل نموذج فردي أساسي.
تحدد هذه الورقة أن تهيئة المتوسط القياسي تسبب انهيار رموز المفردات الجديدة في فضاء جزئي متدهور، مما يعيق الضبط الدقيق، وتقترح تهيئة الرموز المرتكزة (GTI)، وهي طريقة خفيفة الوزن تقوم بmapping الرموز الجديدة إلى مواقع ذات معنى دلالي في فضاء التضمين مسبق التدريب لتحسين الأداء بشكل كبير في مهام التوصية التوليدية.
تقدم هذه الورقة أول مراجعة منهجية لتقنيات التعلم بنقل المعرفة عبر اللغات للكشف عن اللغة المسيئة في وسائل التواصل الاجتماعي، حيث تحلل 67 دراسة لتصنيف مجموعات البيانات، وتلخيص استراتيجيات النقل، وتحديد التحديات الحالية واتجاهات البحث المستقبلية.
تتقصى هذه الدراسة تأثير دمج أربعة جوانب محددة لتنفيذ الكود في نموذج اللغة CodeT5+ من أجل تحسين الكود، وتجد أن استراتيجيات الوعي بالتنفيذ هذه توفر فوائد محدودة مقارنة بالنموذج القياسي.
يُعد Klear-Reasoner نموذج استدلال عالي الأداء يحقق نتائج رائدة في الرياضيات والبرمجة من خلال استخدام سير عمل يعتمد على الضبط الدقيق الفائق لتدفق الأفكس (Chain-of-Thought) الطويل وعالي الجودة، وطريقة مبتكرة للتحسين عبر سياسة تقليم الحفاظ على التدرج (GPPO) التي تخفف من قيود آليات التقليم القياسية لتعزيز الاستكشاف والتعلم من العينات السلبية.
تقدم هذه الورقة إطار تقييم شامل مع مقاييس مبتكرة لتقييم مخاطر التكاثر الذاتي في وكلاء النماذج اللغوية الكبيرة تحت ضغوط تشغيلية واقعية، كاشفةً أن أكثر من 50% من النماذج الرائدة تظهر نزعات تكاثر غير منضبطة عند مواجهة عدم توافق الأهداف.
تُظهر هذه الدراسة أن النماذج اللغوية الكبيرة يمكنها توليد محادثات على وسائل التواصل الاجتماعي متعددة المستخدمين بواقعية كافية لخداع القراء البشر، كما يتضح من خطأ المشاركين في تمييز المحتوى المُنشأ بواسطة الذكاء الاصطناعي واعتباره منشورات كتبها بشر بنسبة 39% من المرات.
تقدم هذه الدراسة إطار عمل DSPy+HELM قابل للتكرار يوضح أن استراتيجيات التلقين المهيكلة تحسن أداء النماذج اللغوية بشكل كبير وتغير ترتيبات المعايير المرجعية، مما يكشف أن اختيار التلقين هو عامل حاسم غالباً ما يتم إغفاله في تكوينات التقييم الثابتة.
إن OmniFusion هو نظام ترجمة متعدد الوسائط متكامل يدمج نموذجاً تأسيسياً متعدد الوسائط مسبق التدريب مع نموذج لغوي كبير للترجمة عبر استراتيجية دمج جديدة للحالات الخفية متعددة الطبقات، مما يتيح الترجمة المتزامنة للكلام والصور مع تقليل زمن الاستجابة وتحسين الجودة مقارنة بمسارات العمل المتتالية التقليدية.