11420 ورقة بحثية
يُعد PowerStep مُحسِّناً تكيُّفياً موفراً للذاكرة يحقق التكيف عبر الإحداثيات من خلال الانحدار الشديد لـ -norm دون تخزين إحصائيات العزم الثاني، مما يجعله يطابق سرعة تقارب Adam مع تقليل عبء الذاكرة بشكل كبير لتدريب نماذج Transformer واسعة النطاق.
إنّ Phoenix-VL 1.5 Medium هو نموذج تأسيسي متعدد الوسائط واللغات بطبيعته، يمتلك 123 مليار معلمة، وقد تم تكييفه خصيصاً مع سياق سنغافورة من خلال تدريب مسبق ومواءمة محلية مكثفة، محققاً أداءً هو الأفضل في فئته على المعايير المرجعية الإقليمية مع الحفاظ على التنافسية العالمية في الذكاء العام.
تُعد StereoTales إطار عمل ومجموعة بيانات متعددة اللغات تضم أكثر من 650,000 قصة عبر 10 لغات، والتي تكشف كيف ينتج توليد النماذج اللغوية الكبيرة مفتوحة النهاية صوراً نمطية ضارة ومتكيفة ثقافياً بشكل منهجي بغض النظر عن حجم النموذج، مع إظهار توافق قوي بين الأحكام البشرية والذكاء الاصطناعي بشأن التحيز.
يقدم SlimSpec تمثيلاً بارامترياً منخفض الرتبة لرأس النموذج اللغوي الخاص بالنموذج المسود (drafter)، والذي يضغط التمثيلات الداخلية لتحقيق تسريع يتراوح بين 4 إلى 5 أضعاف، وزيادة في سرعة الأداء النهائي تصل إلى 8-9% مقارنة بالطرق الحالية، مع الحفاظ على دعم المفردات الكامل وتطلب حد أدنى من التعديلات على خط المعالجة.
تقدم هذه الورقة DeepRefine، وهو إطار عمل قائم على التعلم التعزيزي يقوم بتشخيص وتحسين قواعد المعرفة التي يجمعها الوكيل بشكل تكراري للقضاء على عدم الاكتمال، وعدم الصحة، والازدواجية، مما يعزز دقة الاسترجاع وأداء المهام اللاحقة دون الحاجة إلى مراجع معيارية ذهبية.
تقترح هذه الورقة نموذج انتشار القناع اللانهائي (IMDM)، الذي يستخدم قناعاً عشوائياً ذا حالة لانهائية للتغلب على حد خطأ التفكيك النظري لنماذج الانتشار المقنعة القياسية، مما يتيح تقطيراً فعالاً لعدد قليل من الخطوات وأداءً فائقاً في مهام توليد النصوص بعدد قليل من الخطوات.
تتقصى هذه الورقة مدى قدرة تضمينات النماذج اللغوية الفرنسية على التقاط واستبقاء السمات الأسلوبية للمؤلف بعد إعادة الكتابة، مبرهنةً على أن هذه الإشارات تستمر وتُظهر أنماطاً خاصة بكل نموذج، مما يفتح آفاقاً جديدة للكشف عن محاكاة التأليف.
تقدم هذه الورقة MulTaBench، وهو معيار شامل يتكون من 40 مجموعة بيانات صور-جدولية ونصوص-جدولية صُممت لإثبات أن الضبط الدقيق المخصص للمهام لتمثيلات الوسائط غير المهيكلة يتفوق بشكل كبير على التمثيلات المجمدة، مما يؤسس لقاعدة لتطوير نماذج تأسيسية جدولية متعددة الوسائط ومبتكرة.
تقدم هذه الورقة إطار تقييم معزز دلاليًا لحل الإحالة المرجعية، يقوم بدمج التعرف على المفاهيم والكيانات المسماة لتوفير رؤى تشخيصية دقيقة ومحددة بالفئات، مما يكشف عن نقاط الضعف المنهجية في النماذج ويسمح باستراتيجيات تعزيز البيانات المستهدفة التي تحسن الأداء خارج نطاق البيانات الأصلية.
تُثبت هذه الورقة أن الهندسة الدلالية المستقرة لفضاء الشخصية في النماذج اللغوية الكبيرة تحتوي على حواجز حماية جوهرية، مثل متجه شخصية "الشر" ومتجه التكافؤ الدلالي المُستحدث، واللذين يمكن استخراجهما من النماذج المتوافقة ونقلهما دون تدريب مسبق (zero-shot) لكبح عدم التوافق الناشئ في عمليات الضبط الدقيق الفاسدة بفعالية.