11070 ورقة بحثية
تقدم الورقة البحثية إطار العمل ، وهو إطار عمل لما بعد التدريب يعمل على تعزيز نماذج الرؤية واللغة الجاهزة وتحويلها إلى مستنتجات روبوتية قادرة على توليد توجيهات لغوية طبيعية حرة لسياسات التلاعب منخفضة المستوى، مما يؤدي بشكل كبير إلى تحسين الاستكشاف والتعميم في المهام طويلة الأمد من خلال الجمع بين التدريب المتوسط على آثار الخبراء والتعلم التعزيزي القائم على المعايير.
تقترح هذه الورقة نموذج حقل عشوائي مشروط عصبي عبر لغوي، يعتمد على مستوى الحرف ويستفيد من التعلم بنقل المعرفة عبر اللغات ذات الصلة لتحسين أداء التعرف على الكيانات المسماة بشكل كبير في البيئات محدودة الموارد، محققاً زيادة تصل إلى 9.8 نقطة في مقي�remos F1 مقارنة بالنماذج المرجعية لـ CRF الخطية.
تبحث هذه الورقة في كيفية تأثير التكميم على التفسيرات الذاتية للنماذج اللغوية الكبيرة، وتجد أنه بينما يتسبب ذلك عمومًا في انخفاضات متوسطة في جودة التفسير، والأمانة، وثقة المستخدم، فإن التأثير يتباين باختلاف السياق وحجم النموذج، مما يستلزم التحقق من الحالة الخاصة قبل النشر.
تقترح هذه الورقة إطار عمل مبتكر لتحقيق عوائد مادية مستدامة للنماذج اللغوية الكبيرة (LLM) عبر فصل إدراج الإعلانات عن عملية توليد الاستجابة، واستخدام نظام المزايدة القائم على النوع لضمان التماسك السياقي، والكفاءة الحسابية، والامتثال الأخلاقي في آن واحد، مع تحقيق ضمانات قوية قائمة على نظرية المزاد.
تقدم هذه الورقة CASTLE، وهو معيار مرجعي شامل ثنائي اللغة يضم ما يقرب من 93,000 سيناريو وثلاثة مقاييس مبتكرة لتقييم وكشف أوجه القصور الكبيرة في قدرة النماذج اللغوية الكبيرة الحالية على توفير سلامة مخصصة وموجهة للطلاب عبر مختلف المخاطر التعليمية والسمات الطلابية.
يُعد PatientHub إطار عمل موحداً ونمطياً يعمل على توحيد معايير إنشاء ومحاكاة وتقييم ملفات المرضى القائمة على النماذج اللغوية الكبيرة لمعالجة التجزئة في هذا المجال، حيث يوفر أدوات للأبحاث القابلة للتكرار، والتقييم العلاجي القابل للتوسع، والتطوير الموسع لطرق محاكاة جديدة.
تُثبت هذه الورقة أن الجمع بين التدريب المسبق المستمر وإعادة العرض متعدد اللغات المعزز باللغة الإستونية والمحاذاة اللاحقة خفيفة الوزن يعزز بشكل كبير قدرات اللغة الإستونية في النماذج اللغوية الكبيرة متعددة اللغات مع الحفاظ بفعالية على أدائها في اللغة الإنجليزية ومهارات الاستدلال العامة لديها.
تقترح هذه الورقة إطاراً مفاهيمياً موحداً لنماذج الانتشار المنفصلة يرتكز على بناء فضاء الحالة المنفصلة، مما يوحد الصيغ الحالية، ويوضح مقايضات التصميم، ويوجه اتجاهات الأبحاث المستقبلية.
تقدم هذه الورقة مسرع المحولات (TFA)، وهو محرك أجهزة INT8 قابل للتخليق يحقق استنتاج محولات دقيق البت، من البداية إلى النهاية، مع تحقق وظيفي بنسبة 100% وتحسينات كبيرة متوقعة في الطاقة والسرعة مقارنة بالنماذج المرجعية للمعالجات المركزية (CPU).
تُعد Geodesia-KV إطار عمل لضغط ذاكرة التخزين المؤقت (KV cache) جاهزاً للأجهزة ولا يتطلب تدريباً، حيث يوظف تخصيص دقة رتيبة على مستوى الكتل وقراءة استعلام متفرقة للتفوق بشكل كبير على الأساليب الحالية في كفاءة الارتياب وكفاءة عرض النطاق الترددي، مما يتيح توليد سياق يصل إلى مليون رمز (token) على وحدات معالجة رسومية استهلاكية بسعة 16 جيجابايت.