26678 ورقة بحثية
تقدم هذه الورقة البحثية الاستدلال القياسي كنهج مبتكر للتخفيف من حدة انهيار النمط في النماذج اللغوية الكبيرة، حيث تُظهر أنه يعزز بشكل كبير تنوع وجدة الحلول العلمية المولدة مع تحقيق أداء رائد عبر مهام طبية حيوية متعددة.
تقترح هذه الورقة البحثية "التقطير التدريجي الموجه بالتعلم المنهجي" (CLPD)، وهو إطار عمل موحد يعزز تقطير المعرفة في النماذج اللغوية الكبيرة من خلال مواءمة صعوبة بيانات التدريب مع زيادة قدرة النموذج المعلم بشكل تدريجي، مما يتغلب على قيود الطرق الحالية ويحسن أداء الاستنتاج في النماذج الطلابية الأصغر حجماً.
تقترح هذه الورقة إطار عمل جديد للتحقق الخارجي يستخدم المشفرات التلقائية التوليدية لقياس مدى تشابه مستوى المريض مع بيانات التطوير، وذلك من أجل الفصل بين أوجه القصور في النموذج والاختلافات السكانية لتوفيش تقييم أكثر دقة لقابلية نقل النموذج التنبؤي وسلامته لمجموعات فرعية محددة من المرضى.
تقدم هذه الورقة "انتباه المؤثر الزمني" (TOA)، وهو إطار عمل يتغلب على قيود انتباه "softmax" القياسي في التنبؤ بالسلاسل الزمنية من خلال دمج مؤثرات صريحة وقابلة للتعلم في فضاء المتتالية لتمكين التحويلات الموقعة والتذبذبية، مما يحقق أداءً فائقاً عبر مختلف المعايير المرجعية.
يُعد ReAD إطار عمل لتقطير القدرات الموجه بالتعزيز، يعالج الترابط بين قدرات النموذج من خلال تخصيص ميزانية ثابتة من الرموز (tokens) ديناميكيًا لتحسين المنفعة في المهام اللاحقة مع تقليل الآثار الجانبية الضارة والجهد الضائع.
تقدم الورقة البحثية LatentRouter، وهو إطار عمل مبتكر يحسن عملية اختيار النماذج متعددة الوسائط من خلال صياغة التوجيه كأداة للتنبؤ بالمنفعة المضادة للواقع، حيث تتواصل الكبسولات المتعلمة ورموز قدرة النموذج في تواصل كامن لتقدير ومطابقة نقاط القوة المحددة للنماذج المرشحة مع مدخلات الصور والأسئلة، مما يتفوق على النماذج المرجعية الحالية في كل من الأداء وكفاءة التكلفة.
تثبت هذه الورقة أنه بينما يستحيل توليد اللغة في الوقت المناسب للمولدات ذات الاتساق النهائي تحت ترتيب تفضيل عالمي، فإن ذلك يصبح ممكناً بكثافة مثلى إذا سمح المولد بمعدل هلوسة يتلاشى، بشرماً أن تكون دالة الموعد النهائي فائقة الخطية.
تقدم هذه الورقة البحثية منهجية "تعظيم قيمة البيانات المقيدة" (CDVM)، وهي نهج مبتكر يصيغ عملية تقليم البيانات كمسألة تحسين مقيدة لتعظيم تأثير النموذج بفعالية مع معاقبة المساهمات المفرطة لكل اختبار، مما يؤدي إلى التفوق على الطرق التقليدية القائمة على قيم شابلي في سيناريوهات البيانات المنخفضة.
تقترح هذه الورقة وتتحقق أولياً من نهج جديد يسخر النماذج اللغوية الكبيرة لتوليد مواصفات باللغة الطبيعية وإجراء التحقق التركيبي للأكواد، بهدف منع إنتاج تنفيذات معرضة للثغرات دون الاعتماد على لغات رسمية جامدة.
تُعد SOMA إطار عمل فعال لخدمة النماذج اللغوية الكبيرة متعددة الأدوار، حيث تعمل على تقليل زمن الاستجابة والتكلفة عبر استخدام نموذج كبير في البداية لتحديد التباينات الدلالية، ثم تكييف نموذج بديل أصغر عبر المطالبات الناعمة وضبط دقيق محلي باستخدام تقنية LoRA للتعامل مع بقية المحادثة مع وجود بوابة سلامة لضمان الجودة.