26898 ورقة بحثية
تُعدُّ LiBaGS طريقةً خفيفة الوزن وغير مرتبطة بمولد محدد، تعمل على تحسين اختيار البيانات الاصطناعية من خلال تقييم العينات بناءً على القرب من الحدود، وعدم اليقين، والكثافة، مع توظيف قاعدة تخصيص فجوة الحدود ومعيار توقف القيمة الهامشية لتحسين دقة المهام اللاحقة دون بيانات زائدة أو غير واقعية.
تقدم هذه الورقة بنية تحتية لعمليات النماذج اللغوية الكبيرة (LLMOps) مدركة لحجم عبء العمل ومصممة خصيصاً للامتثال لمكافحة الاحتيال ومكافحة غسل الأموال، والتي تستفيد من النماذج ذات الأوزان المفتوحة، وتحسينات الخدمة المتقدمة مثل PagedAttention وتخزين البادئة المؤقت (prefix caching)، وبوابات جودة صارمة لتحقيق تحسينات كبيرة في معدل الإنتاجية، وزمن الاستجابة، واستغلال وحدة معالجة الرسومات مقارنة بنهج خدمة النماذج اللغوية الكبيرة العامة.
تقدم الورقة البحثية METIS، وهو إطار عمل مبتكر يستوعب حكم المنهج الدراسي كقدرة معرفية فوقية أصيلة للضبط الدقيق بالتعزيز للنماذج اللغوية الكبيرة عبر الاستفيد من تباين المكافأة داخل المطالبة لتخصيص موارد التدريب ديناميكيًا، مما يلغي الاعتماد على الاستدلالات الخارجية ويحقق أداءً فائقًا مع تقارب أسرع بشكل ملحوظ.
تقدم هذه الورقة البحثية الاستدلال القياسي كنهج مبتكر للتخفيف من حدة انهيار النمط في النماذج اللغوية الكبيرة، حيث تُظهر أنه يعزز بشكل كبير تنوع وجدة الحلول العلمية المولدة مع تحقيق أداء رائد عبر مهام طبية حيوية متعددة.
تقترح هذه الورقة البحثية "التقطير التدريجي الموجه بالتعلم المنهجي" (CLPD)، وهو إطار عمل موحد يعزز تقطير المعرفة في النماذج اللغوية الكبيرة من خلال مواءمة صعوبة بيانات التدريب مع زيادة قدرة النموذج المعلم بشكل تدريجي، مما يتغلب على قيود الطرق الحالية ويحسن أداء الاستنتاج في النماذج الطلابية الأصغر حجماً.
تقترح هذه الورقة إطار عمل جديد للتحقق الخارجي يستخدم المشفرات التلقائية التوليدية لقياس مدى تشابه مستوى المريض مع بيانات التطوير، وذلك من أجل الفصل بين أوجه القصور في النموذج والاختلافات السكانية لتوفيش تقييم أكثر دقة لقابلية نقل النموذج التنبؤي وسلامته لمجموعات فرعية محددة من المرضى.
تقدم هذه الورقة "انتباه المؤثر الزمني" (TOA)، وهو إطار عمل يتغلب على قيود انتباه "softmax" القياسي في التنبؤ بالسلاسل الزمنية من خلال دمج مؤثرات صريحة وقابلة للتعلم في فضاء المتتالية لتمكين التحويلات الموقعة والتذبذبية، مما يحقق أداءً فائقاً عبر مختلف المعايير المرجعية.
يُعد ReAD إطار عمل لتقطير القدرات الموجه بالتعزيز، يعالج الترابط بين قدرات النموذج من خلال تخصيص ميزانية ثابتة من الرموز (tokens) ديناميكيًا لتحسين المنفعة في المهام اللاحقة مع تقليل الآثار الجانبية الضارة والجهد الضائع.
تقدم الورقة البحثية LatentRouter، وهو إطار عمل مبتكر يحسن عملية اختيار النماذج متعددة الوسائط من خلال صياغة التوجيه كأداة للتنبؤ بالمنفعة المضادة للواقع، حيث تتواصل الكبسولات المتعلمة ورموز قدرة النموذج في تواصل كامن لتقدير ومطابقة نقاط القوة المحددة للنماذج المرشحة مع مدخلات الصور والأسئلة، مما يتفوق على النماذج المرجعية الحالية في كل من الأداء وكفاءة التكلفة.
تثبت هذه الورقة أنه بينما يستحيل توليد اللغة في الوقت المناسب للمولدات ذات الاتساق النهائي تحت ترتيب تفضيل عالمي، فإن ذلك يصبح ممكناً بكثافة مثلى إذا سمح المولد بمعدل هلوسة يتلاشى، بشرماً أن تكون دالة الموعد النهائي فائقة الخطية.