11535 ورقة بحثية
تقدم هذه الورقة البحثية DECO، وهي بنية "خليط من الخبراء" (Mixture-of-Experts) متفرقة تحقق أداءً مقارباً للأداء الكثيف مع تفعيل 20% فقط من الخبراء وتسريع في الاستنتاج بمقدار 3.00 أضعاف على الأجهزة الطرفية عبر الاستفادة من التوجيه القائم على ReLU، والتحجيم القابل للتعلم لكل خبير، ودالة تنشيط NormSiLU مبتكرة.
تقدم هذه الورقة تدفقات اللغة المضمنة (ELF)، وهو نموذج مطابقة تدفق في زمن مستمر يعمل بشكل أساسي في فضاء تضمين مستمر قبل الانتقال إلى الرموز المنفصلة، مما يظهر جودة توليد وكفاءة متفوقة مقارنة بنماذج اللغة ذات الانتشار المنفصلة والمستمرة الحالية.
تقدم هذه الورقة آلية الانتباه البايزي (BAM)، وهي إطار عمل احتمالي يوحد طرق الترميز الموضعي الحالية ويقترح توزيع غاوسي معمم (Generalized Gaussian prior) لتحقيق أداء فائق في تعميم السياق الطويل، مما يتيح استرجاع المعلومات بدقة عند 500 ضعف طول سياق التدريب مع حد أدنى من الزيادة في عدد المعلمات.
تُعرّف هذه الدراسة المسحية "أنظمة الذكاء الاصطناعي المركبة" بوصفها نموذجاً ناشئاً يدمج النماذج اللغوية الكبيرة مع مكونات خارجية مثل أدوات الاسترجاع والوكلاء، مقترحةً تصنيفاً موحداً وتحليلاً للنماذج التأسيسية مثل تقنية "التوليد المعزز بالاسترجاع" (RAG) ووكلاء النماذج اللغوية الكبيرة لمعالة التجزئة الحالية وتوجيه الأبحاث المستقبلية في مجال الذكاء الاصطناعي على مستوى الأنظمة.
تقدم هذه الورقة نظام VIDEE، وهو نظام تعاوني بين الإنسان والوكيل يُمكّن المحللين المبتدئين من إجراء تحليلات نصية متقدمة من خلال سير عمل يتكون من ثلاث مراحل هي التفكيك، والتنفيذ، والتقييم، مما يثبت فعاليته وسهولة استخدامه عبر مستويات متفاوتة من الخبرة.
تقدم الورقة البحثية MaPPO، وهي طريقة لتحسين التفضيلات تعمم النهج الحالية مثل DPO من خلال دمج معرفة المكافأة المسبقة في هدف "الاحتمال الأقصى اللاحق" (Maximum a Posteriori)، مما يحسن محاذاة النماذج اللغوية الكبيرة عبر مختلف المعايير دون إضافة معلمات فائقة أو التضحية بالكفاءة.
تُظهر هذه الدراسة أن دمج الذاكرة العابرة الشبيهة بالذاكرة البشرية في نماذج المحولات اللغوية يعزز قدراتها على تعلم اللغة، ولكنه يضعف بشكل غير متوقع قدرتها على التنبؤ بأوقات القراءة البشرية، مما يشير إلى أن قيود الذاكرة تفيد اكتساب الشبكة العصبية للغة دون أن تؤدي بالضرورة إلى تحسين التنبؤ السلوكي.
تتحدى هذه الورقة صحة استخدام وكلاء النماذج اللغوية الكبيرة كبدائل للمشاركين البشريين في الأبحاث من خلال إثبات أنه، على الرغم من توليدهم لاستجابات مشابهة للبشر، إلا أنهم يفتقرون إلى الاتساق السلوكي الجوهري عبر الإعدادات التجريبية المختلفة والمطلوب لتمثيل السلوك البشري الحقيقي بدقة.
تقدم هذه الورقة UXPID، وهي مجموعة بيانات اصطناعية مكونة من 7,130 فرعًا من ملاحظات المستخدمين مجهولة المصدر من منتديات صناعية، تم وسمها بواسطة النماذج اللغوية الكبيرة لدعم الأبحاث في تحليل تجربة المستخدم، واستخراج المتطلبات، ومعالجة الملاحظات المدفوعة بالذكاء الاصطناعي مع معالجة قيود الخصوصية والترخيص.
تقترح هذه الورقة إطاراً موحداً ذا أساس نظري يحدد شروط التكرار القابلة للتحقق تجريبياً لتمكين تخطي الطبقات بشكل منهجي في نماذج الرؤية واللغة، مما يؤدي إلى تحسين كفاءة الاستدلال دون التضحية بالأداء.