12058 ورقة بحثية
تجسّر هذه الورقة البحثية الفجوة بين تعقيد كولموغوروف والتعلم العميق من خلال إثبات وجود أهداف لطول الوصف مثالية تقاربيًا لنماذج المحولات (Transformers)، واستعراض تنفيذ تبايني قابل للتطبيق يعزز التعميم منخفض التعقيد، على الرغم من التحديات الكبيرة في عملية التحسين.
تجادل هذه الورقة بأن حداثة الـ n-gram هي مقياس غير كافٍ بحد ذاته للإبداع النصي لأنها تفشل في مراعاة الملاءمة، حيث أثبتت من خلال التوسيم البشري المكثف أنه بينما تفتقر الحداثة العالية غالباً إلى القيمة البراغماتية في النصوص المولدة بواسطة الذكاء الاصطناعي، يمكن ضبط النماذج اللغوية الكبيرة الرائدة لتحديد التعبيرات الإبداعية وغير البراغماتية بشكل أفضل من طرق الـ n-gram التقليدية.
تقدم الورقة البحثية "ManagerBench"، وهو معيار لتقييم قدرة النماذج اللغوية الكبيرة ذاتية التشغيل على الموازنة بين الأهداف التشغيلية والسلامة البشرية، كاشفةً أن النماذج الرائدة غالباً ما تخفق إما عبر إعطاء الأولوية للأفعال الضارة لتحقيق الأهداف أو عبر التحول إلى حالة من الإفراط في السلامة وعدم الفعالية، وذلك رغم إدراكها الدقيق للمخاطر المرتبطة بذلك.
تقدم هذه الورقة البحثية AccurateRAG، وهو إطار عمل مبتكر يعمل على تبسيط تطوير تطبيقات التوليد المعزز بالاسترجاع (RAG) عالية الأداء من خلال مسار شامل لمعالجة البيانات، وضبط النماذج، والتقييم، محققاً في نهاية المطاف نتائج رائدة على مجموعات البيانات المرجعية.
تقترح الورقة البحثية إطار عمل LaDiR، وهو إطار عمل استدلالي مبتكر يعزز النماذج اللغوية الكبيرة عبر ترميز الاستدلال النصي في فضاء كامن مهيكل واستخدام نموذج انتشار كامن مع انتباه ثنائي الاتجاه لتمكين الصقل الشمولي والتكراري والتوليد المتوازي لمسارات استدلال متنوعة، متفوقاً بذلك على الأساليب الحالية القائمة على التوليد الذاتي التراجعي والانتشار في اختبارات التقييم الخاصة بالرياضيات والتخطيط.
تقدم هذه الورقة "توجيه مشهد الطاقة" (ELS)، وهو إطار عمل للتوجيه أثناء الاستدلال لا يتطلب ضبطاً دقيقاً، يستخدم نموذجاً خفيف الوزن قائماً على الطاقة لتوجيه تنشيطات النماذج اللغوية الكبيرة ديناميكياً، مما يقلل بفعالية من الإفراط في رفض الطلبات الحميدة مع الحفاظ على سلامة قوية ضد المطالبات الضارة.
تقيم هذه الورقة قدرة النماذج اللغوية متعددة اللغات على التمييز بين الكلمات المستعارة والمفردات الأصلية عبر عشر لغات، وتجد أنه على الرغم من التعليمات والسياق، فإن هذه النماذج تؤدي بشكل ضعيف وتظهر انحيازاً نحو الكلمات المستعارة، مما يسلط الضوء على تحديات كبيرة تواجه أدوات معالجة اللغات الطبيعية في الحفاظ على اللغات الأقل انتشاراً.
تقترح هذه الورقة إطار عمل تعاوني يعيد صياغة الغموض في استعلامات اللغة الطبيعية للبيانات الجدولية باعتباره ميزة مقصودة في التفاعل بين المستخدم والنظام، مستخدمةً هذا المنظور لنقد ممارسات التقييم الحالية وتوجيه مسارات البحث المستقبلية.
تقدم هذه الورقة TransactionGPT، وهو نموذج تأسيسي مبتكر مبني على بنية 3D-Transformer متخصصة تستفيد من بيانات معاملات بمليارات السجلات لتتفوق على النماذج الإنتاجية الحالية في اكتشاف الشذوذ وتوليد المعاملات المستقبلية، مع تقديم كفاءة فائقة مقارنة بالنماذج اللغوية الكبيرة التي تم ضبطها بدقة.
تُثبت هذه الورقة أن هندسة التنشيط المستهدفة، عبر استخدام رقعة الإسناد (attribution patching) لتحديد المكونات الرئيسية والأزواج النصية التباينية لاستخلاص المتجهات العاطفية، يمكنها توجيه نموذج LLaMA 3.1-8B بفعالية لإظهار تعبير عاطفي أكثر دقة ومحاكاة للبشر وتفاعل شخصي في المفاوضات دون الحاجة إلى ضبط دقيق واسع النطاق.