23200 ورقة بحثية
تقدم هذه الورقة منظوراً شاملاً حول دمج إحصاءات تساليس (Tsallis statistics) في الذكاء الاصطناعي، حيث تستعرض أسسها الرياضية وتطبيقاتها المتنوعة — من الانتباه المتناثر والتعلم التعزيزي إلى النمذجة التوليدية — مع المحاجة بضرورة التعامل مع المعلمة كتحيز استقرائي قابل للتعلم لالتقاط الخصائص غير الممتدة وذات الذيول الثقيلة المتأصلة في ديناميكيات التعلم العميق الحديثة.
تقترح الورقة البحثية إطار عمل ACE-GraphRAG، وهو إطار استدلال وكيلِيّ وقت الاستنتاج يجسّر الفجوة بين التمثيل والاستدلال في تقنية Hierarchical GraphRAG من خلال التكيف الديناميكي لبناء السياق عبر الاسترجاع التفاضلي المتوازي والسياسات المحددة للمهام، متفوقاً بذلك على النماذج المرجعية الثابتة في مهام الإجابة على الأسئلة متعددة القفزات ومهام التلخيص.
تقترح الورقة البحثية **ONCE**، وهو إطار عمل إضافي لضغط الرموز المرئية (video tokens) يقوم بنقل عملية الضغط المكلفة إلى مرحلة ما قبل التشغيل (offline) عبر تعلم كتاب رموز عالمي مدرك للتردد لمرة واحدة، مما يتيح ضغطاً فورياً (online) فعالاً ومستقلاً عن النموذج يقلل بشكل كبير من زمن انتقال الاستدلال مع الحفاظ على أداء تنافسي عبر معايير فهم الفيديو.
تقدم هذه الورقة وصفة تدريب عملية لنموذج المحول الموحد (nGPT) تدمج تقنيات مثل "التهيئة المسبقة لتدرج اللوجيت" (Logit Gradient Preconditioning) و"GatedAdamW"، مما يمكّن نماذج خليط الخبراء (MoE) الهجينة من نوع "مامبا-محول" (Mamba-Transformer) ذات الـ 14 مليار معلمة من تحقيق نفس خسارة التحقق التي تحققها نظيراتها غير الموحدة باستخدام نصف عدد رموز التدريب تقريباً.
تقدم الورقة البحثية Router-Mem، وهو إطار عمل تنفيذ تدريجي مشروط بالأدلة يقرر ديناميكيًا ما إذا كان سيتم الإنهاء المبكر أو توسيع استرجاع الذاكرة بناءً على كفاية الأدلة، مما يحقق جودة إجابة قوية مع تقليل زمن انتقال الاستدلال بشكل كبير مقارنة بالتنفيذ الكامل للذاكرة.
تقدم الورقة البحثية "توجيه الطلب المعرفي" (Cognitive Demand Steering - CDS)، وهو إطار عمل للتفكير الميتافيزيقي (meta-reasoning) لا يتطلب تدريباً، يستخدم تقييماً استشرافياً للطلب المعرفي مكوناً من 16 بُعداً لاختيار تدخلات استدلالية مستهدفة ديناميكياً، مما يؤدي إلى تحسين الدقة بشكل كبير عبر مهام متنوعة دون الحاجة إلى تدريب إضافي للنموذج.
تستهل هذه الورقة دراسة رسمية لضغط السياق في النماذج اللغوية الكبيرة من خلال تقديم إطارين عمل قائمين على نظرية الألعاب لاستراتيجيات الاختيار والتوليد، وإثبات تكافؤهما مع تعقيد الاتصال أحادي الاتجاه لوضع حدود نظرية وإثبات أن التلخيص التوليدي يمكن أن يتفوق بشكل صارخ على اختيار المجموعات الجزئية.
تقدم هذه الورقة البحثية DeVIT، وهي طريقة تسريع منخفضة الطاقة لنماذج Vision Transformers تستغل موضعية القيم في النماذج المكممة لتمكين عملية ضرب المصفوفات بدون استخدام الضرب عبر الحوسبة التفاضلية.
تُبين هذه الورقة أن النشر الفعال للنماذج اللغوية في القرارات السريرية عالية المخاطر، مثل فرز حالات الطوارئ، يتطلب دمج قدراتها التنبؤية مع دوال منفعة صريحة لوزن عواقب الإجراءات المختلفة، بدلاً من الاعتماد على التنبؤات الدقيقة وحدها.
تقدم الورقة البحثية نموذج KoVRE، وهو نموذج تضمين أحادي المتجه فعال لاسترجاع المستندات المرئية الكورية، والذي يستفيد من الإشراف الثنائي اللغة المستهدف واستراتيجيات التدريب المتقدمة للتفوق على النماذج الأساسية الأكبر ونماذج المتجهات المتعددة المرجعية دون الحاجة إلى نطاق ضخم.