cs.LG ورقة بحثية

CONF-KV: Confidence-Aware KV Cache Eviction with Mixed-Precision Storage for Long-Horizon LLM

تُعد استراتيجية CONF-KV طريقة مبتكرة لإخلاء ذاكرة التخزين المؤقت لـ KV، حيث تقوم بتعديل ميزانيات التخزين المؤقت ديناميكيًا بناءً على ثقة النموذج في التنبؤ لكل خطوة، وتستخدم تخزينًا بدقة مختلطة لتقليل استخدام الذاكرة بشكل كبير مع الحفاظ على دقة استرجاع عالية وأداء المهام للاستنتاج طويل الأمد في النماذج اللغوية الكبيرة.

Yubo Li, Yidi Miao2026-05-26

⚡ electrical engineering

Lifted Schrödinger Bridges for Gaussian Mixture Endpoints: Projection Gaps and Path-Space Obstructions

تقدم هذه الورقة إطار عمل لمسار فضاء مرفوع لحل جسور شرودنجر بين نهايات المزيج الغاوسي، وذلك عبر تفكيك المشكلة إلى جسور غاوسية مكوناتية ومهمة اقتران إنتروبي، مع تحليل فجوة الإسقاط المعلوماتي الناتوي التي تنشأ عند استعادة التدفق الهامشي غير المصنف من الحل المصنف.

Siddhartha Ganguly, George Rapakoulias, Panagiotis Tsiotras2026-05-26

📊 statistics

Spiking the training data to correct for test set contamination

تقترح هذه الورقة طريقة لتصحيح درجات الاختبار المتضخمة الناتجة عن تلوث البيانات عبر "حقن" بيانات التدريب عمدًا بأمثلة اختبار معروفة لمعايرة متنبئات الحفظ، والتي تُستخدم بعد ذلك إحصائيًا لضبط مقاييس أداء النموذج.

Johnny Tian-Zheng Wei, Jerry Li, Ameya Godbole, Robin Jia2026-05-26

🤖 machine learning

DriftingMol: Decoder-Coupled Drift for One-Pass Property-Conditional Molecular Generation

يقدم DriftingMol إطار عمل من مرحلة واحدة ومنخفض التكلفة لتوليد الجزيئات المشروطة بالخصائص، والذي يحقق صلاحية وتنوعاً وارتباطاً عالياً بالخصائص المستهدفة عبر ربط مولد DiT مع فك تشفير SELFIES مجمد من خلال آلية انجراف مبتكرة مقترنة بفك التشفير تقوم بنشر التدرجات عبر خريطة الميزات لفك التشفير.

Jiangjie Qiu, Yijun Li, Wentao Li, Xiaonan Wang2026-05-26

🤖 machine learning

The Concept Allocation Zone: Tracking How Concepts Form Across Transformer Depth

تقدم هذه الورقة "منطقة تخصيص المفاهيم" (CAZ)، وهو إطار عمل يعيد تعريف تشكّل المفاهيم في نماذج المحولات (transformers) باعتباره عملية ممتدة عبر العمق تحدث عبر منطقة متصلة من المجرى المتبقي (residual stream) بدلاً من حدوثها عند طبقة واحدة "مثلى"، وذلك باستخدام مقاييس جديدة لتحديد هذه المناطق، وكشف أن العديد من المفاهيم تكمن في مناطق تخصيص فرعية متعددة الأنماط، وهي مناطق نشطة سببيًا ومع ذلك تظل غير مرئية لطرق الكشف عن الذروة القياسية.

James Henry2026-05-26✓ Author reviewed ⓘ

🤖 machine learning

Unifying Value Alignment and Assignment in Cross-Domain Offline Reinforcement Learning with Heterogeneous Datasets

تقدم هذه الورقة البحثية V2A، وهو إطار عمل مبتكر للتعلم التعزيزي غير المتصل عبر النطاقات غير المتجانسة، يعالج المشكلة الحرجة المتمثلة في سوء تعيين القيمة من خلال دمج تعلم تمثيل الأنماط المتسق زمنياً، وتعلم الميزة المدرك للأنماط، وتصفية البيانات لتوحيد محاذاة وتعيين القيمة من أجل نقل فعال للسياسة.

Zhongjian Qiao, Jiafei Lyu, Chenjia Bai, Peisong Wang, Siyang Gao, Shuang Qiu2026-05-26

💬 NLP

Towards a Universal Causal Reasoner

تقدم الورقة البحثية UniCo، وهو إطار عمل لتوليد البيانات يقوم بإنشاء بيانات تدريب سببية عالية الجودة ومتنوعة عبر سلم بيرل للسببية (Pearl's Causal Ladder)، مما يعزز بشكل كبير قدرات الاستدلال السببي، والتعميم، والموثوقية للنماذج اللغوية الكبيرة التي تم ضبطها بدقة عبر كل من الاختبارات المعيارية الاصطناعية والتطبيقات الواقعية.

Qirun Dai, Xiao Liu, Jiawei Zhang, Dylan Zhang, Hao Peng, Chenhao Tan2026-05-26

🤖 machine learning

Efficient DP-SGD for LLMs with Randomized Clipping

تقدم الورقة البحثية DP-SGD-RC، وهي طريقة قص عشوائية مبتكرة تستفيد من التقدير العشوائي للأثر لتقليل عبء الذاكرة والحوسبة بشكل كبير في التدريب ذي الخصوصية التفاضلية للنماذج اللغوية الكبيرة مع الحفاظ على ضمانات خصوصية وفائدة تنافسية.

Enayat Ullah, Sai Aparna Aketi, Devansh Gupta, Huanyu Zhang, Meisam Razaviyayn2026-05-26

🤖 machine learning

SEED: Semi-supervised Continual MalwarE Detection for Tackling ConcEpt Drift on a BuDget

تقترح الورقة البحثية إطار عمل SEED، وهو إطار تعلم مستمر شبه مُشرف يجمع بين دالة هدف للتقاطع الثنائي المتطرفة والتعلم النشط وتفكيك القيم المفردة للكشف بفعالية عن البرمجيات الخبيثة في ظل تغير المفاهيم مع بيانات محدودة التصنيف، متفوقاً بشكل كبير على طرق التعلم التبايني الهرمي القائمة على مجموعات البيانات ذات الهياكل الدلالية الضعيفة.

Suresh Kumar Amalapuram, Bikraj Shresta, Siva Ram murthy Chebiyam, Bheemarjuna Reddy Tamma, Sumohana S Channappayya2026-05-26

🤖 machine learning

On the Impact of Class Imbalance on the Learning Dynamics of Deep Neural Networks:An Intuitive Insight

تتقصى هذه الدراسة بشكل منهجي كيف يؤدي عدم توازن الفئات إلى تعطيل ديناميكيات التعلم في الشبكات العصبية العميقة، كاشفةً أنه بينما تتعلم النماذج عينات الأقلية في نهاية المطاف، فإنها تفعل ذلك من خلال مرحلة مبكرة من نقص الملاءمة تليها مرحلة من الإفراط في الملاءمة التي تسفر عن تمثيلات غير قابلة للتعميم.

Ismail B. Mustapha, Shafaatunnur Hasan, Sunday O. Olatunji, Hatem S. Y. Nabus2026-05-26

→ السابق التالي ←