🤖 machine learning

Saliency-Aware Regularized Quantization Calibration for Large Language Models

تقترح هذه الورقة البحثية إطار عمل موحدًا يُسمى "المعايرة الكمية المنظمة الواعية بالبروز" (SARQC)، والذي يعزز عملية التكميم ما بعد التدريب للنماذج اللغوية الكبيرة من خلال إدخال حد تنظيم واعي بالبروز في هدف المعايرة، مما يؤدي إلى تخفيف مخاطر التعميم وتحسين الأداء في المهام اللاحقة دون إضافة أي عبء إضافي على عملية الاستدلال.

Yanlong Zhao, Xiaoyuan Cheng, Huihang Liu, Baihua He, Xinyu Zhang, Harrison Bo Hua Zhu, Wenlong Chen, Li Zeng, Zhuo Sun2026-05-08
🤖 machine learning

Irminsul: MLA-Native Position-Independent Caching for Agentic LLM Serving

يقدم Irminsul نظام تخزين مؤقت أصلي مستقل عن الموضع للنماذج اللغوية الكبيرة الوكيلية (Agentic LLMs) يستفيد من البنية الهيكلية لانتباه الكامن متعدد الرؤوس (Multi-Head Latent Attention) لتمكين التخزين المؤقت للمفاتيح والقيم القائم على المحتوى، محققاً استرداداً لرموز المطالبة (prompt tokens) يصل إلى 83% وتوفيراً في طاقة مرحلة الملء المسبق (prefill energy) بنسبة 63% عبر التغلب على مشكلات إبطال التخزين المؤقت المتأصلة في نهج مطابقة البادئة التقليدي.

Bole Ma, Jan Eitzinger, Harald Köstler2026-05-08
🔢 mathematics

Convex-Geometric Error Bounds for Positive-Weight Kernel Quadrature

تثبت هذه الورقة أن التربيع الكيرنلي ذو الأوزان الموجبة يمكنه تحقيق معدلات تقارب تتفوق على طريقة مونت كارلو من خلال الاستفضاء من هندسة الأغلفة المحدبة العشوائية لتقريب تضمينات متوسط الكيرنل، مما يوفر كلاً من حدود الخطأ النظرية وخوارزمية "فرانك-ولف" البنائية لإعادة التوزين المستقر والمقيد بالسمبلكس.

Satoshi Hayakawa2026-05-08
💬 NLP

Decodable but Not Corrected by Fixed Residual-Stream Linear Steering: Evidence from Medical LLM Failure Regimes

تُثبت هذه الورقة أنه بينما يمكن فك تشفير نمط فشل "الإفراط في التفكير" المحدد في النماذج اللغوية الكبيرة الطبية خطياً من الحالات الخفية، إلا أنه لا يمكن تصحيحه عبر التوجيه الخطي الثابت بسبب التشابك التمثيلي مع الحسابات الحرجة للمهمة، رغم أن المسبار نفسه يظل فعالاً في اكتشاف حالات الفشل لتمكين الامتناع الانتقائي.

Ming Liu2026-05-08
🤖 machine learning

Enabling Federated Inference via Unsupervised Consensus Embedding

تقترح هذه الورقة إطار عمل الاستدلال الفيدرالي القائم على التضمين التوافقي (CE-FI)، والذي يُمكّن النماذج مسبقة التدريب غير المتجانسة من التعاون أثناء عملية الاستدلال دون مشاركة البيانات الخام، أو معاملات النموذج، أو مشفر مشترك، وذلك عبر الاستفادة من التوافق غير الخاضع للإشراف وطبقات المخرجات التعاونية التي يتم تدريبها حصرياً على بيانات غير مصنفة مشتركة.

Yui Hashimoto, Takayuki Nishio, Yuichi Kitagawa, Takahito Tanimura2026-05-08
⚡ electrical engineering

WARP: A Benchmark for Primal-Dual Warm-Starting of Interior-Point Solvers

تقدم هذه الورقة WARP، وهو معيار وإطار عمل للشبكات العصبية يوضح ضرورة التنبؤ بحالات (البريمال-دوال-الحاجز) الكاملة بدلاً من مجرد المتغيرات الأولية لتحقيق تخفيضات كبيرة في عدد التكرارات في حلول تدفق القدرة الأمثل للتيار المتردد، مما يصحح المراجع المرجعية للتقييم السابقة التي بالغت في تقدير فعالية البدء الدافئ القائم على المتغيرات الأولية فقط.

Dhruv Suri, Helgi Hilmarsson, Shourya Bose2026-05-08
🤖 machine learning

CRAFT: Forgetting-Aware Intervention-Based Adaptation for Continual Learning

يُعد CRAFT إطار عمل للتعلم المستمر لنماذج اللغات الكبيرة يعمل على التخفيف من النسيان الكارثي عبر تعلم تدخلات منخفضة الرتبة على التمثيلات الخفية من خلال عملية موحدة ثلاثية المراحل تشمل توجيه المهام، والضبط الدقيق القائم على تباين كولباك - ليبلر، ودمج التدخل، مما يجعله يتفوق على النهج القوية القائمة على LoRA عبر معايير متعددة.

Md Anwar Hossen, Fatema Siddika, Juan Pablo Munoz, Tanya Roosta, Ali Jannesari2026-05-08
🤖 machine learning

CoMemNet: Contrastive Sampling with Memory Replay Network for Continual Traffic Prediction

يُعد CoMemNet إطار عمل للتعلم المستمر ثنائي الفروع يجمع بين فرع مستهدف يتم تحديثه بالزخم وبين عينة تباينية ديناميكية وذاكرة مؤقتة زمنية خفيفة الوزن لالتقاط أنماط حركة المرور المتطورة بفعالية والتخفيف من النسيان الكارثي، محققاً أداءً هو الأفضل في حالته على مجموعات بيانات واقعية واسعة النطاق.

Mei Wu, Wenchao Weng, Wenxin Su, Wenjie Tang, Wei Zhou2026-05-08
🔬 materials science

Polarizable atomic multipoles for learning long-range electrostatics

تقدم هذه الورقة إطار عمل شبه محلي يدمج متعددات الأقطاب الذرية القابلة للاستقطاب مع الاستجابة الخطية غير المتسقة ذاتياً لتمكين إمكانات التفاعل بين الذرات القائمة على التعلم الآلي من نمذجة الكهروسكونية بعيدة المدى بدقة، والتنبؤ بالكميات الملحوظة الحساسة للاستقطاب مثل الشحنات الفعالة لـ "بورن" وأطياف الأشعة تحت الحمراء عبر مختلف الأنظمة الأيونية والقطبية.

Dongjin Kim, Daniel S. King, Yoonjae Park, Roya Savoj, Sebastien Hamel, Xiaoyu Wang, Bingqing Cheng2026-05-08
🤖 machine learning

Full-Spectrum Graph Neural Network: Expressive and Scalable

تقترح الورقة البحثية الشبكة العصبية الرسومية ذات الطيف الكامل (FSpecGNN)، وهي شبكة عصبية رسومية طيفية من الدرجة الثانية وقابلة للتوسع، تعمل على رفع الإشارات إلى نطاق أزواج العقد وتستخدم ترشيحاً طيفياً ثنائي المتغير لتجاوز حدود التعبير للشبكات العصبية الرسومية الكلاسيكية، محققة بذلك التقريب الشامل لإشارات أزواج العقد وأداءً قوياً على الرسوم البيانية غير المتجانسة.

Xiaohan Wang, Deyu Bo, Longlong Li, Kelin Xia2026-05-08