📊 statistics

Fast and Efficient Gossip Algorithms for Robust and Non-smooth Decentralized Learning

تقدم هذه الورقة البحثية AsylADMM، وهي خوارزمية "غوسيب" (gossip) غير متزامنة مبتكرة تتيح تعلماً لامركزياً قوياً وفعالاً من حيث استهلاك الذاكرة للأهداف غير الملساء عبر اشتراط متغيرين فقط لكل عقدة، مما يتغلب على قيود القابلية للتوسع في الطرق الحالية مع إظهار تقارب فائق في مهام صعبة مثل تقدير المئينات والانحدار المتين.

Anna van Elst, Igor Colin, Stephan Clémençon2026-05-08
🤖 machine learning

FRISM: Fine-Grained Reasoning Injection via Subspace-Level Model Merging for Vision-Language Models

يُعد FRISM إطار عمل لحقن الاستدلال دقيق الحبيبات يعزز نماذج الرؤية واللغة عبر تفكيك متجهات مهام نماذج الاستدلال الكبيرة بواسطة تحليل القيم المفردة وضبط معاملات قياس الفضاء الجزئي بشكل تكيفي، مما يؤدي بفعالية إلى تحسين قدرات الاستدلال مع الحفاظ على الأداء البصري.

Chenyu Huang, Peng Ye, Xudong Tan, Jinhan Mu, Shenghe Zheng, Li Shen, Tao Chen2026-05-08
🤖 machine learning

Theoretically Optimal Attention/FFN Ratios in Disaggregated LLM Serving

تقدم هذه الورقة إطاراً تحليلياً وقاعدة تخصيص ذات صيغة مغلقة لتحديد النسبة المثلى نظرياً لموارد الانتباه (Attention) مقابل طبقات التغذية الأمامية (FFN) في خدمة النماذج اللغوية الكبيرة (LLM) المفككة، مع مراعاة ديناميكيات عبء العمل العشوائية وأعباء التزامن الإضافية لتقليل وقت خمول الأجهزة وحظر مستوى الخطوة.

Chendong Song, Meixuan Wang, Hang Zhou, Hong Liang, Yuan Lyu, Zixi Chen, Yuwei Fan, Zijie Zhou2026-05-08
🔢 mathematics

LAMP: Look-Ahead Mixed-Precision Inference of Large Language Models

يقدم هذا العمل LAMP، وهو استراتيجية استدلال تكيفي مختلط الدقة للنماذج اللغوية الكبيرة، يقوم بإعادة حساب مجموعة فرعية صغيرة من مكونات "ترانسفورمر" بدقة أعلى بشكل انتقائي لتحقيق تحسينات في الدقة تصل إلى رتبتين عشريتين مع الحفاظ على الكفاءة الحسابية.

Stanislav Budzinskiy, Marian Gloser, Tolunay Yilmaz, Ying Hong Tham, Yuanyi Lin, Wenyi Fang, Fan Wu, Philipp Petersen2026-05-08
📊 statistics

Generative Modeling of Discrete Data Using Geometric Latent Subspaces

تقترح هذه الورقة إطار عمل للفضاء الكامن الهندسي للنمذجة التوليدية للبيانات المنفصلة، والذي يستفيد من الهندسة الريمانية على متشعبات الضرب للتوزيعات الفئوية لتمكين مطابقة التدفق وخفض الأبعاد بفعالية عبر هدف تحليل المكونات الرئيسية الجيومتري الجديد.

Daniel Gonzalez-Alvarado, Jonas Cassel, Stefania Petra, Christoph Schnörr2026-05-08
💬 NLP

Leviathan: Decoupling Input and Output Representations in Language Models

تقدم الورقة البحثية "ليفياثان" (Leviathan)، وهي بنية "ترانسفورمر" (Transformer) تعمل على فصل تمثيلات المدخلات عن المخرجات من خلال استبدال مصفوفة التضمين المترابطة القياسية بترميز متجهي للتضمين المتعلم (LEV)، مما يحقق تحسينات ملحوظة في أداء نمذجة اللغة ومعايير الاختبار اللاحقة مع حد أدنى من الزيادة في عدد المعلمات.

Reza T. Batley, Sourav Saha2026-05-08
🤖 machine learning

PlatoLTL: Learning to Generalize Across Symbols in LTL Instructions for Multi-Task RL

يُعد PlatoLTL نهجاً جديداً للتعلم التعزيزي متعدد المهام يتيح التعميم الصفري للمهام غير المرئية من خلال نمذجة القضايا كمسندات ذرية مُعاملة وتضمينها ضمن بنية متخصصة للتعامل مع كل من هياكل منطق التايمات الخطية (LTL) التركيبية والتباينات المعاملية.

Jacques Cloete, Mathias Jackermeier, Ioannis Havoutis, Alessandro Abate2026-05-08
🤖 machine learning

Fed-Listing: Federated Label Distribution Inference in Graph Neural Networks

تقدم هذه الورقة Fed-Listing، وهو هجوم جديد يعتمد على التدرج (gradient-based attack) يستنتج بفعالية إحصائيات توزيع التصنيفات الخاصة بالعملاء في الشبكات العصبية الرسومية الاتحادية (Federated Graph Neural Networks) باستخدام تدرجات الطبقة النهائية فقط، متفوقاً بشكل كبير على النماذج المرجعية الحالية مع الحفاظ على القدرة على الصمود أمام آليات الدفاع الحالية.

Suprim Nakarmi, Junggab Son, Yue Zhao, Zuobin Xiong2026-05-08
🤖 machine learning

DisRFM: Polar Riemannian Flow Matching for Structure-Preserving Graph Domain Adaptation

يُعد DisRFM إطار عمل للتكيف مع نطاق الرسوم البيانية المدرك للهندسة، والذي يستفيد من مطابقة التدفق ريماني القطبي على متشعبات ذات انحناء ثابت للحفاظ على البنى الطوبولوجية وتثبيت التحسين، مما يجعله يتفوق على الأساليب التنافسية الإقليدية الحالية في ظل التحولات الدلالية والطوبولوجية للنطاقات.

Yingxu Wang, Xinwang Liu, Mengzhu Wang, Siyang Gao, Nan Yin2026-05-08
🔢 mathematics

SMI: Statistical Membership Inference for Reliable Unlearned Model Auditing

تقدم هذه المساهمة "الاستدلال الإحصائي للعضوية" (SMI)، وهو إطار تدقيق خالٍ من التدريب يتغلب على القيود الجوهرية والأعباء الحسابية لهجمات استدلال العضوية التقليدية، وذلك عبر إعادة صياغة التحقق من نسيان النموذج كمسألة لتقدير نسب خليط غير الأعضاء، مما يتيح تقييماً للأداء أكثر موثوقية وكفاءة مع ضمانات نظرية.

Jialong Sun, Zeming Wei, Jiaxuan Zou, Jiacheng Gong, Jie Fu, Chengyang Dong, Heng Xu, Jialong Li, Bo Liu2026-05-08