🤖 machine learning

Float8@2bits: Entropy Coding Enables Data-Free Model Compression

تقدم الورقة البحثية EntQuant، وهو إطار عمل لضغط ما بعد التدريب بدون بيانات يستفيد من ترميز الإنتروبيا لتحقيق ضغط بمعدل بتات فائق (أقل من 4 بت) يصل إلى أحدث المستويات في النماذج الكبيرة مثل نماذج الـ 70 مليار بارامتر في أقل من 10 دقائق، حيث ينجح في توحيد سرعة وعالمية الطرق التي لا تعتمد على البيانات مع الدقة العالية التي تتطلب عادةً بيانات معايرة.

Patrick Putzky, Martin Genzel, Mattes Mollenhauer, Sebastian Schulze, Thomas Wollmann, Stefan Dietzel2026-06-01
🤖 machine learning

Scalable Topology-Preserving Graph Coarsening: Concepts and Algorithms

تقترح هذه الورقة إطار عمل "تقليص الرسوم البيانية القابل للتوسع مع الحفاظ على الطوبولوجيا" (STPGC)، وهو إطار يستخدم مفاهيم الانهيار القوي للحواف والانهيار الطرفي لتقليل حجم الرسم البياني بكفاءة مع الحفاظ بصرامة على الميزات الطوبولوجية والمجالات المستقبلية للشبكات العصبية الرسومية (GNNs)، متجاوزةً بذلك التعقيد الزمني الأسي للطرق الحالية التي تحافظ على الطوبولوجيا.

Xiang Wu, Rong-Hua Li, Xunkai Li, Kangfei Zhao, Hongchao Qin, Guoren Wang2026-06-01
🤖 machine learning

dgMARK: Decoding-Guided Watermarking for Diffusion Language Models

تقدم الورقة البحثية dgMARK، وهي طريقة علامة مائية جاهزة للاستخدام (plug-and-play) لنماذج اللغة ذات الانتشار المنفصل، تستفيد من حساسيتها لترتيب كشف الرموز (token unmasking order) لدمج إشارات قابلة للكشف عبر اختيار المرشحين المقيد بالتكافؤ (parity-constrained candidate selection)، مما يضمن المتانة ضد مختلف عمليات تحرير النصوص.

Pyo Min Hong, Albert No2026-06-01
📊 statistics

An Odd Estimator for Shapley Values

تقدم هذه الورقة البحثية OddSHAP، وهو مُقدِّر جديد لقيمة شابلي (Shapley value) يحقق دقة هي الأفضل في فئته من خلال الإثبات النظري بأن أخذ العينات المزدوج يستبعد المكونات الزوجية غير ذات الصلة من دالة المجموعة، مما يتيح إجراء انحدار متعدد الحدود بكفاءة على الفضاء الجزئي الفردي فقط.

Fabian Fumagalli, Landon Butler, Justin Singh Kang, Kannan Ramchandran, R. Teal Witter2026-06-01
🤖 AI

Plain Transformers are Surprisingly Powerful Link Predictors

تقدم الورقة البحثية PENCIL، وهو نموذج Transformer بسيط يعتمد فقط على المشفر (encoder-only)، يتميز بالقابلية للتوسع وكفاءة المعلمات، حيث يستفيد من آلية الانتباه عبر الرسوم البيانية الفرعية المحلية التي يتم أخذ عينات منها ليتفوق على الشبكات العصبية الرسومية المعقدة والنهج القائمة على الاستدلال في التنبؤ بالروابط دون الاعتماد على ميزات العقد أو الأولويات الهيكلية المصممة يدويًا.

Quang Truong, Yu Song, Donald Loveland, Mingxuan Ju, Tong Zhao, Neil Shah, Jiliang Tang2026-06-01
🤖 machine learning

FlexRank: Nested Low-Rank Knowledge Decomposition for Adaptive Model Deployment

تقدم FlexRank طريقة للنشر التكيفي للنماذج تستخرج نماذج فرعية متداخلة ومرتبة حسب الأهمية من الشبكات الكبيرة سابقة التدريب عبر تفكيك الأوزان منخفضة الرتبة، مما يتيح نموذج "درب مرة واحدة، وانشر في كل مكان" الذي يوازن ببراعة بين التكلفة الحسابية والأداء دون الحاجة لإعادة التدريب لميزانيات مختلفة.

Riccardo Zaccone, Stefanos Laskaridis, Marco Ciccone, Samuel Horváth2026-06-01
📊 statistics

Causal Evaluation of Membership Inference Attacks

تقدم هذه الورقة إطاراً للاستدلال السببي لتقييم هجمات استنتاج العضوية، حيث يحدد رسمياً أوجه التحيز في البروتوكولات الحالية ويقترح مُقدِّرات متسقة لتمكين التقييم الموثوق للخصوصية دون التكلفة الحسابية لإعادة تدريب النموذج بشكل متكرر.

Mathieu Even, Clément Berenfeld, Linus Bleistein, Tudor Cebere, Julie Josse, Aurélien Bellet2026-06-01
🤖 AI

Mixture of Concept Bottleneck Experts

تقترح الورقة البحثية إطار عمل "خليط من خبراء عنق الزجاجة للمفاهيم" (M-CBE)، وهو إطار يعزز نماذج عنق الزجاجة للمفاهيم عبر توظيف خبراء متعددين ذوي أشكال وظيفية متنوعة لتحسين دقة التنبؤ والقدرة على التكيف مع الحفاظ على القابلية للتفسير.

Francesco De Santis, Gabriele Ciravegna, Giovanni De Felice, Arianna Casanova, Francesco Giannini, Michelangelo Diligent (…)2026-06-01
🤖 machine learning

Sequential Group Composition: A Window into the Mechanics of Deep Learning

تقدم هذه الورقة مهمة تكوين المجموعات المتسلسلة كإطار عمل قابل للتحليل لدراسة كيفية تعلم الشبكات العصبية للعمليات المهيكلة، كاشفةً أنه في حين تتطلب الشبكات الضحلة عرضاً أسياً لتعلم تمثيلات المجموعات بشكل متسلسل، فإن البنى الأكثر عمقاً تستفيد من الخاصية التجميعية لتحقيق توسع لوغاريتمي أو خطي فعال.

Giovanni Luca Marchetti, Daniel Kunin, Adele Myers, Francisco Acosta, Nina Miolane2026-06-01
🧬 biology

A hitchhiker's guide to Poisson gradient estimation

تقدم هذه الورقة مقارنة منهجية وإرشادات عملية للتمايز عبر المتغيرات الكامنة الموزعة وفق توزيع بواسون، وذلك من خلال تقديم طريقة "وقت الوصول الأسي" المعدلة التي توفر جودة تدرج ومتانة فائقتين مقارنة باسترخاء "غومبل-سوفت ماكس"، مع توضيح المقايضات بين النهجين لمختلف الأنظمة التوزيعية.

Michael Ibrahim, Hanqi Zhao, Eli Sennesh, Zhi Li, Anqi Wu, Jacob L. Yates, Chengrui Li, Hadi Vafaii2026-06-01