cs.LG ورقة بحثية

SAE-FD: Sparse Autoencoder Feature Distillation for Continual Learning of Large Language Models

تقترح الورقة البحثية SAE-FD، وهي طريقة للتعلم المستمر تستفيد من تقطير ميزات المشفّر التلقائي المتناثر لتفكيك تمثيلات النماذج الكثيفة إلى أساس متناثر وفائض، مما يؤدي إلى التخفيف من حدة النسيان الكارثي وتراكب الميزات مع التفوق على النهج القائمة على التنظيم الحالية عبر العديد من المعايير.

Mingxu Zhang, Yuhan Li, Lujundong Li, Dazhong Shen, Hui Xiong, Ying Sun2026-05-26

📊 statistics

From DPPs to $k$ -DPPs: identifiability analysis via spectral decomposition

تحلل هذه الورقة هندسة عمليات النقط المحدد (DPPs) عبر التفكيك الطيفي لتوضيح أنه في حين أن عمليات النقط المحدد الكاملة تكون قابلة للتعريف حتى تشابه الإشارة المنفصل، فإن التكييف على الكاردينالية لتشكيل $k$ -DPPs يُدخل عدم قابلية تعريف مستمرة جوهرية بسبب عدم ثبات المقياس والإشارة وتدوير الفضاء الذاتي، لا سيما عندما يكون عدد المجموعات الجزئية الممكنة أصغر من بُعد فضاء المعلمات.

Hideitsu Hino, Keisuke Yano2026-05-26

🤖 AI

TopoAlign: Topology-Aware Visual Representation Alignment

تقدم هذه الورقة TopoAlign، وهو إطار عمل مدرك للطوبولوجيا يستفيد من رسوم مابير البيانية (mapper graphs) والتحسين الموجه بالقوة للمقارنة والتحليل البصري للمحاذاة الهيكلية لتمثيلات الشبكات العصبية عبر النماذج والطبقات، مما يقدم رؤى تتجاوز الطرق الهندسية التقليدية.

Xinyuan Yan, Rita Sevastjanova, Mennatallah El-Assady, Bei Wang2026-05-26

🤖 machine learning

'Si'multaneous 'S'patial-'T'emporal Message Passing for Dynamic Graph Representation Learning

تقدم هذه الورقة البحثية SiST-GNN، وهي شبكة عصبية رسومية ديناميكية مبتكرة توحد تمرير الرسائل المكاني والزماني في عملية واحدة من خلال تعزيز الرسم البياني بحواف عبر الزمن، مما يحقق أداءً هو الأفضل حالياً في التنبؤ بالروابط وتصنيف العقد عبر معايير قياسية متنوعة.

Shubhajit Roy, Anirban Dasgupta2026-05-26✓ Author reviewed ⓘ

🤖 machine learning

Learning Permutation from Structure Without Supervision

تقدم هذه الورقة صياغة "جمبل-سينكهورن" (Gumbel-Sinkhorn) متكيفة مع الإنتروبيا، تعمل على تعديل درجة الحرارة محلياً بناءً على عدم اليقين في التعيين لتحسين استقرار التدريب وجودة التبديل في مهام التعلم غير الخاضع للإشراف التي تتضمن ترتيبات خفية، متجاوزةً بذلك قيود التحكم العالمي في درجة الحرارة في المشكلات واسعة النطاق.

Ran Eisenberg, Ofir Lindenbaum2026-05-26

💬 NLP

RotMoLE: Enhancing Mixture of Low-Rank Experts through Rotational Gating Mechanism

تقترح الورقة البحثية RotMoLE، وهو إطار عمل جديد لخليط من الخبراء منخفضة الرتبة (Mixture of Low-rank Experts)، يعزز قدرة التمثيل والتعميم في السيناريوهات المعقدة عبر إدخال آلية بوابات دورانية لتجاوز قيود إعادة الوزن القياسية التي تتسم بها بنيات خليط الخبراء التقليدية.

Mengyang Sun, Maochuan Dou, Tao Feng, Dan Zhang, Yihao Wang, Junpeng Liu, Yifan Zhu, Jie Tang2026-05-26

🤖 machine learning

Geometric Flow Matching for Molecular Conformation Generation via Manifold Decomposition

تقترح الورقة البحثية نموذج GO-Flow، وهو نموذج مطابقة تدفق هندسي يفكك توليد التشكيل الجزيئي إلى فضاءات فرعية للترجمة والدوران والتشكيل ليتماشى مع القيود الفيزيائية الجوهرية، مما يحقق دقة تضاهي أحدث ما توصل إليه العلم وعينات عالية الدقة بعدد خطوات أقل بكثير.

Yunqing Liu, Yi Zhou, Wenqi Fan2026-05-26

🤖 machine learning

Learning Latent Dynamical Causal Processes for Single-Cell Perturbation Prediction

تقترح هذه الورقة البحثية نموذج CITE-VAE، وهو نموذج توليدي سببي ديناميكي كامن يستعيد البرامج الخلوية غير الملحوظة وتطورها الزمني لتحسين التعميم خارج نطاق التوزيع في التنبؤ بالاضطرابات في الخلية الواحدة، مدعوماً بضمانات قابلية التحديد النظرية والتحقق التجريبي على كل من مجموعات البيانات الاصطناعية والواقعية.

Wenkang Jiang, Yuhang Liu, Erdun Gao, Ehsan Abbasnejad, Lina Yao, Javen Qinfeng Shi2026-05-26

🤖 machine learning

Extreme Region Policy Distillation

تعالج سياسة تقطير المنطقة القصوى (ERPD) المقايضة بين كفاءة العينات والأداء التقاربي في التعلم المعزز للنماذج اللغوية الكبيرة من خلال فصل التحسين القائم على السياسة غير المتصلة والعدواني عن قيود منطقة الثقة المحافظة، وذلك عبر استخراج أقصى إشارات التدريب من البيانات الثابتة أولاً ثم تقطيرها في سياسة أساسية لتحقيق أداء فائق مع تقليل تباعد كيه إل (KL divergence) بشكل كبير.

Changyu Chen, Xiting Wang, Rui Yan2026-05-26

🤖 machine learning

Generalized Evidential Deep Learning: From a Bayesian Perspective

تؤسس هذه الورقة لأساس نظري بايزي رصين للتعلم العميق الدليلي (EDL)، وتقترح التعلم العميق الدليلي المعمم (GEDL)، وهو إطار عمل موحد يربط بشكل منهجي بين متغيرات التعلم العميق الدليلي القائمة مع إظهار أداء مماثل في التصنيف، وتقدير عدم اليقين، وكشف البيانات خارج التوزيع.

Yuanye Liu, Yibo Gao, Yuanyang Chen, Xiahai Zhuang2026-05-26

→ السابق التالي ←

cs.LG

SAE-FD: Sparse Autoencoder Feature Distillation for Continual Learning of Large Language Models

From DPPs to kkk-DPPs: identifiability analysis via spectral decomposition

TopoAlign: Topology-Aware Visual Representation Alignment

'Si'multaneous 'S'patial-'T'emporal Message Passing for Dynamic Graph Representation Learning

Learning Permutation from Structure Without Supervision

RotMoLE: Enhancing Mixture of Low-Rank Experts through Rotational Gating Mechanism

Geometric Flow Matching for Molecular Conformation Generation via Manifold Decomposition

Learning Latent Dynamical Causal Processes for Single-Cell Perturbation Prediction

Extreme Region Policy Distillation

Generalized Evidential Deep Learning: From a Bayesian Perspective

From DPPs to $k$ -DPPs: identifiability analysis via spectral decomposition