cs.LG ورقة بحثية

Trust-Region Behavior Blending for On-Policy Distillation

تقترح هذه الورقة طريقة "مزج السلوك ضمن منطقة الثقة" (TRB)، وهي طريقة إحماء للتقطير داخل السياسة (on-policy distillation) تعمل على استقرار التدريب المبكر من خلال مزج سياسة الطالب مع سياسة المعلم ضمن منطقة ثقة لـ "تشتت كولباك - ليبلر" (KL trust region) قبل التلاشي تدريجياً للعودة إلى عمليات استخراج العينات الخاصة بالطالب فقط، مما يؤدي إلى تحسين الأداء في مهام الاستدلال الرياضي.

Daniil Plyusov, Alexey Gorbatovski, Alexey Malakhov, Nikita Balagansky, Boris Shaposhnikov, Daria Korotyshova, Daniil Ga (…)2026-06-01

🤖 machine learning

Detect in Any Scene: An Agentic Framework for Object Detection with Experience-Aware Reasoning

تقدم هذه الورقة DetAS، وهو إطار عمل وكيل يستفيد من نموذج لغوي كبير متعدد الوسائط لتكوين سير عمل ديناميكي وتكيفي لترميم الصور وكشف متعدد الخبراء، معزز بآلية حصاد خبرة ذاتية التطور للتفوق بشكل كبير على الكواشف الحالية في السيناريوهات الواقعية الصعبة.

Wenlun Zhang, Jun Yin, Kentaro Yoshioka2026-06-01

🤖 machine learning

Retriever Portfolios: A Principled Approach to Adaptive RAG

تقترح هذه الورقة البحثية "محافظ المسترجعات" (Retriever Portfolios)، وهي طريقة منهجية تختار تلقائياً مجموعة فرعية متنوعة من المسترجعات للتعامل مع الاستعلامات غير المتجانسة، مما يحقق دقة فائقة مع زمن استجابة وتكلفة أقل مقارنة بالنماذج المرجعية المكونة من مسترجع واحد أو النماذج متعددة المسترجعات البدائية.

Miltiadis Stouras, Vincent Cohen-Addad, Silvio Lattanzi, Ola Svensson2026-06-01

💬 NLP

Steering LLMs? Actually, Sparse Autoencoders can outperform simple baselines

تتحدى هذه الورقة النتائج السابقة التي تشير إلى أن المشفّرات التلقائية المتناثرة (SAEs) تؤدي أداءً ضعيفًا في توجيه النماذج اللغوية الكبيرة، وذلك من خلال إثبات أنه عندما يتم اختيار الميزات وتسميتها عبر مسار تدفق مُشرف، يمكن للمشفّرات التلقائية المتناثرة تحقيق أداء في التوجيه يضاهي تقنية "LoRA" في اختبار "AxBench" مع تحديد الميزات السببية، حتى دون اشتراط درجة عالية من التناثر.

Mikkel Godsk Jørgensen, Lars Kai Hansen2026-06-01

🤖 machine learning

From Local Geometry to Global Pseudo Labeling for Robust Positive Unlabeled Learning under Covariate Shift

تقدم هذه الورقة إطار عمل "التعليق التوضيحي للجوار الطيفي للموجب غير المعلوم" (SPUNA)، وهو إطار عمل مدرك للهندسة يستفيد من هياكل المتشعبات المحلية لتمكين التعلم الموجب غير المعلوم القوي للكشف عن انزياح المتغيرات المصاحبة، محققاً أداءً يضاهي الطرق الخاضعة للإشراف الكامل دون الحاجة إلى بيانات مصنفة من التوزيعات المنزاحة.

Firas Gabetni, Alexandre Rocchi Henry, Nacim Belkhir, Ziyi Liu, Gianni Franchi2026-06-01

🤖 machine learning

Student Capacity Moderates Knowledge Distillation Effectiveness: A Systematic Study Across ResNet Teacher-Student Pairs on CIFAR-10

تُظهر هذه الدراسة المنهجية على مجموعة بيانات CIFAR-10 أن سعة الطالب تعد وسيطاً حاسماً لفعالية تقطير المعرفة، حيث كشفت أن الطلاب الأكبر حجماً (R34) يستفيدون بشكل أكبر بكثير من الطلاب الأصغر (R18)، مع تسليط الضوء أيضاً على ضرورة إصلاح أخطاء التنفيذ وعدم تطابق دقة المدخلات لتحقيق الأداء الأمثل للتقطير.

Umut Onur Yasar2026-06-01✓ Author reviewed ⓘ

📊 statistics

Beyond Additive Decompositions: Interpretability Through Separability

تقدم هذه الورقة "تعلم فصل التنسور" (TSL)، وهو نموذج انحدار يتغلب على قيود طرق القابلية للتفسير الجمعية التقليدية من خلال تعلم مجموع لمنتجات الرتبة الأولى (rank-1) لوظائف أحادية المتغير، مما يحافظ على التفاعلات القوية بين الميزات ويسمح بإنشاء تصورات دقيقة وقابلة لإعادة البناء بالكامل دون فقدان للمعلومات.

Jinyang Liu, Munir Eberhardt Hiabu2026-06-01

🤖 machine learning

Fixed-Point Masked Generative Modeling

تقدم هذه الورقة البحثية CoFRe، وهو إطار عمل للنماذج التوليدية المقنعة ذات النقطة الثابتة يستفيد من فقد الاتساق عبر الخطوات واستراتيجية إعادة الاستخدام ثلاثية الحالات لتمكين إزالة الضجيج ذات العمق التكيفي، مما يقلل بشكل كبير من تكاليف التدريب واستهلاك الذاكرة مع تحسين جودة التوليد في ظل ميزانيات أخذ عينات منخفضة عبر وسائط النصوص والصور.

Andrea Miele, Yiming Qin, Alba Carballo-Castro, Justin Deschenaux, Pascal Frossard2026-06-01

💬 NLP

Shared Doubt: Zero-shot Cross-Lingual Confidence Estimation for Language Models

تُثبت هذه الورقة أن مسبارًا خطيًا تم تدريبه أحادي اللغة يمكنه تقدير الثقة في النماذج اللغوية الكبيرة بفعالية عبر لغات متنوعة وغير مرئية دون إعادة تدريب، مما يكشف أن النماذج اللغوية الكبيرة متعددة اللغات تشفر سمات ثقة مشتركة وقابلة للنقل تتركز في طبقاتها الوسطى.

Athina Kyriakou, Dennis Ulmer, Ivan Titov2026-06-01

🤖 machine learning

Multivariate Distributional Reinforcement Learning Using Sliced Divergences

تقدم هذه الورقة "التعلم التعزيزي التوزيعي المقطعي" (SDRL)، وهو إطار عمل جديد يوسع نطاق التعلم التعزيزي التوزيعي إلى الإعدادات متعددة المتغيرات من خلال إسقاط توزيعات العوائد عالية الأبعاد على شرائح أحادية البعد لتمكين براهين تقليص بلمان (Bellman contraction) القابلة للمعالجة والتعلم الفعال عبر بيئات متنوعة.

Baptiste Debes, Tinne Tuytelaars2026-06-01

→ السابق التالي ←