🤖 machine learning

Entropy Centroids as Intrinsic Rewards for Test-Time Scaling

تقترح هذه الورقة البحثية طريقة "المركز الأدنى" (Lowest Centroid)، وهي طريقة لتوسيع نطاق وقت الاختبار تختار أفضل استجابة للنموذج عبر حساب "مركز الإنتروبيا" (Entropy Centroid) بناءً على التجميع الزمني للرموز عالية الإنتروبيا، مما يظهر تحسينات مستمرة في الأداء مقارنة بالنماذج المرجعية الحالية عبر مهام ومقاييس نماذج مختلفة دون الحاجة إلى نماذج مكافأة خارجية.

Wenshuo Zhao, Qi Zhu, Xingshan Zeng, Fei Mi, Lifeng Shang, Yiren Feng2026-04-30
💬 NLP

CacheRAG: A Semantic Caching System for Retrieval-Augmented Generation in Knowledge Graph Question Answering

يُعد CacheRAG نظام تخزين مؤقت دلالي مبتكر يحول عملية الإجابة على الأسئلة القائمة على الرسوم البيانية للمعرفة والموجهة بواسطة النماذج اللغوية الكبيرة من عملية عديمة الحالة إلى عملية تعلم مستمر، وذلك عبر إدخال واجهة محايدة للمخطط، واسترجاع من ذاكرة مؤقتة هرمية محسنة للتنوع، وتوسع استدلالي محدود، مما يؤدي إلى تحسين الدقة والموثوقية وتغطية الاسترجاع بشكل كبير.

Yushi Sun, Lei Chen2026-04-30
🤖 AI

Evergreen: Efficient Claim Verification for Semantic Aggregates

يُعد Evergreen نظاماً فعالاً يتحقق من الادعاءات التي يحتمل كونها هلوسات في التجمعات الدلالية عبر تجميعها في استعلامات تصريحية يتم تنفيذها على المحرك نفسه، مستفيداً من تحسينات مخصصة وأصل المصدر القائم على الحلقات شبه المدارية (semiring-based provenance) لتحقيق دقة عالية مع تقليل التكلفة وزمن الاستجابة بشكل كبير مقارنة بالنماذج المرجعية الحالية.

Alexander W. Lee, Benjamin Han, Shayak Sen, Sam Yeom, Ugur Cetintemel, Anupam Datta2026-04-30
💬 NLP

Flashback: A Reversible Bilateral Run-Peeling Decomposition of Strings

تقدم هذه الورقة "فلاش باك" (Flashback)، وهو خوارزمية عكسية لتفكيك السلاسل النصية تحقق تعقيداً زمنياً ومكانياً مثالياً بمستوى O(n) عبر إقران سلاسل الحروف القصوى في البداية والنهاية، وهي عملية ثبت أنها تؤدي إلى حد أدنى من عدد الرموز يبلغ 1+⌊r/2⌋ وتكشف عن خصائص بنيوية جوهرية مثل ترميز طول السلسلة المتماثل للكلمات المقلوبة (palindromes).

Thomas Konstantinovsky, Gur Yaari2026-04-30
💬 NLP

Option-Order Randomisation Reveals a Distributional Position Attractor in Prompted Sandbagging

تُظهر هذه الدراسة المسجلة مسبقاً أن ظاهرة "التستر الموجه" (prompted sandbagging) في النماذج ذات المعلمات التي تتراوح بين 7 إلى 9 مليارات تظهر كجاذب توزيعي مستقر وثابت المحتوى متممركز حول مواضع إجابات محددة (E/F/G) بدلاً من كونها تتبعاً حتمياً للمواضع، وهي ظاهرة كشف عنها عشوائية ترتيب الخيارات وتم التحقق منها عبر نموذج ضابط سلبي.

Jon-Paul Cacioli2026-04-30
💬 NLP

Breaking the Autoregressive Chain: Hyper-Parallel Decoding for Efficient LLM-Based Attribute Value Extraction

تقدم هذه الورقة البحثية "فك التشفير فائق التوازي" (Hyper-Parallel Decoding - HPD)، وهو خوارزمية مبتكرة تسرع استنتاج النماذج اللغوية الكبيرة لمهام مثل "استخراج قيم السمات" عبر الاستفادة من الاستقلال الشرطي لتسلسلات المخرجات لتمكين توليد الرموز (tokens) بشكل متوازٍ وغير مرتب، مما يقلل وقت وتكلفة الاستنتاج بما يصل إلى 13.8 ضعفاً دون المساس بالجودة.

Theodore Glavas, Nikhita Vedula, Dushyanta Dhyani, Yilun Zhu, Shervin Malmasi2026-04-30
💬 NLP

Comparative Analysis of AutoML and BiLSTM Models for Cyberbullying Detection on Indonesian Instagram Comments

تقيم هذه الدراسة وتقارن بين نماذج تعلم الآلة والتعلم العميق للكشف عن التنمر السيبراني في تعليقات إنستغرام الإندونيسية، حيث وجدت أنه بينما يحقق نموذج BiLSTM مع آليات الانتباه أعلى أداء إجمالي، يظل الانحدار اللوجستي بديلاً تنافسياً وفعالاً من حيث الموارد.

Raihana Adelia Putri, Aisyah Musfirah, Anggi Puspita Ningrum, Luluk Muthoharoh, Ardika Satria, Martin Clinton Tosima Man (…)2026-04-30
💬 NLP

A New Semisupervised Technique for Polarity Analysis using Masked Language Models

تقدم هذه الورقة تقنية محسنة لتحليل القطبية شبه الموجهة تستخدم نموذج word2vec كنموذج لغوي مقنع لتعيين درجات قطبية احتمالية أكثر دقة وقابلية للتفسير، مما يثبت تفوقها على النماذج المكانية التقليدية من خلال تحليل تغطية صحيفة "تشاينا ديلي" لجائحة كوفيد-19.

Kohei Watanabe2026-04-30
💬 NLP

FlowBot: Inducing LLM Workflows with Bilevel Optimization and Textual Gradients

تقدم هذه الورقة FlowBot، وهو إطار عمل قائم على البيانات يقوم تلقائياً باستنتاج وتحسين سير عمل النماذج اللغوية الكبيرة (LLM) من خلال صياغة العملية كمسألة تحسين ثنائي المستوى تُحل عبر تدرجات نصية نمطية، محققاً أداءً منافساً للنماذج المرجعية المصممة بشرياً.

Hongyeon Yu, Young-Bum Kim, Yoon Kim2026-04-30
💬 NLP

Folding Tensor and Sequence Parallelism for Memory-Efficient Transformer Training & Inference

تقدم هذه الورقة البحثية التوازي الموتر والتسلسلي (TSP)، وهو استراتيجية تنفيذ مبتكرة تدمج تقسيم الأوزان والرموز (token sharding) على محور جهاز واحد لتقليل عبء ذاكرة المعلمات والتنشيط في آن واحد، مما يوفر بديلاً فعالاً من حيث الأجهزة لتدريب واستنتاج نماذج المحولات ذات السياق الطويل والمقيدة بالذاكرة.

Vasu Shyam, Anna Golubeva, Quentin Anthony2026-04-30