24235 ورقة بحثية
يُعد LatentRAG إطار عمل مبتكر ينقل استدلال واسترجاع الـ RAG الوكيل من الفضاء اللغوي المنفصل إلى الفضاء الكامن المستمر، مما يتيح التحسين المشترك من طرف إلى طرف ويقلل زمن انتقال الاستدلال بنسبة 90% تقريبًا مع الحفاظ على أداء مماثل للطرق الصريحة متعددة الخطوات.
تقترح هذه الورقة نموذجاً توليدياً عميقاً متعدد الأنماط للتعلم شبه الموجه تحت ظروف عدم توازن الفئات، والذي يستفيد من المتغيرات الكامنة المشتركة، وتوزيعات "ت" لستودنت (Student's t-distributions) لالتقاط خصائص البيانات ذات الذيول الثقيلة، ومعيار تباعد قوة "غاما" (-power divergence) للتفوق على الطرق الحالية في مجموعات البيانات متعددة الأنماط، غير متوازنة الفئات، والموسومة جزئياً.
تقدم هذه الورقة "اللعبة العليا" (metagame)، وهي إطار مفاهيمي يكمّم تأثيرات التفاعل من الدرجة الثانية في تفسيرات النماذج عبر معاملة طرق الإسناد كألعاب تعاونية لحساب الإسنادات العليا، مما يتيح تفكيكاً هرمياً للإسنادات ويقدم رؤى جديدة حول تفاعلات الرموز (tokens)، والتشابه عبر الوسائط، ومفاهيم تحويل النص إلى صورة عبر نماذج ذكاء اصطناعي متنوعة.
تُثبت هذه الورقة أنه بينما يمكن لفضاءات الكامن في نماذج Transformer-VAE غير الخاضعة للإشراف والمدربة على تمثيلات SELFIES أن تدعم توجيهاً ذا مغزى للخصائص الكيميائية، إلا أن هذا التحكم لا يكون صالحاً إلا عند التحقق منه بصرامة من خلال الجزيئات التي تم فك تشفيرها والتقييم الواعي للمتغيرات المربكة للتمييز بين الإشارات الكيميائية الحقيقية والآثار الاصطناعية على مستوى التسلسل.
تقدم هذه الورقة آلية إعادة المعايرة الديناميكية للأنماط (DPR)، وهي آلية خفيفة الوزن ومستقلة عن الهيكل الأساسي، تعمل على تعزيز التنبؤ بالسلاسل الزمنية من خلال التكيف ديناميكياً مع الأنماط الزمنية المحلية المتغيرة عبر مسار "الإدراك-التوجيه-التعديل"، وبذلك تتغلب على قيود التحويلات الثابتة والمشتركة عالمياً في النماذج العميقة الحالية.
تُظهر هذه الورقة أن تعزيز يعاني من فرط التخصيص الحميد بمعدل لوغاريتمي بطيء بسبب انحياز الضمني الذي يعمل على تركيز الضجيج في مجموعات متفرقة، ولكنها تقترح قاعدة توقف مبكر خالية من الضبط تستعيد المثالية الشبيهة بـ Lasso للإشارات المحدودة بـ .
تقدم هذه الورقة SDS، وهو مُقدِّر قائم على التدفق يُثبت إمكانية التحديد النظري لفئة واسعة من الأنظمة الديناميكية التبديلية غير الخطية المتكررة ويحقق الأمثلة للاحتمالية القصوى، وبذلك يتفوق على النهج التقليدية القائمة على المشفرات التلقائية التباينية (VAE) في فك التشابك ودقة التنبؤ.
يُعد Pro-KLShampoo مُحسِّناً مبتكراً يعزز KL-Shampoo من خلال استغلال بنية القيم الذاتية "النبضية-المسطحة" (spike-and-flat) لمُهيئات مسبقة خاصة به، وذلك عبر الجمع بين التتبع الطيفي الكامل في فضاء جزئي منخفض الأبعاد والتعامد في الاتجاهات المتبقية، مما يحقق أداءً فائقاً في خسارة التحقق، وكفاءة الذاكرة، وسرعة التدريب عبر مقاييس متعددة للنماذج اللغوية الكبيرة (LLM).
تقدم الورقة البحثية نموذج SMolLM، وهو نموذج ترانسفورمر مدمج للغاية يتكون من 53 ألف معلمة، يتفوق على النماذج الأكبر في توليد سلاسل SMILES جزيئية صالحة من خلال تعلم تسلسل ثابت وقابل للتفسير من العمليات — الأقواس، والحلقات، والتكافؤ — لحل القيود الكيميائية.
تُثبت هذه الورقة أن مقاييس السلامة القياسية قابلة للتلاعب بطبيعتها من قِبل المنصات الاستراتيجية التي تسعى لتحسين الدرجات بدلاً من تقليل الضرر الفعلي، وتقترح طريقة اعتماد "الغلاف الدلالي" التي تظل صامدة أمام هذا التلاعب عبر تعيين أسوأ درجة ممكنة ضمن الفئة المتكافئة دلالياً لكل متغير محتوى.