25186 ورقة بحثية
تقترح هذه الورقة البحثية "ذاكرة حالة الانتباه" (attention-state memory)، وهي طريقة لا تتطلب تدريباً تعمل على إخراج معلومات البادئة (prefix) إلى جدول بحث خفيف الوزن من حالات الانتباه المحسوبة مسبقاً للتغلب على تلاشي التأثير ومحدودية التوسع الخطي لعمليات الاستدلال التقليدية المعززة بالبادئات، وذلك بهدف تحسين الدقة وتقليل زمن الاستجابة في توليد النصوص ذات السياق الطويل.
تُدقق هذه الورقة مجموعة تقييم SAEBench وتجد أن العديد من المقاييس الرئيسية غير موثوقة بسبب الضجيج العالي وضعف القدرة على التمييز، مستنتجةً أن المجال يحتاج بشكل عاجل إلى معايير قياس أكثر قوة للمشفّرات التلقائية المتفرقة.
تقدم هذه الورقة SomaliWeb v1، وهو عبارة عن مجموعة نصوص صومالية منقحة نوعياً ومُطلقة للعموم تتكون من حوالي 303 مليون رمز (token) مصحوبة بـ tokenizer من نوع BPE-16K متوافق، وأول معيار مرجعي عام لتحديد اللغة، والذي يكشف أيضاً عن عيوب جوهرية في جودة توزيعات البيانات الصومالية متعددة اللغات الموجودة حالياً.
تُظهر هذه الدراسة أنه في حين تفشل الترجمات أحادية الدور للمطالبات الضارة إلى لغات أفريقية منخفضة الموارد في تجاوز حواجز السلامة في النماذج اللغوية الكبيرة، فإن المحادثات متعددة الأدوار تزيد بشكل كبير من معدلات نجاح عمليات الاختراق، مع تحديد الاختبار الأحمر البشري وجودة الترجمة كعوامل حاسمة في استغلال هذه الثغرات.
تقدم الورقة البحثية إطار عمل EPIC، وهو إطار عمل فعال لعمليات التوليد المعزز بالاسترجاع (RAG) على الأجهزة، والذي يعمل على بناء ذاكرة متوافقة مع التفضيلات لتقليل حجم الفهرسة وزمن الاستجابة بشكل جذري، مع تحسين دقة استجابات الذكاء الاصطناعي المخصصة بشكل كبير في ظل قيود الذاكرة الصارمة.
يقدم SD-Search إطار عمل للتقطير الذاتي المتأخر في الوقت الفعلي (on-policy hindsight self-distillation) يُمكّن وكلاء الاستدلال المعززين بالبحث من توليد إشارات إشراف على مستوى الخطوة داخلياً عبر تدريب نموذج طالب لمحاكاة معلم مشروط بالنتائج المتأخرة، مما يتغلب على قيود تخصيص الائتمان لتعلم التعزيز القائم على مكافأة النتيجة دون الحاجة إلى معلمين خارجيين أو تعليقات توضيبية إضافية.
تقدم هذه الورقة إطاراً موحداً لديناميكيات محاذاة النماذج اللغوية الكبيرة (LLM) يفكك تحديثات الضبط الدقيق إلى قوى "ارتدادية" و"دافعة" متنافسة لتفسير هشاشة المحاذاة، ويتنبأ بـ "تأثير تهيئة التكرار" حيث تسرع المحاذاة السابقة من عملية إعادة المحاذاة عند التعرض مجدداً.
تقترح الورقة البحثية إطار عمل ISEP، وهو إطار لتحسين السياسة العشوائية للتعلم التعزيزي غير المتصل، والذي يعمل ضمنياً على توسيع نطاق دعم الأفعال الممكنة من خلال استكمال دالة القيمة، ويستخدم مطابقة التدفق الشرطي للتنقل في المشهد متعدد الأنماط الناتج، مما يتغلب على صرامة القيود الصارمة مع تجنب انهيار النمط.
تقدم هذه الورقة RAEv2، وهو إطار عمل مُحسّن للمُشفّر التلقائي للتمثيل (Representation Autoencoder) يستفيد من التمثيلات متعددة الطبقات المعممة، وآليات REPA المتكاملة، والتوجيه المُعاد تمثيله لتحقيق تقارب أسرع بأكثر من 10 أضعاف وجودة توليد صور رائدة في مجال (state-of-the-art) على مجموعة بيانات ImageNet-256 دون الحاجة إلى تدريب ما بعد المعالجة.
تقدم هذه الورقة البحثية Causely، وهي طبقة ذكاء سببي تحول بيانات المراقبة الخام إلى نموذج مهيكل وقابل للاستعلام، وتثبت من خلال تجارب معيارية أنها تحسن أداء وكلاء الذكاء الاصطناعي في سير عمل هندسة موثوقية الموقع (SRE) بشكل كبير عبر تقليل وقت التشخيص، واستهلاك الرموز (tokens)، والتكاليف، مع تحقيق دقة مثالية في تحديد السبب الجذري.