22512 ورقة بحثية
تقدم هذه الورقة طريقة لإيقاف التشغيل المبكر على مستوى الرمز (token) لـنماذج اللغة الانتشارية (diffusion language models) لا تتطلب تدريباً، حيث تحدد وتنهي الرموز المستقرة ديناميكياً بناءً على إشارات تنبؤ خفيفة الوزن، مما يقلل التكاليف الحسابية بشكل كبير مع الحفاظ على جودة التوليد عبر مهام متنوعة.
تقدم هذه الورقة إطار عمل للنمذجة منخفضة الرتبة القائمة على الشبكات العصبية والمقيدة بالفيزياء، والذي يستخدم مبرهنة التقلب والتبدد للتحقق من صحة النماذج وتنظيمها، حيث نجح في إعادة إنتاج الإحصاءات المستقرة والتنبؤ بالاستجابات للاضطرابات في كل من الأنظمة المضطربة المثالية وديناميكيات المناخ المعقدة والمراقبة جزئياً مثل ظاهرة النينيو (ENSO).
تُعد TempoNet مجدولاً يعتمد على التعلم التعزيزي يستفيد من محول (Transformer) غير متغير الترتيب مع تضمينات إلحاح مُكممة بالفراغ (slack-quantized) وانتباه متفرق مدرك لزمن الاستجابة، وذلك لتحقيق اتخاذ قرار في زمن يقل عن الميلي ثانية وبمقاييس شبه خطية للتوزيع التكيفي في الوقت الفعلي، مما يُظهر تفوقاً في الوفاء بالمواعيد النهائية والاستقرار مقارنة بالنماذج التقل والعصبية في بيئات الصناعة ذات الأهمية المختلطة.
تحدد هذه الورقة "دائرة بالوعة P0" (P0-Sink Circuit) هيكلية مسؤولة عن الانتباه غير المتناسب للموضع صفر في النماذج اللغوية الكبيرة السببية، وتثبت أن الطرق الخالية من المعلمات التي تسرع تشكل هذه البالوعة تعمل على تحسين كفاءة ما قبل التدريب والأداء في المهام اللاحقة.
تُعد LangFIR طريقة مبتكرة تحدد الميزات المتفرقة والخاصة بكل لغة في النماذج اللغوية الكبيرة متعددة اللغات باستخدام البيانات أحادية اللغة فقط وتصفية الرموز العشوائية، مما يتيح توجيهاً لغوياً عالي الفعالية يتفوق على الأساليب الحالية التي تعتمد على البيانات المتوازية المكلفة.
تقدم هذه الورقة SinkProbe، وهي طريقة متطورة للكشف عن الهلوسة تستفيد من "بالوعات الانتباه" (attention sinks) —وهي الرموز التي تراكم كتلة انتباه غير متناسبة— كإشارات داخلية تشير إلى التحول من الحوسبة المرتكزة على المدخلات إلى الحوسبة المرتكزة على المعرفة السابقة، بينما تكشف أيضاً أن الكشف الفعال يعتمد على بالوعات ذات معايير متجهات قيم كبيرة وتوحد النهج السابقة رياضياً مع هذه الآلية.
تُعد CodeJeNN أداة تجسر فجوة الأداء بين تعلم الآلة القائم على لغة بايثون ومحركات الفيزياء عالية الأداء المكتوبة بلغة ++C عبر التوليد التلقائي لكود استدلال ++C ذاتي الاحتواء من نماذج Keras المدربة، مما يلغي التبعيات الخارجية مع الحفاظ على الدقة وتحقيق تسريع كبير في تطبيقات مثل ديناميكا الموائع الحسابية (CFD).
تقدم هذه الورقة Obshazard-bench، وهو معيار مرجعي جديد في الوقت الفعلي يقيم النماذج اللغوية الكبيرة متعددة الوسائط على تدفقات مراقبة الأرض الخام وعالية التردد عبر 8 فئات من الكوارث باستخدام تصنيف عملياتي ثلاثي المراحل، مما يكشف عن قيود كبيرة في قدرة النماذج الحالية على دعم استخبارات الكوارث الحرجة زمنياً.
تقترح هذه الورقة إطار عمل لجدولة زمنية متكيفة مع الموضع بناءً على مطابقة التدفق الشرطي، والذي يعالج عدم تجانس تخطيط كهربية الدماغ (EEG) من خلال تتبع أخطاء إعادة البناء لكل موضع ونمذجة التبعيات المكانية والزمانية، مما يؤدي إلى تحسين جودة الإشارة وأداء التصنيف في المهام اللاحقة بشكل كبير مقارنة بالنماذج المرجعية الحالية.
تقدم هذه الورقة إطار عمل "تحديد المصدر المدرك لإمكانية التمييز" (IASA)، الذي يعالج تحديات بيانات الاستشعار الحضرية المتفرقة والنقل المدفوع بالرياح من خلال صياغة مسألة عكسية متأخرة مشروطة بالرياح لتقدير مساهمات المصادر بقوة، وقياس عدم اليقين، وتقديم توصيات تجميع متحفظة للمصادر غير القابلة للتمييز بناءً على الخصائص الرياضية لمصفوفة الاستجابة المسقطة.