22512 ورقة بحثية
يُعد TreeHop إطار عمل مبتكرًا على مستوى التضمين (embedding-level) للإجابة على الأسئلة متعددة القفزات (multi-hop) ولا يعتمد على النماذج اللغوية الكبيرة (LLM-free)، حيث يقوم ديناميكيًا بدمج المعلومات الدلالية من الاستعلامات السابقة والمستندات المسترجعة لتبسيط عملية الاسترجاع، محققًا أداءً يضاهي الأساليب المتطورة مع تقليل التكاليف الحسابية وزمن الاستجابة بشكل جذري.
تقدم الورقة البحثية **neuralGAM**، وهي حزمة بلغة R تعزز قابلية التفسير في التعلم العميق من خلال تنفيذ الشبكات العصبية الجمعية المعممة، والتي تقوم بملاءمة شبكات عصبية مستقلة لتقدير مساهمات الميزات الفردية مع الحفاظ على الدقة العالية والمرونة الهيكلية.
تقترح هذه الورقة أن تراكب التمثيل، حيث تشفر النماذج ميزات أكثر مما تسمح به أبعادها، هو المحرك الأساسي لقوانين القياس العصبية، مما يتسبب في تناقص الخسارة عكسياً مع حجم النموذج في ظل أنظمة التراكب القوية كما هو ملاحظ في النماذج اللغوية الكبيرة الحالية.
تقدم هذه الورقة FoMoH، وهو معيار مرجعي شامل يتضمن 14 مهمة ذات دلالة سريرية وأكثر من 6 ملايين مريض لتقييم النماذج التأسيسية للسجلات الصحية الإلكترونية المهيكلة والأحدث حالياً، كاشفةً أنه بينما تتفوق هذه النماذج على الخطوط المرجعية التقليدية في التمييز والعدالة في ظل البيانات المحدودة، إلا أنها لا تزال تواجه تحديات كبيرة في المعايرة، وفي حالات انتشار الأمراض المنخفضة، وفي قابلية النقل عبر المؤسسات.
تقترح هذه الورقة إطار تجميع بلمحة واحدة (one-shot) متين لتحليل المكونات المستقلة الموزع، والذي يستخدم تجميع k-means لحل غموض التبديل وتجميع الوسيط الهندسي لضمان الفعالية في البيئات شديدة التباين ذات العينات المحدودة من العملاء.
تقترح هذه الورقة إطار عمل جديداً قائماً على نظرية المعلومات لبناء سمات الكشف عن البيانات خارج التوزيع عبر تحسين دالة خسارة تجمع بين تباعد كولباك - ليبلر (KL divergence) لفصل التوزيعات ومبدأ عنق الزجاجة المعلوماتي (Information Bottleneck) للضغط، مما ينتج عنه دالة تشكيل جديدة ومتفوقة تتجاوز الأساليب الحالية عبر مختلف الاختبارات المعيارية.
تُثبت هذه الورقة أن بنية المحول (transformer)، التي تُسمى محول الـ -means، يمكنها نظرياً وتجريبياً تنفيذ خوارزمية لويد (Lloyd's algorithm) لتجميع الـ -means باستخدام آليات الدوائر القياسية، مع تعلم تجاوز أداء الخوارزمية التقليدية والتعميم بشكل طبيعي على متغيرات التجميع المتنوعة من خلال تعديلات بنيوية.
تقدم الورقة البحثية نموذج الانتشار المويجي (WDM)، وهو إطار توليدي شرطي يحقق تقليلاً فعالاً وعالي الدقة لبيانات هطول الأمطار من دقة 10 كم إلى 1 كم عبر العمل في مجال المويجات، مما يوفر واقعية بصرية فائقة وتسريعًا في الاستدلال بمقدار 9 أضعاف مقارنة بنماذج الانتشار التقليدية القائمة على البكسل.
تقدم هذه الورقة البحثية طريقة "تقليم الانتباه في الطبقات العليا مع إعادة القياس" (HARP)، وهي طريقة جديدة لا تتطلب تدريباً تعمل على إزالة رؤوس الانتباه استراتيجياً من الطبقات العليا للنماذج اللغوية الكبيرة وتطبيق إعادة قياس تكيفية للحفاظ على مقدار التمثيل، مما يحقق أداءً فائقاً عبر مهام التوليد والتمييز المتنوعة مقارنة بتقنيات التقليم الهيكلي الحالية.
يُعد NeuralDMD إطار عمل غير مدرب وقابل للتفسير يجمع بين التمثيلات الضمنية العصبية وتفكيك النمط الديناميكي (Dynamic Mode Decomposition) لإعادة بناء وتوقع الديناميكيات المكانية والزمانية المستمرة مباشرة من قياسات متفرقة، وضوضائية، وغير مباشرة دون الحاجة إلى بيانات حقيقية أو محاكيات عددية.