27276 ورقة بحثية
تقيم هذه الورقة أحد عشر نموذجاً من الشبكات العصبية العميقة المدربة مسبقاً على مجموعة بيانات ImageNet لتصنيف الصور من خلال تحسين طبقات مخرجاتها ومعاملاتها عبر خمس مجموعات بيانات مستهدفة، وتقييم أدائها بناءً على الدقة، ووقت التدريب، وحجم النموذج لتوجيه الاختيار الأمثل للنموذج.
تقدم الورقة البحثية BadSKP، وهو هجوم باب خلفي مبتكر يستغل القناة المشروطة بالرسم البياني للنماذج اللغوية الكبيرة المعززة بالرسوم البيانية للمعرفة من خلال التلاعب بتضمينات العقد لتجاوز الارتكاز الدلالي، محققاً بذلك معدلات نجاح عالية للهجوم حيث تفشل الهجمات التقليدية القائمة على النصوص.
تكشف هذه الورقة أن تحديد سقف القدرة (power capping) غير فعال لعملية فك التشفير التكراري (autoregressive decode) في النماذج اللغوية الكبيرة بسبب اختناقات مرتبطة بالذاكرة تترك فائض القدرة في وحدة معالجة الرسومات غير مستغل، وتثبت أن قفل تردد وحدات الحوسطة (SM clock locking) هو استراتيجية متفوقة تستعيد ما يصل إلى 32% من طاقة فك التشفير مع تقليل فقدان الإنتاجية عبر بنيات الانتباه المتنوعة.
تقترح هذه الورقة البحثية إطار عمل CR^2، وهو إطار توجيه ثنائي المراحل بين الجهاز والحافة للاستدلال اللاسلكي للنماذج اللغوية الكبيرة (LLM)، والذي يجمع بين بوابة هامش خفيفة الوزن على الجهاز وبين التحكم في مخاطر التوافق (conformal risk control) لتحسين المقايضة بين زمن الاستجابة والطاقة والدقة مع إدارة مخاطر القبول الخاطئ صراحةً تحت قيود الموارد.
تقدم هذه الورقة البحثية SkillSafetyBench، وهو معيار مرجعي يوضح أن المهارات القابلة لإعادة الاستخدام والقطع البرمجية المحلية يمكن أن تؤدي إلى سلوكيات غير آمنة للوكيل حتى من طلبات المستخدمين الحميدة، مما يكشف أن سلامة الوكيل تعتمد بشكل حاسم على كيفية تفسير النماذج للمهارات وثقتها في سياقات سير العمل بدلاً من مجرد الاعتماد على التوافق على مستوى النموذج.
بالاستناد إلى مفهوم فيجوتسكي حول منطقة التطور القريب، تجادل هذه الورقة بأن النماذج اللغوية الكبيرة تنخرط في "تفكير بدائي" من خلال الممارسات بدلاً من التمثيلات الموزعة، مما يشير إلى أن هلوساتها تشبه الأحلام، وأن المنطق السليم الشبيه بالمنطق البشري ينبثق من التفاعل بدلاً من اشتراطه لضوابط خارجية.
تقترح هذه الورقة إطار عمل فعالاً وتكيفياً للتعرف على الأنشطة البشرية يستفيد من النماذج اللغوية الكبيرة مسبقة التدريب والمجمدة كركائز زمنية، والتي يتم الربط بينها عبر إسقاط تلافيفي مهيكل وتكييفها عبر التكيف منخفض الرتبة (LoRA) لتحقيق أداء قوي، وكفاءة في البيانات، ونقل قوي عبر مجموعات البيانات المختلفة مع تقليل التكاليف الحسابية بشكل كبير.
تقترح الورقة البحثية بنية "ترانسفورمر الرؤية الطيفي" (Spectral Vision Transformer) مبتكرة تستفيد من خصائص الأساس الطيفي لترميز الرموز بكفاءة وتقليل التعقيد، مما أظهر أداءً متكافئاً أو متفوقاً بعدد أقل من المعلمات عبر نماذج مختلفة على بيانات التصوير الطبي المحدودة.
تقدم هذه الورقة البحثية OmniClean، وهو معيار مرجعي مُنزّه بصرياً يكشف عن مكاسب مضخمة في النماذج متعددة الوسائط، ويُظهر أن وصفة تدريب لاحق ثلاثية المراحل (OmniBoost) تمكّن نموذجاً صغيراً بحجم 3 مليارات معلمة من التفوق على نظيره الأكبر بكثير بحجم 30 مليار معلمة عبر دمج الأدلة السمعية والبصرية واللغوية بفعالية دون الاعتماد على الاختصارات البصرية.
تعيد هذه الورقة مراجعة أجهزة فك التشفير العصبية لتصحيح الأخطاء الكمومية من خلال توحيدها في خمسة نماذج معمارية وتقييمها على أجهزة FPGA، مما يكشف أن حجم البيانات، والتحيز الاستقرائي، وتكميم INT4 هي عوامل حاسمة لتحقيق زمن انتقال بمقياس الميكروثانية المطلوب للنشر العملي.