23511 ورقة بحثية
تقترح الورقة البحثية "الطبقات الشبحية" (Ghosted Layers)، وهي طريقة لا تتطلب تدريباً، لاستعادة أداء النماذج اللغوية الكبيرة التي تم تقليص طبقاتها عبر اشتقاق مؤثر خطي أمثل ذي صيغة مغلقة لمحاذاة توزيعات التنشيط بين الطبقات المتبقية، مما يؤدي إلى التفوق على النماذج المرجعية المقيدة الحالية مع الحفاظ على مكاسب الكفاءة.
تقترح هذه الورقة إطاراً قائماً على نظرية الألعاب مع خوارزميات قابلة للتوسع ومضمونة نظرياً لحماية المستخدمين من المعلومات المنحازة والتلاعبية في أنظمة تعلم الآلة، وذلك من خلال النمذجة الصريحة ومعالجة تضارب المصالح المتأصل بين مالكي الأنظمة والمستخدمين.
يُعد X-SYNTH إطار عمل مبتكر يعزز تركيب سياق الذكاء الاصطناستري للمؤسسات عبر نمذجة آثار الانتباه الرقمي للعمال الأفراد كخطوط أساس سلوكية لتحديد بصمات النشاط ذات الصلة سببيًا، مما يؤدي إلى تحسين دقة المهام وتقليل المسارات الخاطئة بشكل كبير مقارنة بالطرق التقليدية القائمة على الاسترجاع.
تقدم هذه الورقة البحثية PrismQuant، وهو إطار عمل للكمية المتجهة للمصادر ذات المزيج الغاوسي، والذي يحقق أداءً يقترب من المثالية في معدل التشوه عبر نقل تسميات المكونات دون فقدان وتطبيق تحويلات كولموغوروف-ليفينتال (KLT) خاصة بكل مكون مع التكميم القياسي، مما يسد الفجوة بفعالية بين الحدود النظرية والتنفيذ العملي مع التفوق على برامج الترميز القائمة على نماذج المحولات (Transformer) الضخمة بأحجام نماذج أصغر بكثير.
تقدم هذه الورقة OgBench، وهو أول إطار عمل للمقارنة المرجعية لتقييم الشبكات العصبية الرسومية على بيانات الأوميكس في نظام العينات المنخفضة والعدد الكبير من العقد ()، كاشفةً أن الشبكات العصبية الرسومية القياسية غالباً ما تفشل في التفوق على النماذج المرجعية البسيطة، ومتحداً الافتراض بأن البنية الرسومية تحسن الأداء بطبيعتها في المجالات البيولوجية.
تُثبت هذه الورقة أن عزو البيانات في التعلم الموزع أمر هش، حيث يمكن لمشارك خبيث استغلال التحسين الكامن لحقن دفعات اصطناعية تضخم مساهمته المقاسة بشكل كبير دون تقليل فائدة النموذج العالمي أو تفعيل الدفاعات الحالية.
تقدم هذه الورقة البحثية "النماذج النقطية العصبية" (Neural Point-Forms - NPFs)، وهي طبقة عصبية جديدة غير متغيرة الترتيب تستفيد من الهندسة الانتشارية لتعلم سمات هندسية مدمجة وقابلة للتفسير للسحب النقطية عبر نمذجة معلومات المماس من الرتب العليا من خلال مصفوفات المقارنة، مما يظهر فعالية خاصة في المهام التي تعتمد على البنية المتشعبة وكثافة أخذ العينات.
تقدم هذه الورقة البحثية BetaPRM، وهو نموذج مكافأة عمليات توزيعي يتنبأ بكل من احتمالات النجاح على مستوى الخطوة وموثوقيتها لتمكين تخصيص الحوسبة التكيفي، مما يحسن بشكل كبير مقايضة الدقة مقابل عدد الرموز (accuracy-token tradeoff) في استدلال "الأفضل من N" (Best-of-N) من خلال ضبط الحوسبة ديناميكيًا بناءً على ثقة التنبؤ.
تقدم الورقة البحثية DeltaPrompts، وهي مجموعة بيانات تضم 200 ألف مسألة استدلال اصطناعية تم إنشاؤها عبر مسار مرحلي يستهدف مطالبات "الفرق الصفري" (zero-delta) حيث يتفق النموذجان المعلم والطالب، مما يؤدي إلى تعظيم إشارات التعلم وتحقيق تحسينات في الأداء بنسبة تصل إلى 15% في الأداء النسبي عبر سيناريوهات التقطير متعددة الوسائط المتنوعة.
تقدم هذه الورقة طريقة تفكيك الكتل المكممة (QuBD)، وهي خوارزمية قابلة للتوسع لتقدير تعقيد كولموغوروف-تشايتين-سولومونوف لأوزان الشبكات العصبية العميقة، والتي تكشف أن التعقيد الخوارزمي ينخفض أثناء التعلم، ويرتبط بالتعميم، ويحدد مستويات البت ذات الأهمية للكمية الفعالة للنموذج.