24235 ورقة بحثية
تقدم هذه الورقة إطاراً موحداً قائماً على نظرية القياس يكشف أن نماذج الانتشار، والنماذج التوليدية القائمة على الدرجة (score-based)، ومطابقة التدفق (flow matching) هي حالات لتعلم حقول متجهة تعتمد على الزمن لنقل توزيع مرجعي إلى توزيع بيانات، مما يوضح بنيتها الرياضية المشتركة، والمقايضات العملية، والروابط النظرية بينها.
تقدم الورقة البحثية ProtSent، وهو إطار عمل للضبط الدقيق التبايني يعمل على تكييف نماذج لغة البروتين لتصبح نماذج تضمين عامة الأغراض، مما يحسن الأداء بشكل كبير عبر 23 مهمة لاحقة تتعلق بوظيفة البروتين وبنيته وتطوره دون الحاجة إلى إشراف خاص بكل مهمة.
تُثبت هذه الورقة نظرياً أن الطبيعة الحتمية لنموذج DDIM تجعله يقع في فخ بين الأنماط (modes) ويقوم بالهلوسة في أهداف الخليط الغاوسي (Gaussian mixture)، في حين أن العشوائية في نموذج DDPM تمكنه من الهروب من هذه المناطق، وهو اكتشاف يشير إلى أن دمج الخطوات العشوائية يمكن أن يحسن جودة أخذ العينات في DDIM.
تقدم هذه الورقة "تقطير قناع الظل" (Shadow Mask Distillation)، وهو أسلوب مبتكر صُمم للتخفيف من حدة الانحياز الشديد خارج السياسة (off-policy bias) وتباين التدرج الناتج عن تطبيق ضغط ذاكرة التخزين المؤقت لـ (KV cache) أثناء مرحلة التدحرج (rollout phase) في التعلم التعزيزي ما بعد التدريب، مما يتيح محاذاة فعالة من حيث استهلاك الذاكرة لمهام الاستدلال ذات السياق الطويل.
تجادل هذه الورقة بأن الفجوة بين الأداء القوي للذكاء الاصطناائي التوليدي في الاختبارات المعيارية وفائدته المحدودة في العالم الحقيقي تنبع من ممارسات تقييم معيبة، وتقترح إطار عمل SCU-GenEval لتحويل التقييم نحو قياس التحسينات المستدامة في النتائج البشرية ضمن سياقات نشر محددة.
تحدد هذه الورقة سلوكيات قياس ذات قانون القوة وتماثل غير متماثل في نقل المعرفة عبر المجالات للتصوير الطبي ثلاثي الأبعاد، وتقترح استراتيجية تخصيص بيانات مدركة للنقل تعمل على تحسين مزيج ما قبل التدريب لتحقيق تمثيلات أقوى بكثير مقارنة بأخذ العينات التناسبي القياسي.
تقدم هذه الورقة البحثية "Christoffel-DPS"، وهو إطار عمل لتوزيع مثالي لوضع المستشعرات لا يعتمد على توزيع محدد، يستند إلى دالة كريستوفيل (Christoffel function) الذي يتيح تقدير الحالة بفعالية للتوزيعات التعسفية غير الغاوسية باستخدام أخذ عينات الانتشار البعدي (diffusion posterior sampling)، متفوقاً بذلك على كل من الأساليب الكلاسيكية القائمة على التوزيع الغاوسي والنهج القائمة على النماذج التوليدية الموجودة في سيناريوهات ميزانية المستشعرات المنخفضة.
تقدم هذه الورقة أول طريقة مثبتة برهانياً لعلامات مائية للبيانات لنماذج اللغات الكبيرة المغلقة، والتي تدمج إشارات قابلة للكشف من خلال زيادة وتيرة التوافق بين أزواج كلمات مختارة عشوائياً وتنجح في تحديدها في مخرجات النموذج حتى عندما تشكل البيانات الموسومة 1% فقط من رموز الضبط الدقيق، كل ذلك مع الحفاظ على فائدة البيانات.
تجسّر هذه الورقة الفجوة بين نظرية التكرار المحدود القائمة والتطبيقات العملية من خلال إرساء ضمانات تقارب غير تقاربية لتعلم الفرق الزمني الفئوي أحادي الحالة وغير المتزامن في ظل نظامي أخذ عينات مستقل وموزع (i.i.d.) ونظام ماركوف.
تقترح هذه الورقة بنية تحكم ميتا (meta-control) قائمة على الانتباه الزمني للتحكم التكيفي في أنظمة "أويلر-لاغرانج" ذات حالات الذاكرة غير المرئية، مبرهنةً أنه في حين تتفوق استراتيجية اختيار رأس الانتباه الثابتة على نماذج "ترانسفورمر" الأكثر عمقاً في أنظمة الذاكرة القصيرة إلى المتوسطة، فإنها تخفق في سيناريوهات الذاكرة الطويلة، مما يستدعي نهجاً ديناميكياً متكاملاً مع التعلم التعزيزي لعمليات تقليم ونمو الرؤوس أثناء وقت التشغيل.