24017 ورقة بحثية
تقدم هذه الورقة إطار عمل ميكانيكا عامل التوحيد-التوسع (OpMech)، الذي يستخدم مقياس "فجوة-الترتيب" القابل للحوسبة ليعمل كإشارة تحكم مبدئية في الوقت الفعلي لتحديد التقارب والتوقف التكيفي في أنظمة التعلم المتنوعة، مما يستبدل بفعالية الطرق الاستدلالية بضمانات قائمة على الأدلة.
تُثبت هذه الورقة أن التجميع المتوسط عبر الرموز المولدة تلقائياً يؤدي إلى تمثيلات دلالية متفوقة مقارنة بحالات الرموز الفردية، مما يكشف أن المعلومات موزعة عبر عملية التوليد بدلاً من كونها ممركزة في موضع واحد.
تقترح هذه الورقة البحثية "الخياطة الهندسية رباعية الأبعاد" (Geometric 4D Stitching)، وهي إطار عمل فعال يحدد بوضوح المناطق الهندسية المفقودة ويملؤها بغرز رباعية الأبعاد مستندة إلى معالم واقعية لمعالجة التناقضات في طرق التوليد رباعي الأبعاد الحالية، مما يتيح توسيع وتعديل المشاهد بسرعة وجودة عالية على وحدة معالجة رسوميات واحدة.
تقترح هذه الورقة وتثبت الفرضية القائلة بأن البشر يتعلمون تجريدات قابلة لإعادة الاستخدام في البيئات غير المستقرة من خلال "الضغط الاستشرافي" (prospective compression) من أجل التحسين للمهام المستقبلية، وهو سلوك تفشل الخوارزميات الاسترجاعية والنماذج القائمة على النماذج اللغوية الكبيرة في التقاطه.
تُثبت هذه الورقة أن المحسنات مثل AdamW وMuon تُحدث مجمعات حلول ذات فقد صفري متميزة، وغالباً ما تكون منفصلة، في الشبكات العصبية، مما يكشف أن اتصال الأنماط يعتمد بشكل أساسي على مُحسن محدد وعلى تنظيمه الضمني بدلاً من كونه خاصية عالمية لمشهد الفقد.
تحدد هذه الورقة البحثية "انحراف الانتباه" كقصور رئيسي في نماذج فك التشفير التخميني ذات التوليد الذاتي، حيث ينزاح الانتباه من النص الأصلي (prompt) إلى الرموز المولدة بسبب المسارات المتبقية غير المعيرة، وتقترح إصلاحات معمارية مثل "التطبيع البعدي" (post-norm) و"تطبيع RMS لكل حالة مخفية" (per-hidden-state RMSNorm) والتي تحسن بشكل كبير أطوال القبول عبر مختلف المهام وأطوال السياق.
تُعد Lakestream طبقة بيانات (data plane) خالية من الوسيط (brokerless) وأصلية في تخزين الكائنات (object-store-native) لتدريب النماذج التأسيسية الضخمة، حيث تقدم دفعات عالمية معاملاتية (Transactional Global Batches) وخوارزمية التزام تكيفي لامركزية (Decentralized Adaptive Commit) لتوفير اتساق شبيه بخصائص ACID، وعزل للفشل، واستيعاب عالي الإنتاجية مع زمن انتقال أقل من الحلول الحالية القائمة على طوابير الرسائل أو الحلول المتمركزة (colocated).
تقترح الورقة البحثية إطار عمل AHGCDD، وهو إطار لتكثيف المخطط الفائق الموجه بالمرتكزات يتغلب على قيود التدريب المنفصل والأعباء الحسابية العالية من خلال التحسين المشترك للميزات المكثفة والبنية عبر تهيئة "حرارة نواة باج رانك" (Heat Kernel PageRank) وهدف تمييز ثنائي المستوى، مما يحقق تقطيرًا فعالًا وفعالًا للمخططات الفائقة واسعة النطاق.
تقدم هذه الورقة إطاراً نظرياً يكمّم قيمة الأولويات الميكانيكية في اتخاذ القرار المتسلسل من خلال "المعلومات الميكانيكية"، مما يثبت أن النماذج الهجينة تقلل بشكل كبير من تعقيد العينات في كل من الأنظمة التقاربية وأنظمة مرحلة الإحماء، مع تسليط الضوء على مخاطر السلامة المترتبة على الاعتماد على أولويات النماذج اللغوية الكبيرة غير المستندة إلى أسس واقعية.
تحدد هذه الورقة "نافذة ابتكار" حرجة في النماذج التوليدية تتمثل في الفجوة الزمنية بين تعلم القواعد المجردة () وحفظ بيانات التدريب ()، وتثبت أن وجود هذه النافذة ومدتها يعتمدان على حجم مجموعة البيانات، وتعقيد القواعد، وسعة النموذج عبر كل من بنيات الانتشار والنماذج ذات التوليد الذاتي.