1388 ورقة بحثية
تقترح هذه الورقة خوارزميات تنبؤ متوافق عبر الإنترنت ذات أمثلية "مينيمكس" لتدفقات البيانات غير المستقرة ذات الانزياح في التوزيع، وذلك باستخدام الكشف عن الانزياح لتحديث مجموعات المعايرة بشكل تكيفي والاستفادة من استقرار النموذج لتحقيق الندم التراكمي الأمثل المشروط بالتدريب.
تقدم هذه الورقة بديهيات رسومية كاملة لتباعدات كولباك-ليبلر وريني من خلال توصيفها كإثراءات كمية لفئات المصفوفات العشوائية تحت بنيتي الضرب كرونيكر والجمع المباشر ضمن إطار مخططات خيطية رسومية.
تقترح هذه الورقة منهجية هجينة تجمع بين النمذجة النظرية والقياس التجريبي لتحديد التخصيص الأمثل لموارد الأجهزة المنفصلة لعمليتي التعبئة المسبقة (Prefill) وفك الترميز (Decode) لاستنتاج النماذج اللغوية الكبيرة بدقة، مع تلبية قيود الإنتاجية، واتفاقية مستوى الخدمة (SLO)، وخصائص الطلبات.
تقدم هذه الورقة البحثية WaterSIC، وهو خوارزمية جديدة لتكميم الطبقات الخطية تحقق أداءً يقترب من المثالية من الناحية المعلوماتية عبر تخصيص معدلات تكميم مختلفة لأعمدة الأوزان باستخدام استراتيجية ملء الماء (waterfilling)، مما يتفوق بشكل كبير على الطرق الحالية مثل GPTQ ويحقق نتائج قياسية جديدة للنماذج اللغوية الكبيرة عبر معدلات تكميم تتراوح من 1 إلى 4 بت.
تقدم هذه الورقة تحليلاً تقاربياً دقيقاً للتعلم متعدد المهام في نماذج المدرك (perceptron) غير المتوافقة مع النموذج، حيث تُظهر أن الجمع بين المهام ذات الصلة يكافئ إضافة تنظيم ضمني يحسن التعميم ويخفف من ظاهرة الازدواج في الانحدار (double descent).
تقدم هذه الورقة خوارزمية اختيار فرضيات ذات خصوصية تفاضلية محلية ومثالية من حيث العينة، تحقق الحد الأدنى للمعلومات النظرية البالغ باستخدام فقط من جولات التفاعل، مما يبرهن على القدرة المثبتة للتفاعلية في التغلب على حاجز تعقيد العينات المتأصل في النهج غير التفاعلية.
تضع هذه الورقة حداً أدنى معلوماتي أكثر إحكاماً وتقترح خوارزمية "تتبع وتوقف" (Track-and-Stop) معدلة مع قاعدة توقف تراعي حالات التساوي، تحقق المثالية النوعية التقاربية لتحديد الذراع الأفضل في المسائل متعددة الأذرع العشوائية عندما يكون عدد الأذرع المثلى معروفاً.
تضع هذه الورقة مقياساً للمتغيرات العشوائية الفئوية بناءً على الإنتروبيا وعدم اليقين المتماثل، مبرهنةً أن فضاء خارج القسمة الناتج يمتلك بنية مونويد تبادلي طبيعي متوافق مع الطوبولوجيا المستحثة.
تقدم هذه الورقة إطاراً نظرياً للمعلومات يعمل على تحسين توزيعات المثيرات التجريبية لتعظيم القدرة على التمييز بين فرضيات الترميز العصبي الاحتمالية المتنافسة (ترميز الأرجحية مقابل ترميز اللاحقة) من خلال قياس فجوة الأداء المتوقعة بين أجهزة فك التشفير الخاصة بكل منهما.
تقترح هذه الورقة إطار عمل لا يتطلب تدريباً يستفيد من نماذج الانتشار مسبقة التدريب، المدمجة مع وحدة ترميز قناة عكسية وفك تشفير تدفق احتمالي ذي مقياس درجة (score-scaled) جديد، لتحقيق التوازن الأمثل نظرياً وتجريبياً عبر كامل سطح مقايضة المعدل والتشويه والإدراك دون الحاجة إلى إعادة التدريب.