11158 ورقة بحثية
إن AdaThink-Med هو إطار عمل متكامل يعمل على تحسين الاستنتاج الطبي باستخدام الضبط الدقيق بالتعزيز الموجه لعدم اليقين لتعديل حسابات وقت الاستنتاج ديناميكيًا، مما يقلل بشكل كبير من استهلاك الرموز مع الحفاظ على دقة التشخيص دون الحاجة إلى موجهات خارجية.
تقترح هذه الورقة إطار عمل لاسترجاع دلالي ثلاثي المراحل وقابل للتوسع لقياس جدة توليد النماذج اللغوية الكبيرة مقابل مجموعات بيانات التدريب المسبق الكاملة، مما يكشف أن النماذج تستخدم البيانات عبر تسلسلات أطول مما كان يُعتقد سابقاً، وتُظهر أنماط جدة خاصة بمجالات معينة، وتزيد من الجدة من خلال الضبط الدقيق للتعليمات.
تقدم هذه الورقة Hylog، وهو نظام تسجيل هجين جديد مفتوح المصدر يقوم بمزامنة إدخال لوحة المفاتيح مع النص المُصوَّر للتغلب على قيود أدوات تسجيل ضربات المفاتيح التقليدية في التقاط تحويلات محرك إدخال اللغة (IME) للنصوص غير الأبجدية، مما يتيح تحليلاً معرفياً أكثر دقة لإنتاج النصوص متعددة اللغات.
تُظهر هذه الورقة أن المحولات (transformers) تُبدي تجميعًا جزئيًا تكيفيًا مشابهًا للانحدار الهرمي من خلال الاستفادة من المعلومات المستمدة من السياقات غير المتكررة والمتشابهة، حيث يبلغ هذا السلوك ذروته عند "نقطة مثالية" محددة في التدريب حيث يتم تعظيم تأثير تكرار السياق قبل أن يتضاءل مع استمرار التدريب.
يُعدُّ "بايباغير" (Bagpiper) نموذجاً تأسيسياً صوتياً بحجم 8 مليارات معلمة، يستفيد من الأوصاف الغنية لإنشاء رسم خرائط ثنائي الاتجاه بين الصوت الخام والمفاهيم المعرفية عالية المستوى، مما يُمكِّن من الفهم والتوليد الشاملين والمفتوحين عبر الكلام والأصوات والموسيقى من خلال سير عمل مبتكر يعتمد على "الوصف ثم المعالجة".
تقدم هذه الورقة HOMER، وهو إطار عمل جديد لنماذج اللغات الكبيرة متعدد الأدوار مدفوع بنظرية الفكاهة، يستفيد من التضادات السيناريوية، والتخيل الهرمي المعزز بالاسترجاع، وتوليد التعليقات المستهدف للتفوق بشكل كبير على الأساليب الحالية الرائدة في إنشاء تعليقات صور متعددة الوسائط مضحكة.
تقدم هذه الورقة طريقة لإيقاف التشغيل المبكر على مستوى الرمز (token) لـنماذج اللغة الانتشارية (diffusion language models) لا تتطلب تدريباً، حيث تحدد وتنهي الرموز المستقرة ديناميكياً بناءً على إشارات تنبؤ خفيفة الوزن، مما يقلل التكاليف الحسابية بشكل كبير مع الحفاظ على جودة التوليد عبر مهام متنوعة.
تحدد هذه الورقة "دائرة بالوعة P0" (P0-Sink Circuit) هيكلية مسؤولة عن الانتباه غير المتناسب للموضع صفر في النماذج اللغوية الكبيرة السببية، وتثبت أن الطرق الخالية من المعلمات التي تسرع تشكل هذه البالوعة تعمل على تحسين كفاءة ما قبل التدريب والأداء في المهام اللاحقة.
تُعد LangFIR طريقة مبتكرة تحدد الميزات المتفرقة والخاصة بكل لغة في النماذج اللغوية الكبيرة متعددة اللغات باستخدام البيانات أحادية اللغة فقط وتصفية الرموز العشوائية، مما يتيح توجيهاً لغوياً عالي الفعالية يتفوق على الأساليب الحالية التي تعتمد على البيانات المتوازية المكلفة.
تقدم هذه الورقة SinkProbe، وهي طريقة متطورة للكشف عن الهلوسة تستفيد من "بالوعات الانتباه" (attention sinks) —وهي الرموز التي تراكم كتلة انتباه غير متناسبة— كإشارات داخلية تشير إلى التحول من الحوسبة المرتكزة على المدخلات إلى الحوسبة المرتكزة على المعرفة السابقة، بينما تكشف أيضاً أن الكشف الفعال يعتمد على بالوعات ذات معايير متجهات قيم كبيرة وتوحد النهج السابقة رياضياً مع هذه الآلية.