11611 ورقة بحثية
تقدم هذه الورقة طريقة لتكييف نموذج لغوي كبير مكون من 14 مليار معلمة مع مجال الرعاية الصحية البرازيلي عبر توليد بيانات اصطناعية من الإرشادات السريرية الرسمية وتطبيق التدريب المسبق المستمر مع التعلم المعزز، مما أدى إلى إنتاج نموذج يتفوق على الأنظمة المملوكة الأكبر حجماً في معايير مرجعية سريرية برازيلية تم وضعها حديثاً.
تتقصى هذه الورقة أنماط الاختلاف في التقييمات البشرية المتدرجة للغة غير اللائقة من خلال اقتراح "مؤشر المعارضة" لقياس تباين وجهات النظر، وإثبات أن السمات النصية يمكنها التنبؤ بشكل متوسط بكل من تباين التعليقات وصعوبة الحالات ذات الآراء البشرية المتعارضة.
تُظهر هذه الورقة أنه في تكوينات النماذج اللغوية المثلى من حيث الحوسبة، تتناسب أعداد المعلمات طردياً مع حجم البيانات مقاساً بالبايتات بدلاً من الرموز (tokens)، مما يكشف أن معدل ضغط الرموز الأمثل يختلف عن خوارزمية BPE القياسية ويتناقص مع زيادة الحوسبة.
تقدم هذه الورقة البحثية SRA، وهو إطار عمل جديد لتقطير المعرفة عبر أجهزة الترميز (cross-tokenizer) يستفيد من منظور الأنظمة الديناميكية متعددة الجسيمات لمحاذاة تمثيلات النطاق القوية والموزونة بالانتباه بدلاً من الرموز الفردية، مما يتفوق بشكل كبير على الأساليب الحالية في سيناريوهات البنى الهيكلية المتباينة الصعبة.
تحدد هذه الورقة وتخفف من أثر "مصب الانتباه" (attention sink) المنهجي في نماذج الترجمة الآلية العصبية متعددة اللغات، حيث تمتص الرموز غير المحتوية على محتوى كتلة الانتباه المتقاطع بشكل غير متناسب، وذلك عبر تقديم منهجية تصفية تكشف عن أنماط لغوية كانت محجوبة سابقاً وتحسن بشكل كبير من موثوقية تحليلات التفسير القائمة على الانتباه.
تقدم هذه الورقة إطار عمل CoRM-RAG، الذي يعالج "فجوة الارتباط والمتانة" في التوليد المعزز بالاسترجاع من خلال توظيف تقليل المخاطر عبر التناقض والبروتوكول الاضطرابي المعرفي لتدريب ناقد للأدلة يمنح الأولوية لسلامة القرار على التشابه الدلالي، مما يؤدي إلى التخفيف من الهلوسة الناتجة عن الاستعلامات المنحازة.
تُثبت هذه الورقة البحثية أن نموذج الذاكرة الطويلة قصيرة المدى ثنائية الاتجاه (BiLSTM) القائم على آلية الانتباه يتفوق على النماذج المرجعية التقلية لتعلم الآلة في تصنيف مشاعر مراجعات ألعاب منصة "ستيم" (Steam)، محققاً دقة بنسبة 83% ودرجة F1 موزونة بنسبة 85%، مع توفير تصورات مرئية قابلة للتفسير للكلمات الحاملة للمشاعر لمساعدة مطوري الألعاب.
تُظهر هذه الورقة أن نموذج التعلم العميق القائم على شبكات الذاكرة الطويلة قصيرة المدى (LSTM) يتفوق على أساليب التعلم الآلي التقليدية في تحليل مراجعات تطبيق "Mobile Legends"، محققاً دقة بنسبة 92% من خلال الالتقاط الفعال للفروق الدقيقة المتسلسلة والسياقية للنصوص غير الرسمية للمستخدمين.
تقارن هذه الدراسة بين نهجي تعلم الآلة والتعلم العميق على مجموعة بيانات لتحليل مشاعر التجارة الإلكترونية الإندونيسية، حيث وجدت أن نموذج BiLSTM يتفوق على LightGBM وخوارزميات تعلم الآلة الأخرى بدقة بلغت 98.87%، رغم أن LightGBM يظل بديلاً عالي الكفاءة.
تقدم هذه الورقة SiNFluD، وهو مجموعة بيانات مرجعية جديدة لتصنيف اللغة المجازية في اللغة السندية تم إنشاؤها من مصادر متنوعة وتم ترميزها من قبل متحدثين أصليين، إلى جانب تقييم لنماذج مدربة مسبقاً مختلفة حيث حقق نموذج XLM-RoBERTa-XL أفضل أداء.