Raising Bars, Not Parameters: LilMoo Compact Language Model for Hindi
تقدم هذه الورقة LilMoo، وهو نموذج لغوي للغة الهندية بـ 0.6 مليار معلمة تم تدريبه من الصفر على مجموعة بيانات منسقة بجودة عالية وشفافية، والذي يتفوق على النماذج الأساسية متعددة اللغات ذات الحجم المماثل، ويُثبت أن التدريب المسبق المتخصص يمكنه معالجة فجوات اللغات ذات الموارد المنخفضة بفعالية دون الاعتماد على النماذج التأسيسية الغامضة.