Raising Bars, Not Parameters: LilMoo Compact Language Model for Hindi
Das Paper stellt LilMoo vor, ein 0,6-Milliarden-Parameter-Modell für die Hindi-Sprache, das von Grund auf neu trainiert wurde und durch einen transparenten Prozess sowie eine hochwertige Datensammlung (GigaLekh) vergleichbare multilinguale Basismodelle in seiner Größe übertrifft.