Era-Aware Language Modeling: Training a Decoder-Only Transformer on a Balanced Gutenberg Corpus
यह शोध पत्र GutenbergLM को प्रस्तुत करता है, जो कि युग-सशर्त टोकन (era-conditioning tokens) के साथ एक कालानुक्रमिक रूप से संतुलित प्रोजेक्ट गुटेनबर्ग कॉर्पस पर शून्य से प्रशिक्षित 109.5M-पैरामीटर वाला एक डिकोडर-ओनली ट्रांसफार्मर है, जो यह प्रदर्शित करता है कि स्पष्ट कालानुक्रमिक स्तरीकरण (temporal stratification) मॉडल को प्रारंभिक, मध्य और आधुनिक साहित्यिक युगों के अनुरूप विशिष्ट, काल-उपयुक्त लेखन शैलियों को उत्पन्न करने में सक्षम बनाता है।