Value-Aware Numerical Representations for Transformer Language Models
यह शोध पत्र एक मूल्य-जागरूक संख्यात्मक प्रतिनिधित्व प्रस्तुत करता है जो मानक टोकन इनपुट को एक मूल्य-सशर्त प्रीफ़िक्स टोकन के साथ संवर्धित करता है ताकि संख्यात्मक परिमाण को स्पष्ट रूप से एनकोड किया जा सके, जिससे अंकगणितीय और संख्यात्मक तर्क कार्यों में ट्रांसफॉर्मर भाषा मॉडलों की सुदृढ़ता में महत्वपूर्ण सुधार होता है।