Transformers Discover Molecular Structure Without Graph Priors
यह शोध पत्र प्रदर्शित करता है कि सामान्य-उद्देश्य वाले ट्रांसफॉर्मर मॉडल, जब बिना किसी स्पष्ट ग्राफ-आधारित भौतिक पूर्वधारणाओं (priors) के प्रशिक्षित किए जाते हैं, तो वे केवल डेटा से ही प्रमुख आणविक संरचनाओं और अंतःक्रिया पैटर्न को स्वायत्त रूप से खोज सकते हैं, जिससे भौतिकी-सूचित आर्किटेक्चर के प्रतिस्पर्धी सटीकता प्राप्त होती है और यह सुझाव मिलता है कि ऐसे इंडक्टिव बायस (inductive biases) सीखने योग्य हो सकते हैं न कि अनिवार्य रूप से आवश्यक।