Can Interpretation Predict Behavior on Unseen Data?
यह शोध पत्र यह प्रदर्शित करता है कि इन-डिस्ट्रीब्यूशन प्रशिक्षण के दौरान देखे गए अटेंशन पैटर्न एक ट्रांसफॉर्मर मॉडल के आउट-ऑफ-डिस्ट्रीब्यूशन व्यवहार की सफलतापूर्वक भविष्यवाणी कर सकते हैं, जो एक नए व्याख्यात्मकता उद्देश्य (interpretability objective) को स्थापित करता है जहाँ प्रेक्षण संबंधी विश्लेषण वितरण बदलाव (distribution shift) के तहत विश्वसनीयता का पूर्वानुमान लगा सकता है, भले ही कारण संबंधी यांत्रिक लिंक (causal mechanistic links) अनुपस्थित हों।