🤖 machine learning
The Curse of Multiple Mediators: Hidden Interaction Effects in Activation Patching
यह शोध पत्र प्रकट करता है कि मैकेनिस्टिक इंटरप्रिटेबिलिटी (mechanistic interpretability) में एक्टिवेशन पैचिंग अनुमान स्वाभाविक रूप से प्राकृतिक अप्रत्यक्ष प्रभावों को अन्य घटकों की अवस्थाओं पर निर्भर अंतःक्रिया प्रभावों के साथ मिला देते हैं, और यह तर्क देता है कि इस अंतःक्रिया को समाप्त करने के बजाय, शोधकर्ताओं को प्रॉम्प्ट-निर्भर कारण तंत्रों और लालची घटक रैंकिंग (greedy component ranking) की सीमाओं की पहचान करने के लिए एक नैदानिक उपकरण के रूप में इसका लाभ उठाना चाहिए।