🤖 machine learning
Unstable Features, Reproducible Subspaces: Understanding Seed Dependence in Sparse Autoencoders
यह शोध पत्र यह प्रदर्शित करता है कि जबकि व्यक्तिगत स्पार्स ऑटोएन्कोडर (Sparse Autoencoder) फीचर्स अक्सर विभिन्न ट्रेनिंग सीड्स के बीच पुनरुत्पादकता (reproducibility) की कमी दर्शाते हैं, वे सामूहिक रूप से स्थिर, पुनरुत्पादक निम्न-आयामी उप-स्थानों (low-dimensional subspaces) का निर्माण करते हैं जहाँ स्थिर फीचर्स कार्यात्मक उपयोगिता को संचालित करते हैं और अस्थिर फीचर्स केवल आधार अस्पष्टता (basis ambiguity) को दर्शाते हैं न कि शोर (noise) को।