The Information-Theoretic Benefit of Shared Representations under Orthogonality Constraints
यह शोध पत्र एक सूचना-सैद्धांतिक प्रमाण प्रदान करता है कि एक साझा लेटेंट हार्ड फीचर (latent hard feature) वाले मल्टी-टास्क समस्याओं का संयुक्त सन्निकटन (joint approximation), पृथक सन्निकटन की तुलना में स्पष्ट रूप से कम विवरण बिट्स (description bits) की आवश्यकता रखता है, जो साझा रेडमेकर-हार (Rademacher-Haar) फीचर्स और कार्य-विशिष्ट सॉटूथ-वॉल्श (Sawtooth-Walsh) रीडआउट्स की एक कंपोजिशनल आर्किटेक्चर के माध्यम से ऑर्थोगोनैलिटी बाधाओं (orthogonality constraints) के तहत भी इष्टतम दरों में एक तीव्र अंतर को प्रदर्शित करके सिद्ध होता है।