Zeta: Dual Whitening for Matrix Optimization via Coordinate-Adaptive Preconditioning
यह शोधपत्र ज़ेटा (Zeta) को प्रस्तुत करता है, जो एक डुअल व्हाइटनिंग ऑप्टिमाइज़र है जो स्केल विषमता (scale heterogeneity) को ठीक करने के लिए स्पेक्ट्रल व्हाइटनिंग से पहले कोऑर्डिनेट व्हाइटनिंग लागू करके मौजूदा मैट्रिक्स-अवेयर विधियों की महत्वपूर्ण भेद्यता को संबोधित करता है, जिससे बड़े पैमाने के भाषा और विज़न मॉडल में अभिसरण (convergence) और सामान्यीकरण (generalization) में सुधार होता है।