The Gentle Collapse: Distributional Metrics for Continual Learning
यह शोध पत्र छह निरंतर, सॉफ्टमैक्स-व्युत्पन्न वितरण संबंधी मेट्रिक्स प्रस्तुत करता है जो मानक सटीकता से परे विनाशकारी विस्मृति (catastrophic forgetting) की आंतरिक संरचना को प्रकट करते हैं, और यह प्रदर्शित करता है कि लॉस वेटिंग (loss weighting) और सैंपलिंग के लिए इन समृद्ध संकेतों का लाभ उठाना निरंतर शिक्षण (continual learning) कार्यों में विस्मृति को महत्वपूर्ण रूप से कम करता है।