Language Models Need Sleep: Learning to Self-Modify and Consolidate Memories
मानव सीखने की प्रक्रिया से प्रेरित होकर, यह शोध पत्र लार्ज लैंग्वेज मॉडल्स के लिए एक "स्लीप" (नींद) प्रतिमान प्रस्तावित करता है जो "नॉलेज सीडिंग" (ज्ञान बीजारोपण) डिस्टिलेशन और सुदृढीकरण शिक्षण (रिनफोर्समेंट लर्निंग) के माध्यम से अनसुपरवाइज्ड "ड्रिमिंग" (सपनों) की दो-चरणीय प्रक्रिया के जरिए अल्पकालिक स्मृतियों को दीर्घकालिक मापदंडों में समेकित करके निरंतर सीखने और आत्म-सुधार को सक्षम बनाता है।