Simple Recipe Works: Vision-Language-Action Models are Natural Continual Learners with Reinforcement Learning
यह शोध पत्र इस पारंपरिक धारणा को चुनौती देता है कि नैइव (naive) सीक्वेंशियल फाइन-ट्यूनिंग (Sequential Fine-Tuning), विजन-लैंग्वेज-एक्शन (Vision-Language-Action) मॉडल्स में कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) का कारण बनती है, और इसके बजाय यह प्रदर्शित करता है कि सरल सीक्वेंशियल फाइन-ट्यूनिंग को लो-रैंक अडैप्टेशन (low-rank adaptation) और ऑन-पॉलिसी रीइन्फोर्समेंट लर्निंग (on-policy reinforcement learning) के साथ संयोजित करना न्यूनतम विस्मृति (minimal forgetting) और मजबूत सामान्यीकरण (strong generalization) के साथ प्रभावी रूप से सुदृढ़, स्केलेबल निरंतर शिक्षण (continual learning) को सक्षम बनाता है।