MoEMory: Long-Term User Memory as a Routing Policy on Frozen Mixture-of-Experts Language Models
MoEMory फ्रोजन मिक्सचर-ऑफ-एक्सपर्ट्स लैंग्वेज मॉडल्स के लिए एक नवीन दीर्घकालिक मेमोरी प्रतिमान पेश करता है जो मौजूदा क्षमताओं को नए टोकन या पैरामीटर्स इंजेक्ट किए बिना चुनिखंड रूप से सक्रिय करने के लिए प्रति-उपयोगकर्ता जानकारी को एक रूटिंग बायस के रूप में संग्रहीत करता है, जिससे असंबंधित प्रश्नों में लगभग शून्य लीकेज प्राप्त होता है और यह पारंपरिक इंजेक्शन-आधारित मेमोरी विधियों के समानांतर और पूरक बना रहता है।