🤖 machine learning
State Contamination in Memory-Augmented LLM Agents
यह शोध पत्र "मेमोरी लॉन्ड्रिंग" (memory laundering) की पहचान और मात्रा निर्धारण करता है, जो मेमोरी-ऑगमेंटेड LLM एजेंटों में एक सुरक्षा विफलता है जहाँ विषाक्त संदर्भ (toxic context) को ऐसे दिखने में सुरक्षित सारांशों में संकुचित कर दिया जाता है जो फिर भी गुप्त रूप से भविष्य के जनरेशन को प्रभावित करते हैं, यह प्रदर्शित करते हुए कि प्रभावी शमन के लिए केवल अंतिम आउटपुट को साफ करने के बजाय सारांश बनाने से पहले स्टेट (state) को सैनिटाइज करना आवश्यक है।