Privacy Collapse: Benign Fine-Tuning Can Break Contextual Privacy in Language Models
यह शोध पत्र यह प्रकट करता है कि भाषा मॉडलों का सौम्य फाइन-ट्यूनिंग (benign fine-tuning) एक "साइलेंट फेलियर" (silent failure) का कारण बन सकता है जिसे प्राइवेसी कोलैप्स (privacy collapse) के रूप में जाना जाता है, जहाँ मॉडल संदर्भ-आधारित गोपनीयता मानदंडों के बारे में तर्क करने की अपनी क्षमता खो देते हैं और मानक सुरक्षा एवं उपयोगिता बेंचमार्क पर उच्च प्रदर्शन बनाए रखने के बावजूद संवेदनशील जानकारी लीक कर देते हैं।