Decomposing Memorization Reduction in Privacy-Preserving Fine-Tuning of SLMs for CSIRTs
यह शोध पत्र एक अनुभवजन्य अध्ययन प्रस्तुत करता है जो यह प्रदर्शित करता है कि जहाँ HMAC छद्म नामकरण (pseudonymization) प्रभावी रूप से पहचानकर्ता जोखिम को कम करता है और मेल खाते अपडेट नियंत्रण CSIRT डेटा पर छोटे भाषा मॉडलों की फाइन-ट्यूनिंग में स्मृति न्यूनीकरण (memorization reduction) का लेखा-जोखा रखते हैं, वहीं DP SGD बिना किसी अतिरिक्त मापने योग्य स्मृति लाभ के औपचारिक गारंटी प्रदान करता है, और परिणामी मॉडल वर्तमान में परिचालन रूप से उपयोगी प्रदर्शन प्राप्त करने में विफल रहते हैं।