Secure LLM Fine-Tuning via Safety-Aware Probing
यह शोध पत्र सेफ्टी-अवेयर प्रोबिंग (SAP) का प्रस्ताव करता है, जो एक ऐसा ढांचा है जो हिडन स्टेट्स में सुरक्षा-सहसंबंधित दिशाओं की पहचान करके और उन्हें विचलित करके LLM फाइन-ट्यूनिंग के दौरान सुरक्षा क्षरण को कम करता है, ताकि कार्य प्रदर्शन को सुरक्षित रखते हुए पैरामीटर अपडेट को हानिकारक प्रक्षेपवक्रों से दूर ले जाया जा सके।