Certified Multi-Turn Robustness for LLM Safety via Compositional Bounds and Safety Persistence
यह शोधपत्र मल्टी-टर्न सर्टिफाइड रोबस्टनेस (MTCR) प्रस्तुत करता है, जो एक नवीन फ्रेमवर्क है जो स्टेट-एडवर्सरियल MDPs और कंपोजिशनल बाउंड्स का लाभ उठाकर बड़े भाषा मॉडलों (LLMs) के विरुद्ध मल्टी-टर्न जेलब्रेक हमलों के खिलाफ अधिक सटीक और सैद्धांतिक रूप से पुष्ट सुरक्षा गारंटी प्रदान करता है, जिससे मौजूदा सिंगल-टर्न सर्टिफिकेशन विधियों के घातांकीय क्षरण (exponential degradation) पर विजय प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, लार्ज लैंग्वेज मॉडल्स (LLMs) अगली पीढ़ी की संवादात्मक तकनीक के इंजन बन गए हैं। ये सिस्टम कहानियाँ लिख सकते हैं, समस्याओं को हल कर सकते हैं और जटिल संवाद कर सकते हैं, लेकिन बातचीत में आगे-पीछे (back-and-forth) संवाद करने की उनकी क्षमता एक विशिष्ट भेद्यता (vulnerability) भी पेश करती है। जबकि एक एकल प्रश्न को सुरक्षित रखना आसान हो सकता है, एक चतुर हमलावर प्रश्नों की एक श्रृंखला का उपयोग कर सकता है, बातचीत के संदर्भ को धीरे-धीरे बदलकर मशीन को हानिकारक जानकारी प्रकट करने या उसके सुरक्षा नियमों को बायपास करने के लिए छल कर सकता है। इसे 'मल्टी-टर्न जेलब्रेक' (multi-turn jailbreak) के रूप में जाना जाता है। वर्षों से, शोधकर्ता यह सिद्ध करने के लिए संघर्ष कर रहे थे कि क्या ये सिस्टम एक लंबी बातचीत के दौरान सुरक्षित हैं। पारंपरिक तरीके केवल एक एकल विनिमय (exchange) के लिए सुरक्षा की गारंटी दे सकते थे, और जब उन्होंने उन गारंटियों को एक लंबी चैट तक विस्तारित करने की कोशिश की, तो गणित ने सुझाव दिया कि सुरक्षा लगभग तुरंत समाप्त हो जाएगी, जिससे सिस्टम हमले के लिए खुला रह जाएगा।
शोधकर्ताओं की एक टीम ने अब एक नया ढांचा विकसित किया है जिसे 'मल्टी-टर्न सर्टिफाइड रोबस्टनेस' (MTCR) कहा जाता है, जो इन लंबी बातचीत में सुरक्षा के प्रति हमारी समझ को बदल देता है। बातचीत को स्वतंत्र घटनाओं की एक सरल श्रृंखला के रूप में देखने के बजाय, जहाँ हर मोड़ पर सुरक्षा खो जाती है, शोधकर्ताओं ने बातचीत को एक संरचित परिदृश्य (structured landscape) के माध्यम से एक यात्रा के रूप में मॉडल किया। उन्होंने पाया कि बातचीत स्वाभाविक रूप से विशिष्ट "मोड्स" या पैटर्न में आती है, ठीक वैसे ही जैसे एक यात्री मानचित्र के विभिन्न क्षेत्रों के माध्यम से घूमता है। बातचीत को इन विशिष्ट क्षेत्रों में विभाजित करके और यह अध्ययन करके कि सिस्टम उनके बीच कैसे चलता है, उन्होंने पाया कि सुरक्षा पहले की तुलना में उतनी तेजी से कम नहीं होती जितनी कि सोचा गया था। उनका कार्य एक औपचारिक, गणितीय गारंटी प्रदान करता है कि एक बातचीत एक निश्चित संख्या में टर्नों के लिए सुरक्षित रह सकती है, भले ही एक हमलावर सक्रिय रूप से संवाद को हेरफेर करने की कोशिश कर रहा हो।
इस खोज का मूल आधार यह है कि शोधकर्ताओं ने बातचीत के प्रवाह का विश्लेषण कैसे किया। उन्होंने महसूस किया कि यदि कोई बातचीत कुछ समय के लिए एक सुरक्षित पैटर्न के भीतर रहती है, तो सिस्टम का 'सेफ्टी मार्जिन'—वह बफर जो इसे हानिकारक सामग्री उत्पन्न करने से रोकता है—उतना तेजी से नहीं सिकुड़ता जितना कि साधारण गणित भविष्यवाणी करता है। उन्होंने एक गुण परिभाषित किया जिसे वे "सेफ्टी पर्सिस्टेंस" (safety persistence) कहते हैं, जो यह मापता है कि एक मॉडल बातचीत के आगे बढ़ने के साथ अपने सुरक्षा मानकों को कितनी अच्छी तरह बनाए रखता है। अपने प्रयोगों में, उन्होंने इस ढांचे का परीक्षण छह अलग-अलग लार्ज लैंग्वेज मॉडल्स पर किया, जिनमें ओपन-सोर्स सिस्टम से लेकर उपलब्ध सबसे उन्नत व्यावसायिक मॉडल तक शामिल थे। उन्होंने इन मॉडल्स को कठोर परीक्षणों के अधीन किया, जिसमें 'क्रेसेंडो' (Crescendo) नामक एक परिष्कृत हमला शैली शामिल थी, जहाँ एक विरोधी सावधानीपूर्वक इनपुट का एक क्रम तैयार करता है ताकि मॉडल के बचाव को धीरे-धीरे तोड़ा जा सके।
परिणाम स्पष्ट और आश्वस्त करने वाले थे। प्रत्येक परीक्षण मामले में, मॉडल्स की वास्तविक सुरक्षा नए ढांचे द्वारा प्रदान की गई सख्त, 'वर्स्ट-केस' गारंटी से काफी अधिक थी। उदाहरण के लिए, बीस टर्न तक चलने वाली एक बातचीत में, सैद्धांतिक गारंटी केवल कुछ प्रतिशत की सुरक्षा संभावना का सुझाव दे सकती है, फिर भी मॉडल्स अधिकांश परीक्षणों में सुरक्षित रहे। सख्त गारंटी और वास्तविक प्रदर्शन के बीच का यह अंतर इस बात की पुष्टि करता है कि व्यवहार में गणितीय सीमाएँ (mathematical bounds) भंग नहीं होती हैं, यहाँ तक कि तीव्र दबाव में भी। शोधकर्ताओं ने पाया कि प्रमुख प्रौद्योगिकी कंपनियों के उन्नत मॉडल्स, पुराने या कम अलाइन्ड (aligned) मॉडल्स की तुलना में अपनी सुरक्षा बहुत लंबे समय तक बनाए रखते हैं, जो दर्शाता है कि बेहतर प्रशिक्षण से अधिक मजबूत दृढ़ता (persistence) मिलती है।
महत्वपूर्ण रूप से, इस कार्य ने इस विचार को भी खारिज कर दिया कि बातचीत लंबी होने के साथ सुरक्षा अनिवार्य रूप से तेजी से (exponentially) ढह जानी चाहिए। पिछले तरीकों ने माना था कि यदि किसी मॉडल के एक टर्न में सुरक्षित होने की 95% संभावना है, तो बीस टर्न के बाद उसके सुरक्षित रहने की संभावना बहुत कम होगी। नया ढांचा दिखाता है कि यह धारणा बहुत निराशावादी है। बातचीत की संरचना और सुरक्षा मार्जिन के विकास के तरीके को ध्यान में रखते हुए, शोधकर्ताओं ने सिद्ध किया कि सुरक्षा को पुराने गणित की अनुमति से कहीं अधिक लंबे समय तक बनाए रखा जा सकता है। उन्होंने प्रदर्शित किया कि बातचीत को सुरक्षित रखने के लिए, सिस्टम को हर एक कदम पर पूर्ण होने की आवश्यकता नहीं है; इसे केवल एक विषय से दूसरे विषय पर जाते समय एक निश्चित स्तर की लचीलापन (resilience) बनाए रखने की आवश्यकता है।
अध्ययन ने यह भी उजागर किया कि ये बातचीत कैसे संरचित हैं। शोधकर्ताओं ने समान बातचीत की अवस्थाओं (states) को एक साथ समूहबद्ध करने की एक तकनीक का उपयोग किया, और पाया कि जब एक मॉडल विषयों के एक सुसंगत समूह के भीतर रहता है, तो उसकी सुरक्षा को तोड़ना बहुत कठिन होता है। जोखिम तभी बढ़ता है जब बातचीत बहुत अलग-अलग समूहों के बीच कूदती है। यह अंतर्दृष्टि सुरक्षा की समझ को अधिक सूक्ष्म बनाती है, जो "सुरक्षित" या "असुरक्षित" के द्विआधारी (binary) दृष्टिकोण से हटकर एक गतिशील दृष्टिकोण की ओर ले जाती है कि समय के साथ सुरक्षा कैसे बनी रहती है। हालांकि औपचारिक गारंटियाँ टेक्स्ट हेरफेर के विशिष्ट प्रकारों पर लागू होती हैं, शोधकर्ताओं ने देखा कि मॉडल्स अधिक जटिल, सिमेंटिक हमलों के खिलाफ भी अच्छा प्रदर्शन करते हैं जो साधारण टेक्स्ट परिवर्तनों से परे जाते हैं।
अंततः, यह शोध डेवलपर्स और ऑडिटर्स को सार्वजनिक रूप से जारी करने से पहले संवादात्मक एआई की सुरक्षा का आकलन करने के लिए एक नया उपकरण प्रदान करता है। यह गणना करने का एक तरीका प्रदान करता है कि एक बातचीत कितनी लंबी चल सकती है इससे पहले कि सुरक्षा विफलता का जोखिम बहुत अधिक हो जाए, जो मॉडल के विशिष्ट व्यवहार के आधार पर एक ठोस सीमा प्रदान करता है। ढांचा सुझाव देता है कि सही संरचनात्मक गुणों के साथ, लार्ज लैंग्वेज मॉडल्स अपनी सुरक्षा खोए बिना लंबी, जटिल संवाद कर सकते हैं। इसका मतलब यह नहीं है कि समस्या हमेशा के लिए हल हो गई है, लेकिन यह मानव-एआई संचार के भविष्य को परिभाषित करने वाली मल्टी-टर्न इंटरैक्शन में सुरक्षा को प्रमाणित करने के लिए एक ठोस आधार स्थापित करता है। यह कार्य पुष्टि करता है कि हालांकि हमलावर चतुर हैं, लेकिन अच्छी तरह से अलाइन्ड मॉडल्स के अंतर्निहित सुरक्षा तंत्र पहले की तुलना में अधिक मजबूत और दृढ़ हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।