The Illusion of Secure LLM Code: Closing the Security Gap via Iterative Reprompting
यह अध्ययन प्रदर्शित करता है कि एआई कोडिंग असिस्टेंट डिफ़ॉल्ट रूप से सुरक्षित प्रमाणीकरण कोड उत्पन्न करने में विफल रहते हैं, जो यह प्रकट करता है कि केवल सेल्फ-ऑडिटिंग लूप्स के साथ पुनरावृत्तिपूर्ण रिप्रॉम्प्टिंग ही NIST मानकों द्वारा आवश्यक व्यापक सुरक्षा वास्तुकला को प्राप्त कर सकती है—न कि सिंगल-शॉट प्रॉम्प्ट्स।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने अभी-अभी एक बिल्कुल नया, सुपर-स्मार्ट रोबोट सहायक खरीदा है। आप उससे अपने लिए एक घर बनाने को कहते हैं, और वह कुछ ही सेकंड में दीवारें, छत और सामने का दरवाजा बनाकर एक सुंदर संरचना तैयार कर देता है। यह दिखने में एकदम सही लगता है! लेकिन यहाँ एक पेंच है: रोबोट ने इंटरनेट से लाखों पुराने ब्लूप्रिंट पढ़कर घर बनाना सीखा है, जिनमें से कुछ 1980 के दशक के हैं जहाँ लोग पीछे का दरवाजा लॉक करना भूल गए थे या नींव के लिए कार्डबोर्ड का उपयोग किया था। रोबोट घर जैसा दिखने वाली चीज़ बनाने में तो बहुत माहिर है, लेकिन उसे हमेशा यह नहीं पता होता कि ऐसा घर कैसे बनाया जाए जो वास्तव में चोरों को बाहर रख सके।
यही एलएलएम (LLMs) की दुनिया है सॉफ्टवेयर डेवलपमेंट में। ये एआई (AI) "रोबट" हैं जो हमारे लिए कंप्यूटर कोड लिखते हैं। वे प्रोग्रामर्स को ऐप्स तेजी से बनाने में मदद करने के लिए प्रसिद्ध हो रहे हैं। लेकिन एक बड़ा सवाल मंडरा रहा है: यदि आप एआई से किसी वेबसाइट के लिए एक डिजिटल "सामने का दरवाजा" (जिसे ऑथेंटिकेशन सिस्टम कहा जाता है) बनाने के लिए कहते हैं, तो क्या वह वास्तव में एक किला बनाएगा, या सिर्फ एक कमजोर कार्डबोर्ड का दरवाजा जो हैकर्स आसानी से तोड़ सकें? हमें इसकी परवाह है क्योंकि हम ऑनलाइन जो कुछ भी करते हैं—बैंकिंग, सोशल मीडिया, शॉपिंग—वह इन्हीं डिजिटल दरवाजों पर निर्भर करता है। यदि एआई एक कमजोर दरवाजा बनाता है, तो हमारे रहस्य सुरक्षित नहीं रहेंगे।
द ग्रेट डिजिटल डोर टेस्ट (The Great Digital Door Test)
इस शोध पत्र में, शोधकर्ताओं की एक टीम ने "सबसे खराब स्थिति वाले डेवलपर" की भूमिका निभाने का निर्णय लिया। वे यह नहीं देखना चाहते थे कि एआई क्या कर सकता है जब कोई मानव विशेषज्ञ उसके कान में सुरक्षा संबंधी टिप्स फुसफुसा रहा हो। वे यह देखना चाहते थे कि जब एआई को अकेला छोड़ दिया जाए, या केवल अस्पष्ट संकेत दिए जाएं, तो वह क्या करेगा। उन्होंने पांच सबसे लोकप्रिय एआई कोडिंग सहायकों (GitHub Copilot, OpenAI Codex और Google के मॉडल्स जैसे टूल्स सहित) का परीक्षण करने के लिए एक विशाल प्रयोग आयोजित किया।
उनका लक्ष्य सरल था: इन एआई को एक वेब ऐप के लिए लॉगिन सिस्टम बनाने के लिए कहें। फिर, वे डिजिटल चोरों की एक टीम की तरह व्यवहार करते हैं ताकि यह देख सकें कि क्या वे अंदर घुस सकते हैं।
शोधकर्ताओं ने एआई से दरवाजा बनाने के लिए चार अलग-अलग तरीके आजमाए:
- "बस कर दो" दृष्टिकोण (बेसिक प्रॉम्प्ट): उन्होंने एआई से एक "साफ लॉगिन सिस्टम" बनाने के लिए कहा। सुरक्षा का कोई उल्लेख नहीं। बस "इसे काम करने लायक बनाओ।"
- "अच्छे बनो" दृष्टिकोण (सिक्योर प्रॉम्प्ट): उन्होंने एक छोटा सा इशारा जोड़ा: "इसे सुरक्षित और साफ बनाएं।"
- "एक्सपर्ट मैनुअल" दृष्टिकोण (NIST-आधारित प्रॉम्प्ट): उन्होंने एआई को एक विशिष्ट नियम पुस्तिका (NIST SP 800-63B दिशानिर्देश, जो डिजिटल तालों के आधिकारिक सरकारी मानकों की तरह हैं) दी और उसे उन नियमों का पालन करने के लिए कहा।
- "दोबारा करो" दृष्टिकोण (इटरेटिव रिप्रॉम्प्टिंग): यह एक ट्विस्ट था। दरवाजा बनाने के बाद, शोधकर्ताओं ने नियम पुस्तिका को फिर से एआई को सौंपा और कहा, "हे, जो तुमने अभी बनाया है उसे देखो। इसकी जांच नियमों के विरुद्ध करो। तुम क्या भूल गए? अब, इसे ठीक करो।"
परिणाम: सुरक्षा का भ्रम (The Results: The Illusion of Security)
निष्कर्ष थोड़े डरावने थे, लेकिन भी बहुत स्पष्ट थे।
जब शोधकर्ताओं ने "बस कर दो" दृष्टिकोण का उपयोग किया, तो एआई ने कार्यात्मक दरवाजे तो बनाए, लेकिन वे छेदों से भरे थे। कोड काम तो कर रहा था, लेकिन वह अक्सर खिड़कियां लॉक करना भूल गया। इसने लोगों को लाखों बार पासवर्ड अनुमान लगाने (ब्रूट-फोर्स हमलों) से नहीं रोका, इसने "चाबियों" (सेशन कुकीज़) को ठीक से नहीं छिपाया, और कभी-कभी इसने कमजोर तालों (पुराने पासवर्ड हैशिंग) का उपयोग किया। यह एक ऐसे लकड़ी के दरवाजे के साथ घर बनाने जैसा था जिस पर "धक्का दें" का साइन तो है, लेकिन डेडबोल्ट (मजबूत कुंडी) नहीं है।
यहाँ तक कि जब उन्होंने "अच्छे बनो" दृष्टिकोण (सिर्फ "सुरक्षित" कोड मांगना) का उपयोग किया, तो एआई में बहुत अधिक सुधार नहीं हुआ। ऐसा लगा कि वह "सुरक्षित" का अर्थ केवल "क्रैश न होना" समझता है, न कि "तोड़ना असंभव होना।"
जब उन्होंने एआई को एक्सपर्ट मैनुअल (NIST नियम) दिया, तो चीजें बेहतर हुईं। एआई ने कुछ डेडबोल्ट और बेहतर ताले लगाना शुरू कर दिया। इसने पासवर्ड लंबे करने और कई असफल प्रयासों के बाद अकाउंट लॉक करने के निर्देशों का पालन किया। लेकिन असली बात यह है: नियम पुस्तिका हाथ में होने के बावजूद, एआई अभी भी सुरक्षा योजना के कुछ महत्वपूर्ण हिस्सों को भूल गया। इसने एक मजबूत सामने का दरवाजा बनाया लेकिन पीछे का गेट खुला छोड़ दिया। "सिंगल-शॉट" विधि (एक बार पूछना और उत्तर प्राप्त करना) वास्तव में एक सुरक्षित सिस्टम बनाने के लिए पर्याप्त नहीं थी।
असली जादू "दोबारा करो" दृष्टिकोण के साथ हुआ। जब शोधकर्ताओं ने एआई को अपने काम को देखने, यह स्वीकार करने कि वह क्या भूल गया है, और फिर उसे ठीक करने के लिए मजबूर किया, तो सुरक्षा काफी बढ़ गई। एआई को "स्व-ऑडिट" करने और सुधार करने के लिए मजबूर करने से, शोधकर्ताओं ने पाया कि कोड बहुत अधिक मजबूत हो गया। एआई आखिरकार "प्रवेश निषेध" के बोर्ड (सिक्योरिटी हेडर्स) लगाने और पीछे का गेट लॉक करने (CSRF प्रोटेक्शन) को याद करने में सफल रहा।
मुख्य निष्कर्ष (The Big Takeaway)
यह शोध पत्र निष्कर्ष निकालता है कि हम केवल इस भरोसे नहीं रह सकते कि एआई डिफ़ॉल्ट रूप से सुरक्षित सॉफ़्टवेयर बनाएगा। यदि आप एआई से "एक लॉगिन पेज बनाएं" कहते हैं, तो यह संभवतः कुछ ऐसा देगा जो काम तो करेगा लेकिन छेदों से भरा होगा। इसे नियम पुस्तिका एक बार देने से भी काम नहीं चलेगा।
इन एआई सहायकों से वास्तव में सुरक्षित सिस्टम प्राप्त करने का एकमात्र तरीका उन्हें एक जूनियर प्रशिक्षु (apprentice) की तरह मानना है जिसे निरंतर पर्यवेक्षण की आवश्यकता है। आपको पूछना होगा, "क्या यह सुरक्षित है?" फिर "अपने काम की नियमों के विरुद्ध जांच करें," और अंत में "जो तुम भूल गए उसे ठीक करो।" शोधकर्ता इसे इटरेटिव रिप्रॉम्प्टिंग (Iterative Reprompting) कहते हैं। यह एक बच्चे को हथौड़ा थमाकर यह उम्मीद करने के बीच का अंतर है कि वे एक सुरक्षित घर बनाएंगे, बनाम उनके बगल में खड़े होकर, उनके काम की जांच करना और उन्हें तब तक पेंच कसने के लिए कहना जब तक कि घर वास्तव में सुरक्षित न हो जाए।
संक्षेप में, एआई एक शक्तिशाली उपकरण है, लेकिन यह "सेट इट एंड फॉरगेट इट" (एक बार सेट करो और भूल जाओ) वाला सुरक्षा गार्ड नहीं है। जब तक हम इसके उपयोग के तरीके को नहीं बदलते, हमें ही टॉर्च पकड़नी होगी और तालों की जांच करनी होगी।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।