Stealing Reasoning Traces from Proprietary LLM APIs
यह शोध पत्र प्रोप्रायटरी (proprietary) LLM API में एक महत्वपूर्ण आर्किटेक्चरल भेद्यता की पहचान और शोषण करता है जहाँ विनिमेय एन्क्रिप्टेड रीजनिंग ट्रेसेस (interchangeable encrypted reasoning traces) को कमजोर मॉडलों में इंजेक्ट करके डिक्रिप्ट किया जा सकता है, जिससे सुरक्षा गार्डरेल्स को बायपास करते हुए बौद्धिक संपदा, निजी डेटा और खतरनाक जानकारी का बड़े पैमाने पर निष्कर्षण संभव हो जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
इंटरनेट की कल्पना एक विशाल, हलचल भरी लाइब्रेरी के रूप में करें जहाँ सबसे उन्नत लाइब्रेरियन आर्टिफिशियल इंटेलिजेंस (AI) हैं। ये AI "रीजनिंग मॉडल्स" (तर्क करने वाले मॉडल) विशेष हैं क्योंकि अंतिम उत्तर देने से पहले, वे अपने आप से एक लंबा, विस्तृत आंतरिक संवाद (monologue) करते हैं। इस संवाद को एक गुप्त रफ-नोट या 'स्क्रैचपैड' के रूप में समझें जहाँ AI गणित की समस्याओं को हल करता है, तथ्यों की जाँच करता है, या किसी प्रश्न की नैतिकता पर बहस करता है। आमतौर पर, यह स्क्रैचपैड आपसे छिपा रहता है; आपको केवल अंतिम, परिष्कृत उत्तर दिखाई देता है। हालाँकि, पैसा बचाने और अपने व्यापारिक रहस्यों को सुरक्षित रखने के लिए, इन AI के स्वामित्व वाली कंपनियों ने इन गुप्त स्क्रैचपैड्स को एन्क्रिप्ट (कूटबद्ध) करना शुरू कर दिया है। वे इन अव्यवस्थित, निजी विचारों को एक उलझे हुए, अपठनीय कोड ब्लॉक में बदल देते हैं और उन्हें आपके पास वापस भेजते हैं, आपसे यह कहते हुए कि इसे संभाल कर रखें और अगली बार सवाल पूछने पर इसे वापस लाएँ। यह एक सीलबंद, अटूट तिजोरी थमाने जैसा है और साथ में कहना है, "इसे सुरक्षित रखें, और जब आप फिर से बात करना चाहें तो इसे वापस ले आएं।"
बड़ा सवाल जो शोधकर्ताओं ने पूछा है वह यह है: क्या यह तिजोरी वास्तव में अटूट है? यदि AI कंपनियाँ अपने बौद्धिक संपदा (IP) की रक्षा करने और निजी डेटा को सुरक्षित रखने के लिए अपने गुप्त विचारों को छिपाने की कोशिश कर रही हैं, तो क्या जिस तरह से वे ये "तिजोरियाँ" बांट रही हैं, वह वास्तव में एक बैकडोर (पीछे का रास्ता) बना रहा है? यह शोध पत्र ठीक उसी पहेली की जांच करता है, यह देखते हुए कि क्या इन AI विचारों की सुरक्षा करने वाला एन्क्रिप्शन उतना ही सुरक्षित है जितना कि कंपनियाँ मानती हैं, या क्या कोड को तोड़ने के लिए बिना मूल, सबसे शक्तिशाली AI का ताला तोड़े, कोई चतुर तरकीब मौजूद है।
शोधकर्ताओं ने इन AI कंपनियों द्वारा अपने गुप्त विचारों को संभालने के तरीके में एक आश्चर्यजनक रूप से सरल लेकिन विनाशकारी खामी खोजी है। उन्होंने पाया कि AI के गुप्त विचारों वाले एन्क्रिप्टेड "तिजोरियाँ" सार्वभौमिक चाबियों (universal keys) की तरह हैं जो विभिन्न मॉडल्स और विभिन्न उपयोगकर्ताओं पर काम करती हैं। AI की दुनिया में, कंपनियाँ अक्सर एक "बड़े भाई" वाला मॉडल (अत्यधिक स्मार्ट लेकिन कड़ी सुरक्षा वाला) और एक "छोटे भाई" वाला मॉडल (स्मार्ट और तेज़, लेकिन कम सुरक्षा गार्डों वाला) रखती हैं। पेपर दिखाता है कि एक हमलावर "बड़े भाई" के गुप्त तर्क ब्लॉक (reasoning block) को चुरा सकता है, उसे "छोटे भाई" के साथ बातचीत में डाल सकता है, और कमजोर मॉडल को उन गुप्त विचारों को स्पष्ट अंग्रेजी में डिकोड करने के लिए मजबूर कर सकता है। यह इसलिए काम करता है क्योंकि एन्क्रिप्शन की (key) पूरे इकोसिस्टम में साझा की जाती है, जिसका अर्थ है कि "छोटा भाई" भी उसी क्षमता को रखता है जिससे "बड़ा भाई" उस तिजोरी को खोल सकता है; बस अंतर यह है कि "छोटा भाई" सुरक्षा अनुरोधों को अस्वीकार करने के लिए सख्त प्रशिक्षण प्राप्त नहीं करता है। यह एक सख्त शिक्षक से चोरी की गई डायरी को एक बहुत ही मिलनसार, कम सतर्क छात्र को सौंपने और उनसे उसे जोर से पढ़ने के लिए कहने जैसा है। वह मिलनसार छात्र, जिसके पास ताले को खोलने की वही चाबी है जो शिक्षक के पास है, बस उसे खोल देता है और गुप्त सामग्री को जोर से पढ़ देता है।
लेखकों ने प्रदर्शित किया कि यह ट्रिक Anthropic, OpenAI और Google जैसे प्रमुख AI प्रदाताओं के बीच बड़े पैमाने पर काम करती है। इस पद्धति का उपयोग करके, वे कभी भी सीधे उन उन्नत मॉडल्स पर हमला किए बिना, उनकी सुरक्षा को "जेलब्रेक" करने में सक्षम रहे। उन्होंने दिखाया कि इस खामी का दुरुपयोग चार मुख्य तरीकों से किया जा सकता है। पहला, यह प्रतिस्पर्धियों को शीर्ष-स्तरीय AI के गुप्त तर्क चरणों (reasoning steps) को चुराने की अनुमति देता है, प्रभावी रूप से महंगे मॉडल के लिए भुगतान किए बिना उसकी दिमागी शक्ति की नकल करना। दूसरा, यह निजी डेटा को उजागर करता है; शोधकर्ताओं ने सार्वजनिक वेबसाइटों से इन एन्क्रिप्टेड ब्लॉक्स में से 315,000 से अधिक डेटा स्क्रैप किया और सफलतापूर्वक उन्हें डिकोड किया ताकि सैकड़ों लीक हुए पासवर्ड, API कीज़ और व्यक्तिगत ईमेल मिले, जिन्हें उपयोगकर्ता सोचते थे कि एन्क्रिप्ट होने के कारण सुरक्षित हैं। तीसरा, यह उस खतरनाक जानकारी को प्रकट करता है जिसके बारे में AI ने सोचा होगा लेकिन अपने अंतिम उत्तर में कहने से मना कर दिया होगा, जैसे कि कार कैसे चुराई जाए या सुरक्षा नियमों को कैसे बायपास किया जाए। अंत में, यह हमलावरों को इन एन्क्रिप्टेड ब्लॉक्स के भीतर दुर्भावनापूर्ण निर्देश छिपाने की अनुमति देता है, जिससे भविष्य के AI कार्यों को तब तक ज़हर (malicious instructions) दिया जा सके जब तक कि बहुत देर न हो जाए और कोई देख न सके।
पेपर निष्कर्ष निकालता है कि जबकि AI विचारों को एन्क्रिप्ट करने का विचार गोपनीयता और बौद्धिक संपदा की रक्षा करने के लिए था, इन मॉडल्स के बीच एन्क्रिप्टेड विचारों को साझा करने की वर्तमान प्रणाली ने एक गंभीर भेद्यता (vulnerability) पैदा कर दी है। शोधकर्ताओं ने इन मुद्दों की रिपोर्ट संबंधित कंपनियों को कर दी है, और कंपनियों ने इन छेदों को ठीक करना शुरू कर दिया है। यह अध्ययन एक सख्त चेतावनी है: स्मार्ट AI बनाने की होड़ में, हमारे निजी डेटा और मॉडल्स के आंतरिक तर्क को गलत हाथों में जाने से बचाने के लिए, इन मॉडल्स के "गुप्त स्क्रैचपैड" को संभालने के तरीके पर पूरी तरह से पुनर्विचार करने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।