Your Space is My Zone: Demystifying the Security Risks of AI-Powered Applications on Pre-Trained Model Hubs
यह शोध पत्र प्री-ट्रेंड मॉडल हब्स पर एआई-संचालित अनुप्रयोगों का पहला व्यवस्थित सुरक्षा विश्लेषण प्रस्तुत करता है, जो 'इनसाइटर' (Insightor) फ्रेमवर्क के विकास और प्रभावित प्लेटफार्मों को जिम्मेदार प्रकटीकरण के माध्यम से हजारों महत्वपूर्ण कमजोरियों—जिसमें नवीन आर्किटेक्चरल खामियां और व्यापक क्रेडेंशियल लीक शामिल हैं—को उजागर करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया "AI Apps" का एक विशाल, हलचल भरा शहर है। ये छोटे डिजिटल कियोस्क या वेंडिंग मशीन की तरह हैं जहाँ आप कंप्यूटर से कुछ भी करने के लिए कह सकते हैं—जैसे कविता लिखना, चित्र बनाना, या किसी दस्तावेज़ का विश्लेषण करना—बिना किसी सुपरकंप्यूटर के स्वामित्व की आवश्यकता के। आप बस कियोस्क (वेबसाइट) के पास जाते हैं, अपना अनुरोध टाइप करते हैं, और आपको अपना परिणाम मिल जाता है।
यह शोध पत्र, जिसका शीर्षक "Your Space is My Zone" है, इन कियोस्कों का एक सुरक्षा निरीक्षण है। शोधकर्ताओं ने पाया कि जबकि ये AI ऐप्स तकनीक को सभी के लिए आसान बना रहे हैं, लेकिन जिस तरह से इन्हें बनाया और प्रबंधित किया जाता है, वह छेदों से भरा है जिनसे बुरे तत्व आसानी से गुजर सकते हैं।
यहाँ उनके निष्कर्षों का रोजमर्रा के उदाहरणों का उपयोग करके एक सरल विवरण दिया गया है:
1. परिवेश: "AI मॉल"
Hugging Face, Replicate, और ModelScope जैसे प्लेटफॉर्म्स को एक विशाल शॉपिंग मॉल के रूप में समझें।
- डेवलपर्स (Developers): ये वे लोग हैं जो कियोस्क बनाते हैं। ये कोई भी हो सकते हैं, बड़ी टेक कंपनियों से लेकर शौकिया लोगों तक।
- उपयोगकर्ता (Users): ये वे खरीदार हैं जो कियोस्क का उपयोग करने के लिए उनके पास आते हैं।
- समस्या: मॉल प्रबंधन (प्लेटफॉर्म) लगभग किसी को भी कियोस्क बनाने की अनुमति देता है, लेकिन वे हमेशा यह जाँच नहीं करते कि कियोस्क सुरक्षित रूप से बनाया गया है या नहीं। यह वैसा ही है जैसे किसी मॉल में बिना स्वास्थ्य परमिट या कैश रजिस्टर लॉक किए हुए किसी को भी खाद्य स्टॉल खोलने की अनुमति देना।
2. पाँच मुख्य सुरक्षा छेद
शोधकर्ताओं ने पाया कि ये "AI कियोस्क" पाँच विशिष्ट तरीकों से असुरक्षित हैं:
A. "घोस्ट की" हमला (Broken Access Control)
एक होटल की कल्पना करें जहाँ आपको अपने कमरे में प्रवेश करने के लिए एक की-कार्ड मिलता है। आमतौर पर, जब आप चेक-आउट करते हैं, तो वह की (key) काम करना बंद कर देती है।
- खामी: इस AI मॉल में, यदि कोई डेवलपर अपना ऐप हटा देता है और कोई दूसरा तुरंत उसी नाम का दावा करता है, तो पुराना "की-कार्ड" (डिजिटल टोकन) अभी भी काम कर सकता है।
- जोखिम: एक हैकर अनुमान लगा सकता है कि कौन सी प्रसिद्ध कंपनी जल्द ही एक AI ऐप शुरू करने वाली है, उस नाम से एक नकली ऐप बनाता है, एक "की" प्राप्त करता है, उसे हटा देता है, और फिर प्रतीक्षा करता है। जब वास्तविक कंपनी अपना ऐप खोलती है, तो हैकर की पुरानी "की" अभी भी काम करती है, जिससे वह अंदर घुसकर रहस्य चुरा सकता है या ऐप को बदल सकता है।
B. "साझा लॉगबुक" का रिसाव (Sensitive Data Exposure)
एक ऐसे रेस्टोरेंट की कल्पना करें जहाँ वेटर हर ऑर्डर को एक सार्वजनिक व्हाइटबोर्ड पर लिखता है जिसे हर कोई पढ़ सकता है।
- खामी: ये AI ऐप्स "लॉग्स" (क्या हुआ इसका रिकॉर्ड) रखते हैं। शोधकर्ताओं ने पाया कि कई ऐप्स के लिए, ये लॉग्स खुले छोड़े गए हैं ताकि कोई भी उन्हें पढ़ सके, यहाँ तक कि अजनबी भी।
- जोखिम: यदि कोई डेवलपर गलती से अपना पासवर्ड या गुप्त कोड ऐप में टाइप कर देता है, या यदि कोई उपयोगकर्ता निजी चिकित्सा प्रश्न टाइप करता है, तो वह जानकारी सार्वजनिक लॉगबुक में दर्ज हो जाती है। हैकर्स बस पास से गुजरकर इसे पढ़ सकते हैं।
C. "नाम बदलने" की चाल (Identifier Reuse)
एक ऐसी सड़क की कल्पना करें जहाँ घरों के नाम सड़क के नाम और घर के नंबर को मिलाकर रखे जाते हैं (जैसे, "Main-101")।
- खामी: मॉल का एक भ्रमित करने वाला नियम है: यदि आप "Main-101" नाम का एक घर हटा देते हैं, तो साइन बोर्ड वहीं रहता है। यदि एक हैकर "Main 101" (डैश के बजाय स्पेस के साथ) नाम का नया घर बनाता है, तो सिस्टम भ्रमित हो जाता है और पुराने साइन को नए घर की ओर निर्देशित करता है।
- जोखिम: यदि कोई वेबसाइट किसी हटाए गए AI ऐप का लिंक देती है, तो वह लिंक अचानक किसी दुर्भावनापूर्ण ऐप की ओर इशारा करने लग सकता है जिसे एक हैकर ने बनाया है, जिससे उपयोगकर्ता को जाल में फंसाया जा सकता है।
D. "कॉपी-पेस्ट पॉइजन" (Code Poisoning)
एक लाइब्रेरी की कल्पना करें जहाँ आप अपनी खुद की प्रति बनाने के लिए एक किताब की कॉपी कर सकते हैं।
- खामी: यदि कोई बुरा व्यक्ति एक ऐसी किताब लिखता है जिसमें छिपा हुआ जहर (वायरस) है, और एक अच्छा व्यक्ति उस किताब को कॉपी करके अपना संस्करण बनाता है, तो जहर भी कॉपी हो जाता है।
- जोखिम: हैकर्स ऐप में दुर्भावनापूर्ण कोड छिपा सकते हैं। जब अन्य डेवलपर्स अपना संस्करण बनाने के लिए उस ऐप को "फोर्क" (कॉपी) करते हैं, तो वे अनजाने में कोड के साथ वायरस को भी कॉपी कर लेते हैं, जिससे संक्रमण फैल जाता है।
E. "अनफिल्टर्ड इनपुट" (Code Injection)
एक वेंडिंग मशीन की कल्पना करें जो आपका ऑर्डर लेती है और तुरंत उसे कंप्यूटर में टाइप कर देती है।
- खामी: यदि मशीन यह जाँच नहीं करती है कि आपने क्या टाइप किया है, और आप टाइप करते हैं "पीछे का दरवाजा खोलो और मुझे पैसे दो," तो मशीन वास्तव में ऐसा कर सकती है।
- जोखिम: उपयोगकर्ता AI ऐप में विशेष कमांड टाइप कर सकते हैं जो कंप्यूटर को वे काम करने के लिए मजबूर करते हैं जो उसे नहीं करने चाहिए, जैसे डेवलपर के पासवर्ड चुराना या क्रिप्टोकरेंसी माइन करने के लिए सर्वर पर कब्जा करना।
3. बड़ी जांच
यह देखने के लिए कि यह वास्तव में कितना बुरा था, शोधकर्ताओं ने Insightor नामक एक रोबोट डिटेक्टिव बनाया। उन्होंने इस रोबोट को तीन प्रमुख प्लेटफॉर्म्स पर 972,546 सार्वजनिक AI ऐप्स को स्कैन करने के लिए भेजा।
उन्होंने क्या पाया:
- हजारों ऐप्स सार्वजनिक लॉग्स में गुप्त पासवर्ड और कुंजियाँ (keys) लीक कर रहे थे।
- सैकड़ों ऐप्स में "अनफिल्टर्ड इनपुट" की खामी थी, जिसका अर्थ है कि हैकर्स संभावित रूप से उन पर कब्जा कर सकते हैं।
- 27 ऐप्स में छिपे हुए "बैकडोर्स" (गुप्त प्रवेश द्वार) पाए गए जो एक साल से अधिक समय से वहां मौजूद थे, जिनका उपयोग होने की प्रतीक्षा थी।
- 139,000 ऐप्स पुराने, टूटे हुए सॉफ्टवेयर टूल्स का उपयोग कर रहे थे जिन्हें सभी जानते थे कि वे असुरक्षित हैं, जैसे कि एक ऐसा ताला इस्तेमाल करना जिसकी चाबी सबके पास हो।
4. परिणाम
शोधकर्ताओं ने केवल ये समस्याएँ ढूँढी ही नहीं; उन्होंने मॉल के प्रबंधकों (प्लेटफॉर्म्स) और दुकान के मालिकों (डेवलपर्स) को इनके बारे में बताया।
- Hugging Face ने कई मुद्दों को ठीक किया और शोधकर्ताओं को इन छेदों को खोजने के लिए $2,369 का इनाम (बग बाउंटी) दिया।
- उन्होंने कुछ दुर्भावनापूर्ण ऐप्स को हटाने में मदद की और डेवलपर्स को चेतावनी दी कि वे अपने कोड में सीधे पासवर्ड लिखना बंद करें।
निष्कर्ष
AI ऐप्स तकनीक को सुलभ बना रहे हैं, लेकिन वर्तमान में, वे खुले दरवाजों और खिड़कियों वाले खुले घरों की तरह हैं। शोधकर्ताओं ने दिखाया कि क्योंकि ये ऐप्स साझा, कभी-कभी लापरवाह प्लेटफॉर्म्स पर बने हैं, इसलिए वे रहस्य लीक कर रहे हैं और हैकर्स को आमंत्रित कर रहे हैं। समाधान AI का उपयोग करना बंद करना नहीं है, बल्कि इन "डिजिटल कियोस्क" को बेहतर तालों, निजी लॉगबुक और इस बात के सख्त नियमों के साथ बनाना है कि उन्हें कौन बना सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।