"Abuse Risks are Often Inherent to Product Features": Exploring AI Vendors' Bug Bounty and Responsible Disclosure Policies
यह शोध पत्र 264 AI विक्रेताओं की भेद्यता प्रकटीकरण नीतियों (vulnerability disclosure policies) का विश्लेषण करता है, जो यह प्रकट करता है कि कई में स्पष्ट दिशा-निर्देशों का अभाव है या वे जेलब्रेकिंग और मतिभ्रम (hallucinations) जैसे महत्वपूर्ण AI-विशिष्ट जोखिमों को स्पष्ट रूप से बाहर रखते हैं, जबकि यह तीन विशिष्ट विक्रेता प्रोफाइलों की पहचान करता है और वर्तमान उद्योग प्रथाओं तथा वास्तविक दुनिया की AI घटनाओं की तात्कालिकता के बीच एक महत्वपूर्ण अंतर को रेखांकित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया एक विशाल, हलचल भरे शहर की तरह है जहाँ कंपनियाँ हर दिन नए, जादुई उपकरण बना रही हैं। कुछ उपकरण कहानियाँ लिख सकते हैं, कुछ बीमारियों का निदान कर सकते हैं, और कुछ तो कार भी चला सकते हैं। लेकिन किसी भी नई तकनीक की तरह, इन उपकरणों की नींव में दरारें भी हैं—कमजोरियाँ (vulnerabilities)।
जब कोई सामान्य सॉफ्टवेयर टूल टूट जाता है, तो उसे ठीक करने के लिए एक स्थापित प्रणाली होती है: बग बाउंटी प्रोग्राम (Bug Bounty Programs)। इन्हें "वांटेड पोस्टर्स" (Wanted Posters) की तरह समझें। कंपनियाँ इनाम (पैसा) रखती हैं ताकि अगर कोई उनकी दीवार में छेद या दरार ढूँढ ले, तो वह चोर के घुसने के बजाय कंपनी को बता सके।
यह शोध पत्र इस बात की रिपोर्ट कार्ड है कि AI कंपनियाँ अपने इन नए, जादुई उपकरणों के लिए ये "वांटेड पोस्टर्स" कितनी अच्छी तरह लगा रही हैं। एडिनबर्ग विश्वविद्यालय के शोधकर्ताओं ने 264 अलग-अलग AI कंपनियों का अध्ययन किया यह देखने के लिए कि क्या वे इन नई तरह की दरारों को संभालने के लिए तैयार हैं।
यहाँ उनके निष्कर्ष दिए गए हैं, जिन्हें सरल भाषा में समझाया गया है:
1. "मौन बहुमत" और "अनुपस्थिति"
शोधकर्ताओं ने पाया कि 36% AI कंपनियों के पास कोई "वांटेड पोस्टर" ही नहीं है।
- उपमा: कल्पना कीजिए कि आप किसी दुकान पर जाकर मालिक को यह बताने जा रहे हैं, "अरे, आपका सामने वाला दरवाज़ा खुला है," लेकिन मालिक के पास न तो कोई मेलबॉक्स है, न फोन नंबर, और न ही कोई साइन बोर्ड जिस पर लिखा हो "यहाँ समस्या की रिपोर्ट करें।" आपको बस अंदाज़ा लगाना होगा कि किसे बताना है, या इससे भी बुरा, शायद वे आपकी बात को अनसुना कर दें।
- वास्तविकता: इनमें से केवल 18% कंपनियाँ स्पष्ट रूप से कहती हैं, "हम AI-विशिष्ट समस्याओं के बारे में रिपोर्ट स्वीकार करते हैं।" बाकी या तो सामान्य नियम रखती हैं जिनमें AI का ज़िक्र नहीं है, या वे पूरी तरह से मौन हैं।
2. "बग" किसे माना जाए? (दायरा/Scope)
शोध पत्र में पाया गया कि कंपनियाँ इस बात को लेकर बहुत चयनात्मक (picky) हैं कि वे किस चीज़ को भुगतान करने योग्य "बग" मानती हैं। उन्होंने एक स्पष्ट रेखा खींची है:
- "हाँ, हम भुगतान करेंगे" की सूची (In-Scope):
- उपमा: यदि कोई आपकी चाबियाँ चुरा लेता है, आपका ताला तोड़ देता है, या आपके बैंक के वॉल्ट में घुस जाता है, तो वह एक अपराध है।
- वास्तविकता: कंपनियाँ डेटा चोरी करने, सिस्टम में घुसपैठ करने, या अपने गुप्त AI मॉडल की नकल करने जैसी चीज़ों के लिए भुगतान करने में खुश रहती हैं। ये पारंपरिक सुरक्षा अपराध हैं, जो बस एक AI के भीतर हो रहे हैं।
- "नहीं, यह हमारी समस्या नहीं है" की सूची (Out-of-Scope):
- उपमा: यदि आप एक रोबोट से कविता लिखने को कहते हैं और वह गलती से कुछ अभद्र लिख देता है, या यदि वह 'हैलुसिनेशन' (hallucination - मनगढ़ंत बातें बनाना) करने लगता है, तो कंपनी कहती है, "यह तो बस रोबोट के सोचने का तरीका है, यह टूटा हुआ ताला नहीं है।"
- वास्तविकता: कंपनियाँ अक्सर जेलब्रेकिंग (Jailbreaking) (AI को उसके नियमों को तोड़ने के लिए बहकाना), हैलुसिनेशन (Hallucinations) (AI का झूठ बोलना), या हानिकारक आउटपुट (Harmful Output) (AI का बुरा व्यवहार करना या झूठ फैलाना) संबंधी रिपोर्टों को खारिज कर देती हैं। वे अक्सर दावा करती हैं कि ये उत्पाद की "अंतर्निहित विशेषताएँ" (inherent features) हैं, न कि बग।
3. तीन प्रकार की AI कंपनियाँ
शोधकर्ताओं ने 264 कंपनियों को तीन अलग-अलग "व्यक्तित्वों" में विभाजित किया:
- 🌟 सक्रिय स्पष्टकर्ता (The Proactive Clarifiers) (17%):
- वे कौन हैं: गूगल, माइक्रोसॉफ्ट और मेटा जैसे बड़े खिलाड़ी।
- वे क्या करते हैं: उनके पास स्पष्ट संकेत हैं कि, "हम इसके लिए भुगतान करेंगे, हम इसके लिए नहीं करेंगे, और यहाँ बताया गया है कि कितना।" उनके पास यह भी विशेष गाइड हैं कि उनके AI का सुरक्षित परीक्षण कैसे किया जाए। वे AI बग को एक गंभीर और अलग श्रेणी के रूपட்டாக देखते हैं।
- 🤐 मौन रहने वाले (The Silent Ones) (44%):
- वे कौन हैं: अधिकतर वे ऐप्स जो AI का उपयोग करते हैं (जैसे कस्टमर सर्विस ऐप में एक चैटबॉट)।
- वे क्या करते हैं: उनके पास "वांटेड पोस्टर" तो है, लेकिन वह पुराने ज़माने के सॉफ्टवेयर के लिए लिखा गया है। इसमें AI का ज़िक्र तक नहीं है। यदि आपको कोई AI बग मिलता है, तो वे इसे ठीक कर सकते हैं, लेकिन वे यह नहीं बताएंगे कि क्या आप इनाम के पात्र हैं या वे इसका मूल्यांकन कैसे करेंगे। यह एक ऐसी दुकान में जाने जैसा है जहाँ मैनेजर पीछे के कमरे में है और बाहर आकर बात करने को तैयार नहीं है।
- 🚫 प्रतिबंधात्मक वाले (The Restive Ones) (39%):
- वे कौन हैं: छोटे वेंडर्स या वे जो झंझट नहीं चाहते।
- वे क्या करते हैं: या तो उनके पास संपर्क करने का कोई तरीका ही नहीं है, या वे स्पष्ट रूप से कहते हैं, "हम AI बग रिपोर्ट स्वीकार नहीं करते हैं।" वे कह सकते हैं, "यदि आप हमारे AI को तोड़ने की कोशिश करते हैं, तो हम आपको भुगतान नहीं करेंगे, और हमें आपसे गुस्सा भी आ सकता है।"
4. "लैग" (Lag) की समस्या
शोध पत्र में उद्योग की प्रतिक्रिया में एक महत्वपूर्ण समय अंतराल, या "लैग" पाया गया।
- उपमा: कल्पना कीजिए कि प्रयोगशाला में वैज्ञानिक खोज रहे हैं कि एक नया प्रकार का पुल डगमगा रहा है (अकादमिक अनुसंधान)। फिर, लोग पुल से गिरने लगते हैं (वास्तविक दुनिया की घटनाएँ)। अंत में, वर्षों बाद, पुल बनाने वाली कंपनी अपना सुरक्षा मैनुअल अपडेट करती है कि, "हाँ, यह पुल डगमगा रहा है, और इसे रिपोर्ट करने का तरीका यहाँ है" (वेंडर नीतियां)।
- वास्तविकता: अकादमिक शोधकर्ता वर्षों से AI की कमजोरियों का अध्ययन कर रहे हैं। वास्तविक दुनिया में AI के साथ दुर्घटनाएँ लंबे समय से हो रही हैं। लेकिन AI कंपनियाँ अब अभी (मुख्य रूप से 2023 और 2024 में) इन विशिष्ट समस्याओं को स्वीकार करने के लिए अपने आधिकारिक नियमों को अपडेट करना शुरू कर रही हैं। वे शोधकर्ताओं और दुर्घटनाओं की तुलना में धीमी गति से प्रतिक्रिया दे रहे हैं।
5. बड़ा अंतर (The Big Disconnect)
जनता की चिंता और कंपनियों की प्राथमिकता के बीच एक बड़ा अंतर है।
- जनता का डर: लोग मुख्य रूप से इस बात से चिंतित हैं कि AI बुरा व्यवहार करे, झूठ फैलाए (गलत सूचना), या पक्षपाती (भेदभावपूर्ण) हो। ये "कंटेंट सेफ्टी" (सामग्री सुरक्षा) के मुद्दे हैं।
- कंपनी का फोकस: कंपनियाँ मुख्य रूप से "तकनीकी सुरक्षा" (Technical Security) के मुद्दों पर ध्यान केंद्रित करती हैं, जैसे कि हैकर्स द्वारा उनका कोड या डेटा चुराना।
- परिणाम: यदि आप रिपोर्ट करते हैं कि एक AI नफरत भरे भाषण फैला रहा है, तो कंपनी कह सकती है, "यह सुरक्षा बग नहीं है, यह सुरक्षा (safety) का मुद्दा है, और हम इसके लिए भुगतान नहीं करते हैं।" लेकिन यदि आप रिपोर्ट करते हैं कि एक हैकर ने AI का 'दिमाग' चुरा लिया है, तो वे आपको बहुत सारा पैसा देंगे।
सारांश
शोध पत्र निष्कर्ष निकालता है कि जबकि AI उद्योग तेज़ी से बढ़ रहा है, इसका "सुरक्षा जाल" (बग बाउंटी प्रोग्राम) अभी भी बुना जा रहा है। कई कंपनियों ने अभी तक बुनाई शुरू भी नहीं की है, और जो शुरू कर चुकी हैं, वे मुख्य रूप से चोरों को पकड़ने पर ध्यान केंद्रित कर रही हैं, न कि इस बात को ठीक करने पर कि AI बुरा या गलत क्यों हो सकता है। शोधकर्ता सुझाव देते हैं कि AI को वास्तव में सुरक्षित बनाने के लिए, कंपनियों को इन "अभद्र AI" की समस्याओं को केवल "विशेषताओं" (features) के रूप में देखना बंद करना होगा और उन्हें ऐसे बग के रूप में मानना होगा जिन्हें रिपोर्ट और ठीक करने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।