Open Technical Problems in Open-Weight AI Model Risk Management

आर्टिफिशियल इंटेलिजेंस की दुनिया की कल्पना एक विशाल, हलचल भरी लाइब्रेरी के रूप में करें। लंबे समय तक, इस लाइब्रेरी की सबसे शक्तिशाली किताबें कुछ विशाल निगमों द्वारा कांच के बक्सों के पीछे रखी गई थीं, जिन्हें ताला लगाकर रखा गया था। आप उन्हें पढ़ तो सकते थे, लेकिन आप उन्हें घर नहीं ले जा सकते थे, और निश्चित रूप से आप उनके पन्ने फाड़ या अध्याय फिर से लिख नहीं सकते थे। ये "क्लोज्ड-वेट" (बंद-भार वाले) मॉडल हैं। लेकिन हाल ही में, एक नया चलन तेजी से उभरा है: "ओपन-वेट" (खुले-भार वाले) मॉडल। ये लाइब्रेरी की सबसे शक्तिशाली किताबों की डिजिटल प्रतियों की तरह हैं जिन्हें कोई भी डाउनलोड कर सकता है, अपने घर ले जा सकता है और हमेशा के लिए रख सकता है। सबसे अच्छी बात? आप उनकी फोटोकॉपी कर सकते हैं, उन्हें आपस में जोड़ सकते हैं, या नई चीजें करने के लिए उनका टेक्स्ट भी फिर से लिख सकते हैं। यह उन शोधकर्ताओं और आविष्कारकों के लिए अविश्वत रूप से रोमांचक है जो अद्भुत नए उपकरण बनाना चाहते हैं।

हालांकि, इसमें एक पेंच है। जब आप सबको एक किताब की प्रति देते हैं और उन्हें उसे फिर से लिखने की अनुमति देते हैं, तो आप नियंत्रण खो देते हैं। यदि कोई उनके संस्करण में कोई खतरनाक कहानी लिखता है, तो उन्हें पूरी दुनिया के साथ साझा करने से रोका नहीं जा सकता। बंद किताबों के विपरीत, आप बस लाइब्रेरियन को फोन करके उस खतरनाक संस्करण को वापस लेने के लिए नहीं कह सकते; एक बार जब वह बाहर निकल गया, तो वह बाहर निकल गया। यह शोध पत्र, जिसे विश्वविद्यालयों और सुरक्षा संगठनों की विशेषज्ञों की एक बड़ी टीम द्वारा लिखा गया है, एक महत्वपूर्ण प्रश्न पूछता है: हम इस खुली लाइब्रेरी को सुरक्षित कैसे रखें जब कोई भी किताबों को बदल सकता है? वे लाइब्रेरी को वापस बंद करने की कोशिश नहीं कर रहे हैं; इसके बजाय, वे "जादुई स्याही" और "सुरक्षा गार्डों" के नए प्रकारों का आविष्कार करने की कोशिश कर रहे हैं जो सुरक्षित रहते हैं, भले ही किताब को फिर से लिखा जा रहा हो। वे ऐसा AI बनाने का तरीका खोजना चाहते हैं जो सबके उपयोग के लिए खुला भी हो और किसी हथियार में बदले जाने के प्रति पर्याप्त मजबूत भी हो।

बड़ी समस्या: अनियंत्रित कॉपी मशीन

लेखक बताते हैं कि ओपन-वेट AI मॉडल अविश्वसनीय रूप से शक्तिशाली होते जा रहे हैं, कभी-कभी बड़ी कंपनियों द्वारा रखे गए सुपर-सीक्रेट मॉडलों से केवल 6 से 12 महीने पीछे होते हैं। समस्या यह है कि जहां क्लोज्ड मॉडल को पैच किया जा सकता है या अगर वे अजीब व्यवहार करने लगें तो वापस लिया जा सकता है, वहीं ओपन मॉडल डिजिटल वायरस की तरह हैं। एक बार जब कोई उन्हें डाउनलोड कर लेता है, तो उन्हें संशोधित किया जा सकता है, साझा किया जा सकता है और हमेशा के लिए फैलाया जा सकता है।

एक क्लोज्ड मॉडल को स्मार्टफोन ऐप की तरह समझें। यदि ऐप में कोई बग है जो हैकर्स को आपकी तस्वीरें चुराने देता है, तो कंपनी इसे ठीक करने के लिए अपडेट भेज सकती है, या ऐप को स्टोर से हटा भी सकती है। लेकिन एक ओपन-वेट मॉडल केक बनाने की रेसिपी की तरह है। यदि आपको रेसिपी में कोई खतरनाक सामग्री मिलती है, तो आप उन लोगों को नहीं रोक सकते जिनके पास पहले से ही वह रेसिपी है कि वे केक बनाना जारी न रखें। इससे भी बुरा यह है कि कोई उस रेसिपी को ले सकता है, उसमें एक "जहरीली" सामग्री जोड़ सकता है (जैसे कि लोगों को नुकसान पहुँचाने का गुप्त निर्देश), और उस नई, खतरनाक रेसिपी को लाखों अन्य लोगों के साथ साझा कर सकता है। मूल बेकर के पास इसे रोकने का कोई तरीका नहीं है।

शोध पत्र इस बात पर प्रकाश डालता है कि वर्तमान सुरक्षा उपकरण, जैसे कि बुरे शब्दों को रोकने वाले फिल्टर, ओपन मॉडलों के खिलाफ बेकार हैं। क्यों? क्योंकि यदि आपके पास रेसिपी (मॉडल का कोड) है, तो आप बस फिल्टर को मिटा सकते हैं। यह रसोई के काउंटर पर "खाने की मनाही है" का साइन लगाने जैसा है; यदि उनके पास पूरा किचन है, तो वे साइन को अनदेखा कर सकते हैं।

16 चुनौतियाँ: एक वाइल्ड वेस्ट के लिए टूलकिट

यह शोध पत्र केवल समस्या की ओर इशारा नहीं करता है; यह 16 विशिष्ट तकनीकी चुनौतियों को रेखांकित करता है जिन्हें वैज्ञानिकों को इन AI मॉडलों को सुरक्षित बनाने के लिए हल करने की आवश्यकता है। वे इन्हें पांच मुख्य श्रेणियों में व्यवस्थित करते हैं, जैसे कि एक फैक्ट्री के विभिन्न स्टेशन जो इन AI मॉडलों का निर्माण करते हैं।

1. सामग्रियां (ट्रेनिंग डेटा क्यूरेशन)
इससे पहले कि एक AI सीखता है, वह भारी मात्रा में डेटा "खाता" है, जैसे एक छात्र लाखों किताबें पढ़ रहा हो। पहली चुनौती है: हम यह कैसे सुनिश्चित करें कि छात्र कभी बुरी किताबें न पढ़े?
लेखक सुझाव देते हैं कि यदि हम खतरनाक जानकारी (जैसे बम बनाने या अवैध चित्र बनाने के निर्देश) को AI के सीखना शुरू करने से पहले ही फ़िल्टर कर दें, तो AI शायद उन बुरी चालों को कभी सीख ही न पाए। यह एक बच्चे को दयालुता की किताबें देकर दयालु बनाने जैसा है, बजाय इसके कि उसे दयालु होने के बाद दयालुता सिखाने की कोशिश की जाए। हालांकि, शोध पत्र नोट करता है कि यह पेचीदा है। कभी-कभी, एक विशिष्ट विषय को हटाने से AI किसी अन्य चीज़ में खराब हो सकता है, या AI निर्दोष दिखने वाले संकेतों से भी बुरी चीजों को समझ सकता है।

2. अटूट कवच (टेम्पर-रेसिस्टेंट ट्रेनिंग)
भले ही हम एक सुरक्षित AI से शुरुआत करें, कोई भी इसे "फाइन-ट्यून" करने की कोशिश कर सकता है—बाद में इसे नई, बुरी चीजें सिखाने के लिए। दूसरी चुनौती है: हम एक ऐसा AI कैसे बनाएं जो बुरी चीजें सीखने से इनकार कर दे, भले ही कोई इसे मजबूर करने की कोशिश करे?
कल्पना कीजिए कि आप एक कुत्ते को काटने के लिए सिखाने की कोशिश कर रहे हैं, लेकिन कुत्ता इतना प्रशिक्षित है कि वह उस आदेश को सीखने में शारीरिक रूप से असमर्थ है। शोध पत्र कहता है कि वर्तमान तरीके कमजोर हैं। यदि कोई सुरक्षित AI को खतरनाक बनाने के लिए उसे फिर से प्रशिक्षित करने की कोशिश करता है, तो वे आमतौर पर इसे कुछ सौ चरणों में ही कर सकते हैं। लेखक ऐसे तरीके खोजने चाहते हैं जिससे AI "प्रतिरक्षित" (इम्यून) हो जाए, ताकि भले ही कोई इसे हैक करने की कोशिश करे, AI सुरक्षित रहे। वे "अनलर्निंग" (विस्मरण) की भी खोज करते हैं—एक तरीका जिससे AI उन विशिष्ट बुरी चीजों को भूल जाए जो उसने सीखी होंगी, लेकिन वर्तमान तरीके आसानी से पलटे जा सकते हैं।

3. स्ट्रेस टेस्ट (मॉडल टेम्परिंग इवैल्यूएशन)
नया AI जारी करने से पहले, हमें उसका परीक्षण करना होगा। तीसरी चुनौती है: हम यह परीक्षण कैसे करें कि क्या इसे किसी हैकर द्वारा तोड़ा जा सकता है?
अभी, अधिकांश परीक्षण केवल AI से सामान्य प्रश्न पूछते हैं। लेखक कहते हैं कि हमें "रेड टीम्स" को काम पर रखने की आवश्यकता है—हैकर समूहों जिनका काम AI को हर संभव तरीके से बदलकर तोड़ने की कोशिश करना है। वे जानना चाहते हैं: एक मददगार AI को हानिकारक बनाने में कितने चरण लगते हैं? इसकी लागत कितनी है? शोध पत्र पाता है कि हमारे पास अभी तक इसके लिए अच्छे परीक्षण नहीं हैं। हमें यह जानने की आवश्यकता है कि इन मॉडलों को तोड़ना कितना आसान है ताकि हम उन्हें जारी करने से पहले ठीक कर सकें।

4. धीमा प्रसार (स्टेज्ड डिप्लॉयमेंट)
एक नया AI दुनिया में एक साथ छोड़ने के बजाय, चौथी चुनौती है: क्या हम इसे चरणों में जारी कर सकते हैं ताकि यह देखा जा सके कि क्या होता है?
एक नए वीडियो गेम की कल्पना करें। डेवलपर्स सभी को तुरंत खेलने देने के बजाय, पहले कुछ परीक्षकों को खेलने देते हैं। यदि उन्हें कोई बग मिलता है, तो वे इसे पूरी दुनिया को मिलने से पहले ठीक कर देते हैं। लेखक AI के साथ ऐसा करने का सुझाव देते हैं। हम कुछ भरोसेमंद शोधकर्ताओं को पहले मॉडल का उपयोग करने दे सकते हैं, देख सकते हैं कि वे इसका उपयोग कैसे करते हैं, और केवल तभी इसे सभी के लिए खोल सकते हैं जब हम आश्वस्त हों कि यह सुरक्षित है। वे "स्प्लिट डिप्लॉयमेंट" जैसे तकनीकी तरीकों की भी तलाश करते हैं, जहाँ AI का एक हिस्सा आपके कंप्यूटर पर चलता है और दूसरा हिस्सा एक सुरक्षित सर्वर पर चलता है, जिससे पूरे मॉडल को चुराना कठिन हो जाता है।

5. जासूसी कार्य (मॉडल प्रोवेनेंस और फोरेंसिक्स)
अंत में, एक बार जब AI दुनिया में आ जाता है, तो पांचवीं चुनौती है: हम कैसे जान सकते हैं कि एक विशिष्ट AI कहाँ से आया है और इसमें क्या बदलाव किए गए हैं?
यदि आपको इंटरनेट पर एक खतरनाक AI मॉडल मिलता है, तो आप कैसे जानेंगे कि इसे किसने बनाया? लेखक "वॉटरमार्क्स" का सुझाव देते हैं—अदृश्य डिजिटल फिंगरप्रिंट जो मॉडल के कोड में बसे होते हैं। यदि कोई मॉडल को बदलने की कोशिश करता है, तो फिंगरप्रिंट वहां होना चाहिए, या कम से कम हम मॉडल के वंश वृक्ष (फैमिली ट्री) को ट्रैक कर पाने में सक्षम होने चाहिए ताकि देख सकें कि किसने इसे संशोधित किया। यह शोधकर्ताओं को यह ट्रैक करने में मदद करता है कि खतरनाक मॉडल कैसे फैल रहे हैं और इसके लिए कौन जिम्मेदार है।

शोध पत्र ने क्या पाया (और क्या नहीं पाया)

लेखकों ने 2025 में जारी किए गए शीर्ष 10 सबसे लोकप्रिय ओपन AI मॉडलों के तकनीकी विवरणों के साथ-साथ कई प्रसिद्ध इमेज और वीडियो जनरेटर का भी अध्ययन किया। उन्होंने एक चिंताजनक अंतर पाया।

• डेटा क्लीनिंग: अधिकांश कंपनियों ने अपने डेटा को साफ करने (ट्रेनिंग से पहले बुरी चीजों को हटाने) के बारे में थोड़ा बहुत बात की। कुछ ने एक पैराग्राफ दिया, कुछ ने एक पूरा खंड दिया, लेकिन कई ने ज्यादा कुछ नहीं कहा।
• गायब हिस्से: लगभग किसी ने भी यह नहीं बताया कि उनके मॉडलों को छेड़छाड़ के प्रति प्रतिरोधी कैसे बनाया जाए। शीर्ष मॉडलों में से किसी ने भी "अनलर्निंग" एल्गोरिदम या "टेम्पर-रेसिस्टेंट" ट्रेनिंग का उल्लेख नहीं किया। केवल एक मॉडल (gpt-oss) के पास अपने मॉडल को तोड़ने की कठिनाई का परीक्षण करने के बारे में एक समर्पित पेपर था।
• चुप्पी: सबसे बड़े मॉडलों की रिपोर्ट में "स्टेज्ड डिप्लॉयमेंट" या "प्रोवेनेंस" (मॉडल के इतिहास को ट्रैक करना) का लगभग कोई उल्लेख नहीं था।

शोध पत्र का सुझाव है कि यह चुप्पी तीन चीजों में से एक का संकेत देती है: या तो इन सुरक्षा तकनीकों का अभी तक उपयोग नहीं किया जा रहा है, या इनका उपयोग किया जा रहा है लेकिन इनके बारे में बात नहीं की जा रही है, या ये अभी तक पर्याप्त रूप से काम नहीं करती हैं। लेखक तर्क देते हैं कि हमें केवल मॉडल जारी करना बंद करना चाहिए और यह बनाने की दिशा में काम करना चाहिए कि उन्हें सुरक्षित कैसे रखा जाए।

निष्कर्ष

यह शोध पत्र एक आह्वान है। यह कहता है कि जबकि ओपन AI अद्भुत है और इसके बड़े लाभ हैं, हम वर्तमान में इसे बुरे तत्वों से सुरक्षित रखने के मामले में अंधे होकर उड़ रहे हैं। हम केवल कंपनियों के "अच्छे होने" पर भरोसा नहीं कर सकते; हमें नए गणितीय उपकरण बनाने की आवश्यकता है जो AI को खुद को तोड़ने के प्रति कठिन बनाते हैं।

लेखक आशावादी लेकिन यथार्थवादी हैं। वे यह दावा नहीं करते कि उन्होंने समस्या को हल कर लिया है। इसके बजाय, उन्होंने क्षेत्र का मानचित्र तैयार किया है, जो हमें दिखा रहा है कि हमारे कवच में छेद कहाँ हैं। उनका सुझाव है कि सुरक्षित AI का भविष्य खुलेपन पर निर्भर करता है—न केवल कोड साझा करना, बल्कि शोध, विधियों और विफलताओं को भी साझा करना। यदि हम सभी इन नए बचावों को बनाने के लिए मिलकर काम कर सकते हैं, तो हम शायद इस लाइब्रेरी को खुला और सुरक्षित रख पाएंगे। लेकिन यदि हम ऐसा नहीं करते हैं, तो इन मॉडलों के खतरनाक संस्करण हमारे रोकने से पहले ही फैल सकते हैं।