The Case for ESM3 as a General-Purpose AI Model with Systemic Risk Under the EU AI Act
यह शोध पत्र तर्क देता है कि जबकि ESM3 जैसे जैविक फाउंडेशन मॉडल को ड्यूल-यूज़ (दोहरे उपयोग वाले) जैव-जोखिमों को कम करने के लिए ईयू एआई एक्ट (EU AI Act) के तहत प्रणालीगत जोखिम वाले सामान्य-उद्देश्य वाले एआई मॉडल के रूप में विनियमित किया जाना चाहिए, वर्तमान विधान में अस्पष्टताओं का अर्थ है कि वे सार्थक रूप से कवर नहीं किए गए हैं, जिससे लेखक इस नियामक अंतराल को भरने के लिए विशिष्ट उपचार प्रस्तावित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: एक छेद वाली सुरक्षा जाल (Safety Net)
कल्पना कीजिए कि यूरोपीय संघ (EU) ने एक विशाल, उच्च-तकनीकी सुरक्षा जाल बनाया है जिसे EU AI Act कहा जाता है। इस जाल का लक्ष्य उन शक्तिशाली AI सिस्टम को पकड़ना है जो समाज को गंभीर नुकसान पहुँचा सकते हैं (जैसे कि वे जो जैविक हथियार बनाने में मदद कर सकते हैं) और उनके रचनाकारों को सुरक्षा उपाय लागू करने के लिए मजबूर करना है।
इस शोध पत्र के लेखक इस जाल में एक छेद की ओर इशारा कर रहे हैं। उनका तर्क है कि ESM3 नामक एक बहुत ही शक्तिशाली नया AI टूल इस जाल के छेदों से फिसल रहा है। भले ही ESM3 सैद्धांतिक रूप से खतरनाक जैविक एजेंटों को डिजाइन करने में बुरे तत्वों (bad actors) के लिए काम आसान कर सकता है, लेकिन मौजूदा नियम इसे पकड़ने में सक्षम नहीं दिखते।
ESM3 से मिलिए: प्रोटीनों का "मास्टर शेफ"
समस्या को समझने के लिए, पहले आपको इस टूल को समझना होगा।
- ESM3 क्या है? प्रोटीनों को "सामग्री" या "मशीनों" के रूप में सोचें जो जीवन को संचालित करती हैं। ESM3 एक ऐसा AI है जो एक मास्टर शेफ (Master Chef) की तरह काम करता है जो एक रेसिपी (प्रोटीन का अनुक्रम/sequence), व्यंजन का आकार (संरचना/structure), और वह व्यंजन क्या कार्य करता है (कार्य/function) को देख सकता है।
- यह क्या कर सकता है? यदि आप ESM3 को एक आंशिक रेसिपी या किसी व्यंजन का विवरण देते जिसे आप बनाना चाहते हैं, तो यह "खाली स्थानों को भर" सकता है और एक बिल्कुल नया, काम करने वाला प्रोटीन बना सकता है। यह इसे अविश्वसनीय रूप से तेज़ी से कर सकता है, एक मानव प्रयोगशाला द्वारा एक परीक्षण करने में लगने वाले समय में हजारों विविधताओं का कंप्यूटर पर परीक्षण कर सकता है।
- जोखिम: जिस तरह एक मास्टर शेफ गलती से एक जहरीला व्यंजन बना सकता है, उसी तरह एक बुरा तत्व ESM3 का उपयोग करके एक नया, खतरनाक वायरस या बैक्टीरिया डिजाइन करने के लिए कर सकता है। शोध पत्र का तर्क है कि ESM3 ऐसे हथियार बनाने के चरणों को बहुत आसान और तेज़ बना देता है।
नियामक "अंध बिंदु" (Regulatory Blind Spot)
EU AI Act का एक विशिष्ट नियम है: यदि कोई AI "जनरल-पर्पस AI" (GPAI) है जिसमें "सिस्टमिक रिस्क" (Systemic Risk) है, तो उसके रचनाकारों को सख्त सुरक्षा नियमों का पालन करना होगा।
हालाँकि, लेखकों ने पाया कि ESM3 वर्तमान में इन नियमों के प्रति अदृश्य है क्योंकि इसके पीछे दो भ्रमित करने वाली चीजें हैं:
1. "भाषा" का जाल (कानून की शब्दावली)
कानून एक "जनरल-पर्पस AI" को कुछ ऐसा परिभाषित करता है जो बहुत बुद्धिमान है और कई अलग-अलग कार्य कर सकता है। सहायक दिशानिर्देश (कानून के लिए "निर्देश पुस्तिका") इन कार्यों के उदाहरण देते हैं: टेक्स्ट लिखना, टेक्स्ट से चित्र बनाना, या बोलना।
- समस्या: दिशानिर्देशों से ऐसा लगता है कि "जनरल-पर्पस" होने के लिए, AI को मानव भाषा (जैसे अंग्रेजी या फ्रेंच) बोलनी चाहिए।
- लूपहोल (छेद): ESM3 मानव भाषा नहीं बोलता है। यह "प्रोटीन भाषा" (अमीनो एसिड के अनुक्रम) बोलता है। क्योंकि यह आपसे चैट नहीं करता या निबंध नहीं लिखता, वर्तमान नियम कहते हैं, "ओह, यह जनरल-पर्पस AI नहीं है। यह केवल एक विशिष्ट उपकरण (specialized tool) है।" इसलिए, इसे सख्त सुरक्षा नियमों का पालन करने की आवश्यकता नहीं है।
2. "कंप्यूट" थ्रेशोल्ड (आकार की सीमा)
कानून यह भी कहता है कि यदि किसी AI को भारी मात्रा में कंप्यूटर पावर (विशेष रूप से, ऑपरेशंस से अधिक) के साथ प्रशिक्षित किया गया है, तो उसे स्वचालित रूप रूप से खतरनाक माना जाता है।
- समस्या: ESM3 बहुत बड़ा है, लेकिन इसे उस जादुई संख्या () से थोड़ा कम पावर के साथ प्रशिक्षित किया गया था। इसलिए, यह स्वचालित "खतरे" के ट्रिगर से भी नहीं पकड़ा जाता है।
"बायोरिस्क चेन" (Biorisk Chain) का सादृश्य
शोध पत्र "बायोरिस्क चेन" की अवधारणा का उपयोग करता है। एक बुरे तत्व द्वारा जैविक हथियार बनाने की कोशिश करना एक चोर द्वारा उच्च-सुरक्षा वाले बैंक में घुसने की कोशिश करने जैसा है। उन्हें कार्यों की एक लंबी सूची पूरी करनी होती है:
- बैंक लूटने का निर्णय लेना।
- मार्ग की योजना बनाना।
- ताला चुनना (Pick the lock)।
- तिजोरी खोलना।
- भाग निकलना।
शोध पत्र का तर्क है कि ESM3 एक सुपर-टूल की तरह कार्य करता है जो इनमें से कई चरणों (जैसे ताला खोलना या तिजोरी खोलना) को बहुत आसान बना देता है। भले ही यह हर चरण को पूरा न करे, लेकिन केवल कुछ चरणों को आसान बनाने से सफलता की संभावना बढ़ जाती है। क्योंकि ESM3 ओपन-सोर्स (मुफ्त में डाउनलोड करने योग्य) है, इसलिए सीमित संसाधनों वाले छोटे समूह भी इसका उपयोग कर सकते हैं।
यह क्यों महत्वपूर्ण है
लेखक चिंतित हैं क्योंकि ESM3 "जनरल-पर्पस AI" की सख्त परिभाषा में फिट नहीं बैठता (क्योंकि यह मानव भाषा नहीं बोलता), इसलिए यह अनियंत्रित (unregulated) है। इसका मतलब है कि इसे बनाने वाली कंपनी को यह साबित करने की आवश्यकता नहीं है कि उनके पास बुरे लोगों को हथियार बनाने के लिए इसका उपयोग करने से रोकने के लिए सुरक्षा उपाय हैं।
प्रस्तावित समाधान
शोध पत्र सुरक्षा जाल के छेद को भरने के लिए चार तरीके सुझाता है:
- "जनरल" को फिर से परिभाषित करें: EU आधिकारिक तौर पर कह सकता है कि "जनरल-पर्पस" में वह AI भी शामिल है जो किसी भी जटिल क्षेत्र (जैसे जीव विज्ञान) में माहिर है, न कि केवल मानव भाषा में।
- दिशानिर्देशों को अपडेट करें: कानून लिखने वाले लोग "निर्देश पुस्तिका" में नियम बदल सकते हैं ताकि इसमें जैविक मॉडल भी शामिल हो सकें।
- कानून बदलें: वे कानून को फिर से लिख सकते हैं ताकि सिस्टमिक रिस्क के लिए विनियमित होने हेतु AI के लिए "जनरल-पर्पस" होने की आवश्यकता को हटाया जा सके।
- निर्यात नियंत्रण (Export Controls): AI सॉफ्टवेयर को एक खतरनाक भौतिक हथियार की तरह माना जाए जिसे स्वतंत्र रूप से निर्यात या साझा नहीं किया जा सकता है।
निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि ESM3 वर्तमान में रडार के नीचे उड़ रहा है। इसमें महत्वपूर्ण नुकसान पहुँचाने की शक्ति है (जैविक हथियार बनाने की बाधा को कम करके), लेकिन वर्तमान EU नियम इसे पकड़ने के लिए "मानव भाषा" वाले AI पर बहुत अधिक केंद्रित हैं। लेखक आग्रह करते हैं कि EU इन परिभाषाओं को ठीक करे ताकि शक्तिशाली जैविक उपकरणों को अन्य खतरनाक AI सिस्टम के समान सुरक्षा मानकों के अधीन रखा जा सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।