कल्पना कीजिए कि आप एक घर बना रहे हैं। दशकों से, हमारे पास ब्लूप्रिंट और उपकरणों का एक आदर्श सेट रहा है जिससे हम यह माप सकते हैं कि दीवारें कितनी मजबूत हैं, ताले कितने सुरक्षित हैं, और किसी विशिष्ट ताले को तोड़ने की संभावना कितनी है। ये उपकरण लकड़ी और ईंटों से बने मानक घरों के लिए बहुत अच्छे से काम करते हैं। लेकिन अब, कल्पना कीजिए कि हम अचानक जीवित, सोचने वाले बादलों से घर बना रहे हैं जो आपसे बात कर सकते हैं, आपके ईमेल लिख सकते हैं, और यहाँ तक कि आपकी कार भी चला सकते हैं। पुराने उपकरण यहाँ काम नहीं करेंगे। आप एक हथौड़े से बादल की "मजबूती" को नहीं माप सकते, और एक चोर को ताला तोड़ने की ज़रूरत नहीं है; उसे बस बादल को अंदर आने के लिए एक गुप्त पासवर्ड फुसफुसाने की ज़रूरत है। यह आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया है। यह एक प्रकार की नई तकनीक है जो केवल निर्देशों की एक निश्चित सूची का पालन करने के बजाय डेटा से सीखती है। क्योंकि ये AI सिस्टम इतने नए और इतने अलग हैं, इसलिए नियमित कंप्यूटर सॉफ़्टवेयर के लिए उपयोग किए जाने वाले पुराने सुरक्षा चेकलिस्ट में सबसे महत्वपूर्ण हिस्से गायब हैं। हमें जोखिमों को समझने का एक नया तरीका चाहिए, अन्यथा हम खुद को ऐसे घर में पा सकते हैं जो सुरक्षित दिखता तो है लेकिन वास्तव में अदृश्य दरारों से भरा हुआ है।

शुभम पैकरो द्वारा लिखा गया यह शोध पत्र, इन "सोचने वाले बादल" वाले घरों के लिए विशेष रूप से डिज़ाइन किए गए एक नए, कस्टम-मेड टूलकिट की तरह है। लेखक का तर्क है कि आज हम जो सुरक्षा स्कोर उपयोग करते हैं, वे ऐसे हैं जैसे बाथरूम स्केल से बादल का वजन मापने की कोशिश करना: वे बस फिट नहीं बैठते। पेपर सुझाव देता है कि पुराने उपकरणों पर एक नया नंबर थोपने के बजाय, हमें AI जोखिम को पांच विशिष्ट "लेंस" या आयामों के माध्यम से देखना चाहिए जिन्हें वर्तमान उपकरण पूरी तरह से अनदेखा कर देते हैं। ये लेंस हैं: अटैक सरफेस (AI के कितने दरवाजे और खिड़कियां खुले हैं), मॉडल एक्सप्लोइटेबिलिटी (AI को कितनी आसानी से धोखा दिया या हेरफेर किया जा सकता है), डेटा इंटीग्रिटी (जिस जानकारी से AI ने सीखा है वह वास्तव में कितनी विश्वसनीय है), रेगुलेटरी एक्सपोज़र (AI कंपनी को कानून के साथ कितनी मुसीबत में डाल सकता है), और कंट्रोल मैच्योरिटी (कंपनी AI की निगरानी करने में कितनी अच्छी है)।

यह पेपर यह दावा नहीं करता कि इसके पास हर जोखिम के लिए एक सटीक डॉलर राशि देने वाला कोई जादुई कैलकुलेटर है। वास्तव में, यह स्पष्ट रूप से कहता है कि हमारे पास सटीक वित्तीय भविष्यवाणियां करने के लिए AI आपदाओं का पर्याप्त इतिहास अभी नहीं है। इसके बजाय, यह एक "कॉन्सेप्चुअल फ्रेमवर्क" (वैचारिक ढांचा) प्रदान करता है, जो एक फैंसी तरीका है यह कहने का कि यह एक मजबूत मचान या एक साझा शब्दावली प्रदान करता है। यह एक तरीका है जिससे बॉस, सुरक्षा गार्ड और सरकारी नियामक सभी एक ही भाषा बोल सकते हैं जब वे AI खतरों के बारे में बात करते हैं। लेखक का सुझाव है कि इन पांच आयामों का उपयोग करके, संगठन अनुमान लगाना बंद कर सकते हैं और यह समझने के लिए स्पष्ट, संरचित बातचीत शुरू कर सकते हैं कि उनका AI कहाँ कमजोर है और उन्हें अपनी रक्षा को मजबूत करने के लिए कहाँ काम करने की आवश्यकता है। यह एक तैयार उत्पाद नहीं है, बल्कि यह सुनिश्चित करने के लिए आवश्यक पहला कदम है कि हमारा AI भविष्य अपने ही वजन के नीचे ढह न जाए।

पुराने सुरक्षा स्कोर के साथ समस्या

कल्पना कीजिए कि आप एक संग्रहालय में सुरक्षा गार्ड हैं। वर्षों से, आप पेंटिंग्स में दरारें देखने के लिए एक विशेष स्कैनर का उपयोग करते रहे हैं। यदि किसी पेंटिंग में दरार है, तो स्कैनर बीप करता है और इसे 1 से 10 तक का स्कोर देता है। यह पेंटिंग्स के लिए पूरी तरह से काम करता है। लेकिन फिर, संग्रहालय एक ऐसे रोबोट को प्रदर्शित करने का निर्णय लेता है जो अपने चित्र स्वयं बना सकता है। रोबोट में दरारें नहीं होती हैं; इसमें "हलुसिनेशन" (जहाँ वह ऐसी चीजें देखता है जो वहां नहीं हैं) होते हैं, इसे किसी आगंतुक द्वारा एक अजीब वाक्यांश (जिसे "प्रॉम्प्ट इंजेक्शन" कहा जाता है) फुसफुसाकर ठगा जा सकता है, और यह समय के साथ सही ढंग से पेंट करना भूल सकता है (जिसे "मॉडल ड्रिफ्ट" कहा जाता है)।

यदि आप रोबोट पर अपने पुराने पेंटिंग स्कैनर का उपयोग करने का प्रयास करते हैं, तो यह कुछ भी नहीं बोलेगा। यह कहेगा कि रोबोट पूरी तरह से सुरक्षित है क्योंकि इसे कोड में कोई दरार नहीं मिली। लेकिन रोबोट वास्तव में खतरे में है! पेपर बताता है कि हमारे वर्तमान सुरक्षा उपकरण, जैसे कि CVSS (जो एक सॉफ़्टवेयर बग की गंभीरता को स्कोर करता है) और FAIR (जो यह अनुमान लगाने की कोशिश करता है कि आपदा कितनी महंगी होगी), स्थिर सॉफ़्टवेयर की पुरानी दुनिया के लिए बनाए गए थे। वे AI को तोड़ने वाले अनूठे तरीकों के प्रति अंधे हैं।

उदाहरण के लिए, पेपर नोट करता है कि CVSS इस बारे में बताने में बहुत अच्छा है कि दरवाजा तोड़ना कितना आसान है, लेकिन इसके पास यह मापने का कोई तरीका नहीं है कि किसी को मजाकिया चुटकुला सुनाकर रोबोट को दरवाजा खोलने के लिए कितनी आसानी से बहकाया जा सकता है। इसी तरह, FAIR वित्तीय जोखिम की गणना करने में उत्कृष्ट है, लेकिन इसे काम करने के लिए ऐतिहासिक डेटा (जैसे, "पिछले साल यह कितनी बार हुआ?") की आवश्यकता होती है। चूंकि AI बहुत नया है, हमारे पास इन विशिष्ट AI आपदाओं के बारे में पर्याप्त इतिहास नहीं है जिसे मशीन में डाला जा सके। पेपर का तर्क है कि AI के लिए इन पुराने उपकरणों का उपयोग करना एक रूलर (पैमाने) से आग के तापमान को मापने की कोशिश करने जैसा है; उपकरण का आकार ही गलत है।

पांच नए लेंस

इसे ठीक करने के लिए, पेपर AI जोखिम को देखने के पांच नए तरीके पेश करता है। इसे अपने AI सिस्टम पर रोशनी डालने के लिए पांच अलग-अलग टॉर्च के रूप में सोचें।

1. अटैक सरफेस: खुले दरवाजे
यह इस बारे में है कि एक बुरा व्यक्ति कितनी तरह से अंदर आ सकता है। एक सामान्य कंप्यूटर के लिए, यह कुछ खुले पोर्ट हो सकते हैं। AI के लिए, यह बहुत बड़ा है। हर बार जब आप चैटबॉट से बात करते हैं, कोई फ़ाइल अपलोड करते हैं, या AI को अपने ईमेल से जुड़ने देते हैं, तो आप एक नया दरवाजा खोल रहे होते हैं। पेपर इस बात पर प्रकाश डालता है कि यदि आप एक AI एजेंट (एक रोबोट जो चीजें कर सकता है) को अपने बैंक खाते या अपने ईमेल से बात करने देते हैं, तो आपके पास एक विशाल "अटैक सरफेस" है। यह अपने सामने का दरवाजा, पिछला दरवाजा, गैरेज और बेसमेंट की खिड़कियां खुली छोड़ने जैसा है। AI बाहरी दुनिया के साथ जितने अधिक तरीके से बातचीत कर सकता है, वह उतना ही अधिक उजागर होता है।

2. मॉडल एक्सप्लोिटेबिलिटी: चालाक दिमाग
यह इस बात को मापता है कि AI को धोखा देना कितना आसान है। कुछ AI "ब्लैक बॉक्स" (हमें नहीं पता कि वे कैसे सोचते हैं) होते हैं, जबकि अन्य खुले होते हैं। पेपर सुझाव देता है कि यदि किसी AI के निर्देश सार्वजनिक हैं या यदि कंपनी ज्ञात ट्रिक्स को ठीक करने में धीमी है, तो AI अत्यधिक "एक्सप्लोिटेबल" है। यह एक जादूगर की तरह है जिसने अपने रहस्य भुला दिए हैं; यदि कोई चाल जानता है, तो वे जादूगर से कुछ भी करवा सकते हैं। पेपर नोट करता है कि प्रॉम्प्ट इंजेक्शन (टेक्स्ट के माध्यम से AI को धोखा देना) इन मॉडल्स के काम करने का एक मौलिक हिस्सा है, जिसका अर्थ है कि इसे टूटे हुए ताले की तरह पूरी तरह से "ठीक" नहीं किया जा सकता है; इसे लगातार प्रबंधित करना होगा।

3. डेटा इंटीग्रिटी: जहरीला कुआं
AI डेटा से सीखता है, ठीक वैसे ही जैसे एक छात्र पाठ्यपुस्तकों से सीखता है। यदि पाठ्यपुस्तकें झूठ या जहर से भरी हैं, तो छात्र झूठ सीखेगा। यह आयाम तीन चीजों को देखता है:

• पॉइजनिंग (Poisoning): क्या किसी ने AI के प्रशिक्षण में बुरा डेटा डाल दिया है?
• ड्रिफ्ट (Drift): क्या AI ने सही ढंग से काम करना छोड़ दिया क्योंकि वास्तविक दुनिया बदल गई है? (कल्पना कीजिए कि 2020 के डेटा पर प्रशिक्षित डॉक्टर AI 2026 के वायरस का निदान करने की कोशिश कर रहा है; वह गलत हो सकता है)।
• हलुसिनेशन (Hallucinations): क्या AI आत्मविश्वास के साथ तथ्य गढ़ता है?
  पेपर इस बात पर जोर देता है कि एक टूटे हुए कंप्यूटर प्रोग्राम के विपरीत जो बस काम करना बंद कर देता है, एक "ड्रिफ्टिंग" AI काम करना जारी रख सकता है लेकिन बिना किसी को पता चले महीनों तक आपको सूक्ष्म रूप से गलत उत्तर दे सकता है।

4. रेगुलेटरी एक्सपोज़र: कानून की सतर्क नज़र
यह नियम तोड़ने की लागत के बारे में है। सरकारें AI के लिए नए कानून बना रही हैं, जैसे कि EU AI Act और SEC के नियम। यदि आपका AI कानून तोड़ता है, तो आपको भारी जुर्माना (पेपर के अनुसार 35 मिलियन यूरो या आपकी वैश्विक आय का 7% तक) झेलना पड़ सकता है या आपको अपनी गलतियों को जनता के सामने प्रकट करना पड़ सकता है। पेपर बताता है कि पुराने जोखिम उपकरण इन कानूनी खर्चों को नहीं गिनते हैं। यह बिना बीमा के कार चलाने जैसा है; कार ठीक चल सकती है, लेकिन यदि दुर्घटना होती है, तो वित्तीय झटका बहुत बड़ा होता है।

5. कंट्रोल मैच्योरिटी: सुरक्षा गार्ड का कौशल
यह अंतिम हिस्सा है: कंपनी जोखिमों को प्रबंधित करने में कितनी अच्छी है? भले ही एक AI के कई खुले दरवाजे हों (उच्च अटैक सरफेस) और उसे बहकाना आसान हो (उच्च एक्सप्लोिटेबिलिटी), जोखिम कम होता है यदि कंपनी के पास 24/7 निगरानी करने वाला एक अत्यंत कुशल सुरक्षा गार्ड हो। इसमें AI का परीक्षण करना (रेड-टीमिंग), इसके आउटपुट की निगरानी करना और महत्वपूर्ण निर्णयों के लिए मनुष्यों द्वारा जांच करना शामिल है। पेपर का तर्क है कि एक "परिपक्व" नियंत्रण प्रणाली वाली कंपनी उस कंपनी की तुलना में बहुत बेहतर स्थिति में है जो केवल उम्मीद पर टिकी है।

यह वास्तविक दुनिया में कैसे काम करता है

पेपर यह दिखाने के लिए तीन उदाहरणों का उपयोग करता है कि यह नया ढांचा जोखिम के बारे में हमारी सोच को कैसे बदलता है।

• बैंक का चैटबॉट: यह AI ग्राहकों से बात करता है और खाता जानकारी देख सकता है। इसका High अटैक सरफेस है (हर कोई इससे बात कर सकता है) और High एक्सप्लोिटेबिलिटी है (यह एक ब्लैक बॉक्स है)। इसका Medium रेगुलेटरी रिस्क है। पेपर सुझाव देता है कि यह एक Critical जोखिम है क्योंकि इस पर हमला करना बहुत आसान है और यह बहुत सार्वजनिक है।
• अस्पताल का ट्राइएज AI: यह AI डॉक्टरों को यह तय करने में मदद करता है कि किसे पहले मदद की जरूरत है। इसका Medium अटैक सरफेस है (केवल डॉक्टर इसका उपयोग करते हैं) लेकिन High डेटा इंटीग्रिटी रिस्क है (यदि यह हलुसिनेशन करता है, तो मरीज को चोट लग सकती है)। इसका Critical रेगुलेटरी रिस्क भी है क्योंकि स्वास्थ्य संबंधी कानून हैं। पेपर कहता है कि यह भी Critical है, लेकिन अलग कारणों से। समाधान केवल "दरवाजा लॉक करना" नहीं है; बल्कि यह है कि "सुनिश्चित करें कि AI झूठ नहीं बोल रहा है।"
• सॉफ्टवेयर कंपनी का कोड असिस्टेंट: यह AI प्रोग्रामर को कोड लिखने में मदद करता है। इसका Low अटैक सरफेस है (केवल कर्मचारी इसका उपयोग करते हैं) और Low रेगुलेटरी रिस्क है। भले ही यह गलतियाँ करे, यह कोई बड़ी बात नहीं है। पेपर कहता है कि यह जोखिम Managed है और इसे अधिक ध्यान देने की आवश्यकता नहीं है।

मुख्य बात यह है कि दो सिस्टम दोनों "क्रिटिकल" जोखिम हो सकते हैं, लेकिन बिल्कुल अलग कारणों से। पुराने उपकरण उन्हें केवल एक संख्या देंगे, जिससे यह जानना असंभव हो जाएगा कि कैसे सुधार किया जाए। यह नया ढांचा आपको बताता है कि आपको अपनी ऊर्जा कहाँ केंद्रित करनी है।

यह पेपर क्या करता है और क्या नहीं करता

यह समझना महत्वपूर्ण है कि यह पेपर क्या दावा नहीं कर रहा है। लेखक बहुत स्पष्ट है कि यह कोई जादुिकल कैलकुलेटर नहीं है जो आपको अभी जोखिम के लिए सटीक डॉलर राशि दे सके। हमारे पास अभी पर्याप्त डेटा नहीं है कि हम कह सकें, "यदि यह विफल होता है तो इस AI की लागत $50,000 होगी।" पेपर स्वीकार करता है कि ये AI आपदाएं कितनी बार होती हैं, इसके आंकड़े गायब हैं। इसके बजाय, पेपर सोचने के लिए एक संरचना प्रदान करता है। यह बातचीत को व्यवस्थित करने का एक तरीका है ताकि जब भविष्य में हमारे पास डेटा आए, तो हमें पता हो कि उसका उपयोग कैसे करना है।

पेपर इस विचार को भी खारिज करता है कि हम केवल पुराने उपकरणों में थोड़ा बदलाव कर सकते हैं। इसका तर्क है कि आप CVSS या FAIR में कुछ नई सेटिंग्स जोड़कर उन्हें AI के लिए काम करने लायक नहीं बना सकते। समस्या गहरी है; जोखिम के बारे में सोचने के पूरे तरीके को इन नए आयामों को शामिल करने के लिए बदलना होगा।

यह क्यों महत्वपूर्ण है

पेपर निष्कर्ष निकालता है कि सबसे बड़ी समस्या यह नहीं है कि हमें खतरों के बारे में पर्याप्त जानकारी नहीं है; बल्कि यह है कि हमारे पास उनके बारे में बात करने के लिए एक साझा भाषा नहीं है। नियामक, बीमा कंपनियां और सुरक्षा टीमें सभी अलग-अलग भाषाएं बोल रही हैं। यह ढांचा एक सामान्य शब्दावली प्रस्तावित करता है। यह बोर्ड ऑफ डायरेक्टर्स को जोखिम को समझने का एक तरीका देता है बिना कंप्यूटर विशेषज्ञ बने, और यह सुरक्षा टीमों को एक स्पष्ट चेकलिस्ट देता है कि क्या बनाना है।

अंततः, पेपर सुझाव देता है कि हम एक "स्कैफोल्डिंग" (मचान) चरण में हैं। हम उस संरचना का निर्माण कर रहे हैं जो भविष्य में एक पूर्णतः मात्रात्मक, सटीक AI जोखिम प्रबंधन प्रणाली का समर्थन करेगी। जब तक हमारे पास संख्याओं को भरने के लिए डेटा नहीं होता, तब तक यह पांच-आयामी ढांचा हमारे पास मौजूद सबसे अच्छा उपकरण है ताकि यह सुनिश्चित किया जा सके कि हम अपना भविष्य रेत की नींव पर नहीं बना रहे हैं। यह हमारे AI दोस्तों को अनजाने में घर को जलाने से रोकने के लिए एक चंचल, व्यावहारिक और आवश्यक कदम है।