Towards AI Transparency and Accountability: A Global Framework for Exchanging Information on AI Systems

तकनीकी सारांश: एआई पारदर्शिता और जवाबदेही की ओर: एआई प्रणालियों पर सूचनाओं के आदान-प्रदान के लिए एक वैश्विक ढांचा

समस्या विवरण

एआई प्रणालियों की तीव्र तैनाती ने तकनीकी क्षमता और सुरक्षा, निष्पक्षता एवं सीमाओं के सार्वजनिक सत्यापन के बीच एक महत्वपूर्ण अंतर पैदा कर दिया है। वर्तमान नियामक परिदृश्य खंडित हैं, जहाँ विभिन्न क्षेत्राधिकार (जैसे, ईयू, यूएस, चीन, यूके) अलग-अलग गति से भिन्न नीतियां विकसित कर रहे हैं। यह विखंडन एआई उद्योग के लिए अनुपालन का बोझ बढ़ाता है और प्रतिस्पर्धी प्रणालियों के बीच तुलना करने की जनता की क्षमता में बाधा डालता है। मौजूदा प्रस्ताव, जैसे कि ईयू एआई एक्ट, जोखिम-आधारित ढांचे स्थापित करते हैं लेकिन उनमें मानकीकृत माप, स्वचालित मूल्यांकन और एक एकीकृत वैश्विक डेटा विनिमय के लिए परिचालन योग्य तंत्रों का अभाव है। इसके अलावा, अत्यधिक विनियमन के संबंध में उद्योग की चिंताएं और नवाचार को बाधित करने का मुद्दा, जवाबदेही की तत्काल आवश्यकता के साथ टकराता है, विशेष रूप से एआई विकास और नियामक प्रारूपण के बीच "गति के बेमेल" (pace mismatch) को देखते हुए।

कार्यप्रणाली

लेखक एआई प्रणालियों पर सूचनाओं के आदान-प्रदान के लिए एक ग्लोबल फेडरेटेड फ्रेमवर्क (वैश्विक संघीय ढांचा) प्रस्तावित करते हैं, जिसे परस्पर विरोधी स्थानीय नियमों को समायोजित करते हुए एक एकीकृत तकनीकी आधार स्थापित करने के लिए डिज़ाइन किया गया है। कार्यप्रणाली को कई परस्पर जुड़े घटकों के इर्द-गिर्द संरचित किया गया है:

1. ग्लोबल एआई टेक्निकल फाउंडेशन (GAITF): एक केंद्रीय निकाय जो एक विस्तार योग्य एआई सूचना डेटा मॉडल और एक फेडरेटेड आइडेंटिफायर एलोकेशन प्रणाली की देखरेख के लिए जिम्मेदार है। वित्त में ग्लोबल लीगल एंटिटी आइडेंटिफायर (GLEI) और एक्सटेंसिबल बिजनेस रिपोर्टिंग लैंग्वेज (XBRL) के समानांतर उदाहरण लेते हुए, यह फाउंडेशन एक सामान्य अंतर्निहित डेटा संरचना की अनुमति देता है जबकि क्षेत्राधिकार-विशिष्ट विस्तार की भी अनुमति देता है।
2. एआई ऑफिस और रजिस्टर: क्षेत्राधिकार-विशिष्ट एआई ऑफिस स्थानीय नीतियों, अनिवार्य मेजर कैटलॉग और असेसमेंट प्रोग्राम को परिभाषित करने के लिए GAITF के डेटा मॉडल का उपयोग करते हैं। ये एआई ऑफिस एआई रजिस्टर बनाए रखते हैं जहाँ एआई ऑपरेटर्स सिस्टम की जानकारी, पहचानकर्ता और गणना किए गए माप जमा करते हैं।
3. मानकीकृत माप और एआई कार्ड: यह ढांचा विशिष्ट उच्च-जोखिम वाले इच्छित उपयोगों (जैसे, स्वचालित भर्ती, चिकित्सा निदान) के लिए तैयार किए गए मानकीकृत मापों के कैटलॉग को पेश करता है। इन मापों के परिणामों को एआई कार्ड के रूप में परिकलित और प्रकाशित किया जाता है—जो सिस्टम के प्रदर्शन, निष्पक्षता और इनपुट प्रभाव के संरचित, मशीन-पठनीय स्नैपशॉट हैं।
4. असेसमेंट प्रोग्राम: स्केलेबिलिटी सुनिश्चित करने और उद्योग के बोझ को कम करने के लिए, यह ढांचा स्वचालित मूल्यांकन (Automated Assessments) की वकालत करता है। ये एक क्लाइंट-सर्वर आर्किटेक्चर पर कार्य करते हैं जहाँ एक एआई ऑफिस (या प्रतिनिधि) एक सर्वर को "पहले कभी न देखा गया" (never-before-seen) डेटा प्रदान करता है, और एआई सिस्टम एक क्लाइंट के रूप में कार्य करता है। यह दृष्टिकोण, DARPA SAIL-ON मॉडल से प्रेरित है, जो टेस्ट डेटासेट्स को गोपनीय और एयर-गैप्ड रखकर "गेमिंग" (धोखाधड़ी) को रोकता है।
5. फेडरेटेड एक्सचेंज: यह प्रणाली एक ही एआई सिस्टम को कई क्षेत्राधिकारों में पंजीकृत करने की अनुमति देती है, जो एक अद्वितीय सिस्टम आईडी साझा करते हुए स्थानीय आवश्यकताओं (जैसे, अनिवार्य बनाम वैकल्पिक माप) का पालन करती है।

मुख्य योगदान

• एक एकीकृत तकनीकी वास्तुकला: पेपर एक विशिष्ट वास्त architecture (जिसे चित्र 2 में विज़ुअलाइज़ किया गया है) की रूपरेखा तैयार करता है जो विशिष्ट नियामक आदेशों से मूल तकनीकी डेटा मॉडल को अलग करता है, जिससे विविध कानूनी ढांचों के बीच अंतर-संचालनीयता (interoperability) सक्षम होती है।
• मानकीकृत मेजर कैटलॉगिंग: यह मूल्यांकन मेट्रिक्स (जैसे, जनसांख्यिकीय असमानता, इनपुट प्रभाव) को परिभाषित करने, संस्करण बनाने और कैटलॉग करने के लिए एक तंत्र प्रस्तावित करता है जो किसी एआई सिस्टम के इच्छित उपयोग के लिए विशिष्ट हैं, जो सामान्य "ब्लैक-बॉक्स" मूल्यांकनों से आगे बढ़ता है।
• स्वचालित और एयर-गैप्ड मूल्यांकन: लेखक विश्वसनीय, नवीन डेटासेट्स का उपयोग करके स्वचालित परीक्षण के लिए एक पद्धति का विवरण देते हैं ताकि "इवैल्यूएशन अवेयरनेस" और डेटा लीकेज को कम किया जा सके, यह सुनिश्चित करते हुए कि गणना किए गए माप ज्ञात बेंचमार्क पर ओवरफिटिंग के बजाय वास्तविक सिस्टम मजबूती को दर्शाते हैं।
• सार्वजनिक पारदर्शिता तंत्र: फ्रेमवर्क एक एआई रजिस्टर की अवधारणा पेश करता है जो एआई कार्ड से भरा होता है, जिससे जनता, निवेशक और नियामक, पोषण लेबल या वाहन सुरक्षा रेटिंग के समान, मानकीकृत और सत्यापित मेट्रिक्स (जैसे, सटीकता बनाम जनसांख्यिकीय असमानता) के आधार पर प्रणालियों की तुलना कर सकते हैं।
• मौजूदा नीति के साथ एकीकरण: प्रस्तावित ढांचा स्पष्ट रूप से ईयू एआई एक्ट के अनुकूल और सहायक होने के लिए डिज़ाइन किया गया है, जो इसके अनुरूपता मूल्यांकन (conformity assessments), एआई डेटाबेस और नियामक सैंडबॉक्स के लिए एक तकनीकी कार्यान्वयन पथ प्रदान करता है।

परिणाम और दावे

पेपर किसी तैनात प्रणाली से कोई अनुभवजन्य प्रायोगिक परिणाम प्रस्तुत नहीं करता है बल्कि इस बात का एक वैचारिक और संरचनात्मक विश्लेषण है कि ऐसा ढांचा कैसे कार्य करेगा। "परिणाम" प्रस्तावित ढांचे के काल्पनिक परिदृश्यों (जैसे, तीन भर्ती प्रणालियों की तुलना करने वाला चित्र 1) पर तार्किक अनुप्रयोग से प्राप्त होते हैं:

• तुलनीयता: फ्रेमवर्क दर्शाता है कि कैसे मानकीकृत माप विभिन्न प्रणालियों में प्रत्यक्ष बनाम अप्रत्यक्ष भेदभाव (जैसे, जाति के प्रॉक्सी के रूप में ज़िप कोड का उपयोग करने वाला सिस्टम) की पहचान करने की अनुमति देते हैं।
• नियामक अनुकूलता: तालिका 1 दर्शाती है कि कैसे प्रस्तावित ढांचा ईयू, यूके, यूएस, कनाडा, चीन और दक्षिण कोरिया के मौजूदा नियमों के साथ संरेखित या उनका विस्तार करता है, जो यह सुझाव देता है कि यह एक एकल वैश्विक कानून की आवश्यकता के बिना खंडित दृष्टिकोणों को एकीकृत कर सकता है।
• बाजार प्रोत्साहन: लेखक तर्क देते हैं कि गणना किए गए मापों को सार्वजनिक करके, फ्रेमवर्क जिम्मेदार एआई के लिए बाजार का दबाव बनाता है, जिससे शेयरधारकों और उपभोक्ताओं को पारदर्शी कंपनियों को पुरस्कृत करने और खराब प्रदर्शन या पारदर्शिता की कमी वाली कंपनियों को दंडित करने की अनुमति मिलती है, जो संभावित रूप से भारी-हस्तक्षेप वाले विनियमन की आवश्यकता को कम करता है।

महत्व

पेपर का दावा है कि इसका महत्व नवाचार और विनियमन के बीच तनाव के लिए एक व्यावहारिक, स्केलेबल समाधान प्रदान करने में है। एक कठोर, अखंड विनियमन के बजाय एक हल्के, सूचना-विनिमय ढांचे पर ध्यान केंद्रित करके, लेखक तर्क देते हैं कि:

1. उद्योग का बोझ कम होता है: मानकीकरण और स्वचालन अनुपालन की लागत को कम करता है और विभिन्न क्षेत्राधिकारों में मूल्यांकन आर्टिफ़ैक्ट्स के पुन: उपयोग की अनुमति देता है।
2. सार्वजनिक सशक्तिकरण बढ़ता है: मानकीकृत, तुलनीय डेटा तक पहुँच जनता को सूचित निर्णय लेने में सक्षम बनाती है, जिससे वे उपभोक्ता और शेयरधारक के रूप में अपनी भूमिका का लाभ उठाकर उद्योग की जवाबदेही तय कर सकते हैं।
3. नियामक लचीलापन प्राप्त होता है: ढांचे की संघीय प्रकृति क्षेत्राधिकारों को विशिष्ट मापों (जैसे, विशिष्ट मापों पर सख्ती के विभिन्न स्तर) पर अपनी अनूठी नीतिगत स्थिति बनाए रखने की अनुमति देती है, जबकि वे एक वैश्विक तकनीकी पारिस्थितिकी तंत्र में भाग लेते हैं।
4. सहयोग सुगम होता है: यह नियामकों, उद्योग और शोधकर्ताओं के लिए उपायों और मूल्यांकनों को सह-विकसित करने के लिए एक संरचित मार्ग प्रदान करता है, जिससे विकास को बाधित किए बिना सुरक्षित और निष्पक्ष एआई की ओर एक "ग्लाइड पाथ" (glide path) विकसित होता है।

लेखक निष्कर्ष निकालते हैं कि एआई गवर्नेंस में "गति के बेमेल" (pace mismatch) को संबोधित करने के लिए यह ढांचा आवश्यक है, जो निरंतर, पारदर्शी मूल्यांकन के लिए एक तंत्र प्रदान करता है जो तकनीक के साथ विकसित होता है।