When Do Data-Driven Systems Exhibit the Capability to Infer?
यूरोपीय एआई एक्ट (European AI Act) में क्रेडिट स्कोरिंग सिस्टम के संबंध में नियामक अस्पष्टताओं से प्रेरित होकर, यह शोध पत्र पूरे डेटा प्रोसेसिंग वर्कफ़्लो में अनुमान लगाने की क्षमता को ग्रेड और विश्लेषित करने के लिए सांख्यिकीय शिक्षण सिद्धांत (statistical learning theory) पर आधारित एक रूपरेखा प्रस्तावित करता है, जो यह प्रदर्शित करता है कि नियामक वर्गीकरण केवल व्यक्तिगत मॉडलों के बजाय समग्र प्रणाली डिजाइन और मानवीय भागीदारी पर निर्भर करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक अदालत में न्यायाधीश हैं। यूरोपीय संघ ने एक नया कानून पारित किया है जिसे AI एक्ट (AI Act) कहा जाता है, जो कहता है, "यदि आप एक आर्टिफिशियल इंटेलिजेंस हैं, तो आपको सख्त नियमों का पालन करना होगा।" लेकिन इस कानून में एक पेचीदा खामी (loophole) है: यह स्पष्ट रूप से परिभाषित नहीं करता है कि "AI" वास्तव में क्या है।
कानून कहता है कि AI एक ऐसा सिस्टम है जो "इन्फर" (infer) कर सकता है। सरल शब्दों में, इसका अर्थ है कि सिस्टम डेटा को देख सकता है और यह पता लगा सकता है कि अपने आप निर्णय कैसे लिया जाए, बजाय इसके कि वह केवल किसी इंसान द्वारा लिखे गए निर्देशों की एक कठोर सूची का पालन करे।
समस्या यह है कि यहाँ एक धुंधला क्षेत्र (gray area) है। क्रेडिट स्कोरिंग (ऋण देने का निर्णय लेना) के लिए उपयोग किए जाने वाले कई सिस्टम सांख्यिकीय गणित (statistical math) का उपयोग करते हैं। क्या वे "स्मार्ट" होने के लिए पर्याप्त हैं कि उन्हें AI कहा जाए, या वे केवल "मूर्ख" कैलकुलेटर हैं? इस पेपर के लेखक, मैक्सिमिलियन और टेबिया ने इस धुंधले क्षेत्र से बाहर निकलने में हमारी मदद करने के लिए एक सीढ़ी बनाने का निर्णय लिया।
"इन्फरेंस लैडर" (The Inference Ladder)
लेखकों ने यह मापने के लिए कि एक सिस्टम कितना "सोचता" है, 5-चरणीय सीढ़ी बनाई है। आप सीढ़ी पर जितना ऊपर चढ़ेंगे, इस बात की संभावना उतनी ही अधिक होगी कि उस सिस्टम को नए कानून के तहत AI माना जाएगा।
स्तर 0: रोबोट बटलर (निश्चित मैपिंग - Fixed Mapping)
- रूपक (Metaphor): कल्पना कीजिए कि एक रोबोट है जो केवल वही करता है जो आप उसे बताते हैं। "यदि लाइट लाल है, तो रुक जाओ। यदि हरी है, तो जाओ।"
- वास्तविकता: नियम इंसानों द्वारा पत्थर की लकीर की तरह लिखे गए हैं। डेटा नियमों को नहीं बदलता; यह केवल उन्हें सक्रिय (trigger) करता है।
- AI की स्थिति: AI नहीं है। बस एक फैंसी कैलकुलेटर है।
स्तर 1: ट्यूनिंग नॉब (पैरामीट्रिक एडेप्टेशन - Parametric Adaptation)
- रूपक: एक रेडियो की कल्पना करें। स्टेशन (संरचना) स्थिर है, लेकिन आप संगीत कितना तेज़ है इसके आधार पर वॉल्यूम नॉब (पैरामीटर्स) को ऊपर या नीचे घुमा सकते हैं।
- वास्तविकता: सिस्टम एक निश्चित फॉर्मूला (जैसे एक मानक गणितीय समीकरण) का उपयोग करता है। यह डेटा का उपयोग उस फॉर्मूले के अंदर के नंबरों को एडजस्ट करने के लिए करता है, लेकिन फॉर्मूला खुद कभी नहीं बदलता।
- AI की स्थिति: यह "धुंधला क्षेत्र" है। कानून के दिशा-निर्देश सुझाव देते हैं कि यह AI नहीं हो सकता क्योंकि यह केवल "बुनियादी डेटा प्रोसेसिंग" है।
स्तर 2: मेनू सेलेक्टर (स्ट्रक्चरल सिलेक्शन - Structural Selection)
- रूपक: कल्पना कीजिए कि एक शेफ के पास 10 पहले से लिखे गए व्यंजनों (recipes) का एक मेनू है। शेफ आपके पास मौजूद सामग्रियों (डेटा) को देखता है और सूची में से एक रेसिपी चुनता है। शेफ नई रेसिपी का आविष्कार नहीं करता; वह बस सूची में से सबसे अच्छी रेसिपी चुनता है।
- वास्तविकता: सिस्टम के पास संभावित संरचनाओं की एक निर्धारित सूची होती है। वह किसका उपयोग करना है यह तय करने के लिए डेटा का उपयोग करता है (जैसे, "आइए फीचर A और B का उपयोग करें, लेकिन C को छोड़ दें")।
- AI की स्थिति: यह एक मध्य मार्ग है। यह सिर्फ ट्यूनिंग नॉब से अधिक है, लेकिन यह नया तर्क (logic) नहीं बना रहा है।
स्तर 3: आर्किटेक्ट (स्ट्रक्चरल कंस्ट्रक्शन - Structural Construction)
- रूपक: कल्पना कीजिए कि एक बिल्डर को ईंटों का ढेर और एक लक्ष्य (घर बनाना) दिया गया है। बिल्डर ईंटों को देखता है और मौके पर ही ब्लूप्रिंट का आविष्कार करता है। वह तय करता है कि दीवारें कहाँ होंगी और छत का आकार कैसा होगा, और यह पूरी तरह से इस पर निर्भर करता है कि उसके पास कौन सी सामग्री उपलब्ध है।
- वास्तविकता: सिस्टम केवल एक रेसिपी नहीं चुनता; वह शून्य से तर्क (logic) का निर्माण करता है। वह एक निर्णय वृक्ष (decision tree) या एक जटिल पैटर्न बनाता है जिसे किसी इंसान ने स्पष्ट रूप से नहीं लिखा था।
- AI की स्थिति: यह निश्चित रूप से AI है। सिस्टम अपना स्वयं का तर्क "व्युत्पन्न" (derive) कर रहा है।
स्तर 4: ड्रीमर (रिप्रजेंटेशनल कंस्ट्रक्शन - Representational Construction)
- रूपक: कल्पना कीजिए कि एक कलाकार न केवल एक चित्र बनाता है बल्कि पुराने रंग काम न आने पर पेंटिंग में उपयोग करने के लिए एक नया रंग भी आविष्कार करता है।
- वास्तविकता: सिस्टम केवल तर्क का निर्माण नहीं करता; वह समस्या को हल करने के लिए डेटा को देखने का एक बिल्कुल नया तरीका (नए फीचर्स) भी बनाता है। यह डीप लर्निंग और आधुनिक AI करते हैं।
- AI की स्थिति: निश्चित रूप से AI।
क्रेडिट स्कोरकार्ड टेस्ट
लेखकों ने इस सीढ़ी का परीक्षण क्रेडिट स्कोरिंग पर किया, जो AI एक्ट के तहत एक उच्च-जोखिम वाला क्षेत्र है। उन्होंने देखा कि बैंक आमतौर पर अपने स्कोर कैसे बनाते हैं।
"पुराना तरीका" (The Old School Way): बैंक अक्सर चरों (variables) की एक सूची लेते हैं (आय, ऋण आदि), उन्हें श्रेणियों (binning) में बांटते हैं, और उन्हें एक लॉजिस्टिक रिग्रेशन समीकरण में डाल देते हैं।
- यदि बैंक समीकरण में नंबरों को केवल एडजस्ट करता है? तो वह स्तर 1 है।
- यदि बैंक यह तय करने के लिए डेटा का उपयोग करता है कि किन चरों को रखना है और किन्हें हटा देना है? तो वह स्तर 2 है।
- फैसला: लेखक तर्क देते हैं कि भले ही ये "साधारण" सिस्टम हों, इनमें सेटअप के दौरान मानवीय विशेषज्ञों द्वारा निर्णय लेने की प्रक्रिया शामिल होती है (जैसे कि श्रेणियों को कैसे बांटा जाए)। क्योंकि सिस्टम के ढांचे को डिजाइन करने में इंसान बहुत अधिक शामिल हैं, इसलिए इस सिस्टम में "स्वायत्तता" (autonomy) की कमी हो सकती है, जिससे इसे एक सच्चा AI नहीं माना जा सकता।
"स्मार्ट" तरीका (The Smart Way): यदि कोई सिस्टम मानवीय हस्तक्षेप के बिना डेटा से स्वचालित रूप से निर्णय वृक्ष या जटिल संरचना बनाता है, तो वह स्तर 3 पर पहुँच जाता है।
- फैसला: यह स्पष्ट रूप से AI है और इसे सख्त नियमों का पालन करना होगा।
मुख्य निष्कर्ष (The Big Takeaway)
पेपर यह निष्कर्ष निकालता है कि हम यह तय करने के लिए कि कोई चीज़ AI है या नहीं, केवल अंतिम गणितीय समीकरण को नहीं देख सकते। हमें पूरी प्रक्रिया को देखना होगा:
- क्या इंसान ने नियम डिजाइन किए?
- क्या इंसान ने चरों (variables) को चुना?
- या क्या डेटा ने स्वयं तर्क (logic) का निर्माण किया?
यदि एक मानव विशेषज्ञ सिस्टम के ढांचे को डिजाइन करने में भारी काम (heavy lifting) कर रहा है, तो सिस्टम इतना "मूर्ख" हो सकता है कि वह सख्त AI एक्ट नियमों से बच जाए, भले ही वह जटिल गणित का उपयोग करता हो। लेकिन यदि सिस्टम डेटा से अपना स्वयं का तर्क बनाता है, तो वह नियमों के अधीन होने के लिए पर्याप्त "स्मार्ट" है।
संक्षेप में: कानून उन सिस्टमों से चिंतित है जो अपने नियम खुद "सीखते" हैं। यह पेपर हमें यह मापने के लिए एक पैमाना देता है कि कितना "सीखना" हो रहा है, जिससे बैंकों और नियामकों को यह जानने में मदद मिलती है कि किसे नए नियमों का पालन करने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।