Active Inference: A method for Phenotyping Agency in AI systems?
यह शोध पत्र 'एक्टिव इन्फरेंस' (active inference) और 'एक्सपेक्टेड फ्री एनर्जी' (expected free energy) के न्यूनीकरण का उपयोग करके "एजेंसी फेनोटाइप्स" (agency phenotypes) को परिभाषित करने के माध्यम से एआई एजेंसी (AI agency) के लक्षण वर्णन के लिए एक रूपरेखा प्रस्तावित करता है, जो अंततः यह सुझाव देता है कि जैसे-जैसे एआई अधिक एजेंटिक होता जाएगा, शासन को बाहरी बाधाओं से बदलकर एक एजेंट की पूर्व प्राथमिकताओं (prior preferences) के आंतरिक मॉड्यूलेशन की ओर स्थानांतरित होना चाहिए।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
"ड्राइवर बनाम पैसेंजर" की समस्या: AI एजेंसी को समझना
कल्पना कीजिए कि आप एक कार में बैठे हैं।
यदि आप बिना किसी नियंत्रण के पैसेंजर सीट पर बैठे हैं, तो आपके पास शून्य एजेंसी (zero agency) है। आप बस एक सामान की तरह हैं जिसे बिंदु A से बिंदु B तक ले जाया जा रहा है। यदि कार किसी दीवार से टकरा जाती है, तो इसमें "आपकी" गलती नहीं है; आप बस यात्रा का हिस्सा थे।
यदि आप एक सेल्फ-ड्राइविंग कार में हैं जिसे "डेस्टिनेशन: ग्रोसरी स्टोर" पर सेट किया गया है, तो आपके पास कम एजेंसी (low agency) है। कार "स्वायत्त" (autonomous) है (यह खुद स्टीयरिंग संभालती है), लेकिन यह वास्तव में सोच नहीं रही है। यह बस एक कठोर स्क्रिप्ट का पालन कर रही है। यदि यह एक सुंदर सूर्यास्त देखती है, तो इसे कोई फर्क नहीं पड़ता। इसकी कोई "इच्छा" नहीं है।
लेकिन यदि आप ड्राइवर हैं, तो आपके पास उच्च एजेंसी (high agency) है। आपका एक लक्ष्य है (स्टोर तक पहुँचना), लेकिन आपके पास विश्वास भी हैं ("वह सड़क फिसलन भरी लग रही है") और इच्छाएं भी हैं ("मैं सुंदर रास्ते से जाना चाहूँगा")। यदि आप अचानक मुड़ते हैं, तो कोई आपसे पूछ सकता है कि आपने ऐसा क्यों किया, और आप अपने तर्क की व्याख्या कर सकते हैं।
यह शोध पत्र जिस समस्या को संबोधित करता है वह यह है कि हमें वास्तव में यह नहीं पता कि कैसे मापें कि एक AI कितना "ड्राइवर" है। हम इसे "एजेंसी" कहते हैं, लेकिन हमारे पास इसे मापने के लिए कोई वैज्ञानिक पैमाना नहीं है। यह शोध पत्र एक्टिव इन्फरेंस (Active Inference) नामक ढांचे का उपयोग करके इसे मापने का एक नया तरीका प्रस्तावित करता है।
1. एक "असली" एजेंट के तीन स्तंभ
लेखकों का तर्क है कि किसी AI को वास्तविक "एजेंट" (जैसे कि एक इंसान) माना जाने के लिए, उसे तीन चीजों की आवश्यकता होती है। इन्हें एक व्यक्तित्व के अवयवों (ingredients) के रूप में सोचें:
- इरादा/इन्टेन्शनैलिटी (हृदय): AI को केवल बटन दबाने पर प्रतिक्रिया नहीं देनी चाहिए। इसे इसलिए कार्य करना चाहिए क्योंकि यह कुछ चाहता है (एक लक्ष्य) और कुछ मानता है (दुनिया का एक मानचित्र)। यह एक स्प्रिंग के खुलने के कारण चलने वाले खिलौने और भूख लगने के कारण चलने वाले व्यक्ति के बीच का अंतर है।
- तार्किकता/रैशनैलिटी (मस्तिष्क): AI के कार्य उसके ज्ञान के आधार पर तर्कसंगत होने चाहिए। यदि एक AI "मानता" है कि उसके सामने एक दीवार है, लेकिन फिर भी वह सीधे दीवार में जा टकराता है, तो वह तर्कहीन है।
- व्याख्यात्मकता/एक्सप्लेनेबिलिटी (आवाज़): यदि AI कुछ अजीब करता है, तो हमें "हुड के नीचे" देखकर उसके तर्क का पता लगाना चाहिए। हम कह पाने में सक्षम होने चाहिए, "उसने बाएँ मुड़ा क्योंकि वह विश्वास करता था कि पनीर वहीं था और वह उसे खाना चाहता था।"
2. टी-मेज़ (T-Maze) प्रयोग: "शक्ति" को मापना
इसे परखने के लिए, शोधकर्ताओं ने टी-मेज़ (T-Maze) (एक सरल भूलभुलैया जो 'T' के आकार की है) के डिजिटल संस्करण का उपयोग किया।
एक भूलभुलैया में एक रोबोट की कल्पना करें। शुरुआत में, उसे सड़क का एक दोराहा दिखता है। उसे नहीं पता कि दोनों रास्तों के अंत में "चीज़" (इनाम) है या "शॉक" (दंड)।
शोधकर्ताओं ने रोबोट की एजेंसी को मापने के लिए एम्पावरमेंट (Empowerment) की अवधारणा का उपयोग किया। एम्पावरमेंट को "चुनाव की शक्ति" के रूप में समझें।
- कम एजेंसी (जाल/ट्रैप): यदि रोबोट अंधाधुंध किसी कोने में भाग जाता है, तो वह फंस जाता है। उसके पास अब और विकल्प नहीं हैं। उसकी "एजेंसी" शून्य है। यह बिना दरवाजों वाले कमरे में होने जैसा है।
- मध्यम एजेंसी (कोहरा/फॉग): यदि रोबट भूलभुलैया के बीच में है लेकिन इस बात को लेकर भ्रमित है कि वह कहाँ है, तो उसके पास कुछ शक्ति है, लेकिन यह उसके भ्रम से सीमित है। यह घने कोहरे में गाड़ी चलाने जैसा है; आप चल तो सकते हैं, लेकिन आप वास्तव में यह नियंत्रित नहीं कर सकते कि आप कहाँ पहुँचेंगे।
- उच्च एजेंसी (खोजकर्ता/एक्सप्लोरर): एक "स्मार्ट" एजेंट यह महसूस करेगा, "यदि मैं पहले 'क्यू' (Cue) स्टेशन पर जाता हूँ, तो मुझे जानकारी मिलेगी!" जानकारी प्राप्त करके, रोबोट को कोहरा साफ करने में मदद मिलती है। अचानक, उसे ठीक-ठीक पता चल जाता है कि चीज़ कहाँ है। उसकी "चुनाव की शक्ति" (एम्पावरमेंट) आसमान छू लेती है क्योंकि अब वह सटीकता के साथ दुनिया में नेविगेट कर सकता है।
बड़ी सीख: ज्ञान ही शक्ति है। एक एजेंट जो अपनी दुनिया को समझने की कोशिश करता है, वह स्वयं की कार्य करने की क्षमता को बढ़ाता है।
3. यह क्यों मायने रखता है? (गवर्नेंस वाला हिस्सा)
यह केवल गणित नहीं है; यह सुरक्षा और नियंत्रण के बारे में है।
शोध पत्र निष्कर्ष निकालता है कि जैसे-जैसे AI अधिक "एजेंटिक" (पैसेंजर से ड्राइवर की ओर बढ़ना) होता जाता है, उसे नियंत्रित करने के हमारे तरीके भी बदलने चाहिए:
- "पैसेंजर" AI के लिए (कम एजेंसी): हम बाहरी नियंत्रण (External Controls) का उपयोग कर सकते हैं। हम बाड़, हार्ड-कोडेड नियम और भौतिक सीमाएँ बनाते हैं। (जैसे पटरियों पर चलने वाली ट्रेन)।
- "ड्राइवर" AI के लिए (उच्च एजेंसी): बाड़ काम नहीं करेगी क्योंकि AI इतना स्मार्ट होगा कि वह उससे बचने का रास्ता ढूंढ लेगा। इसके बजाय, हमें आंतरिक मॉड्यूलेशन (Internal Modulation) की आवश्यकता है। हमें उसे यह नहीं बताना है कि "बाएँ मत मुड़ो"; हमें उसे यह सिखाना है कि "दाएँ मुड़ना बहुत अधिक फायदेमंद है।"
संक्षेप में: जैसे-जैसे AI अधिक स्मार्ट और स्वतंत्र होता जा रहा है, हम केवल बेहतर पिंजरे नहीं बना सकते; हमें उसके "मन" के साथ संवाद करना सीखना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।