Why the Third Axis Is Freedom

द ग्रेट एआई गेसिंग गेम (The Great AI Guessing Game)

कल्पना कीजिए कि आप एक रोबोट को चित्र बनाना सिखा रहे हैं। आर्टिफिशियल इंटेलिजेंस की दुनिया में, यह आमतौर पर "जेनरेटिव ट्रेनिंग" (generative training) नामक एक प्रक्रिया के माध्यम से किया जाता है। रोबोट एक छवि बनाने की कोशिश करता है, और यदि वह उस उदाहरण से अलग दिखती है जो आपने उसे दिखाया था, तो उसे एक "पेनल्टी" (दंड) या कम स्कोर मिलता है। रोबोट इस पेनल्टी को कम करना चाहता है, इसलिए वह उदाहरण की यथासंभव सटीक नकल करने के लिए सीखता है। लेकिन यहाँ एक पेंच है: यदि रोबोट केवल उस एक चीज़ को उगलने के लिए सीख जाता है जो उसे सबसे अधिक बार दिखाई देती है, तो वह उस विशिष्ट चीज़ की नकल करने में बहुत अच्छा हो सकता है, लेकिन किसी भी नई या अलग चीज़ को संभालने में बहुत खराब हो सकता है। वह एक रचनात्मक कलाकार बनने के बजाय एक जड़ रट्टू तोता बन जाता है।

लंबे समय तक, वैज्ञानिकों ने सोचा कि इन मॉडल्स को अधिक लचीला कैसे बनाया जाए। उन्होंने "एक्सप्लोरेटिव मॉडलिंग" (Explorative Modeling) नामक एक तरकीब खोजी। केवल एक अनुमान लगाने के बजाय, आप रोबलेट से एक साथ कई अनुमान लगाने के लिए कहते हैं—मान लीजिए दस अलग-अलग चित्र। फिर, आप केवल उस एक को दंडित करते हैं जो लक्ष्य के सबसे करीब है, बाकी नौ को अनदेखा कर देते हैं। यह रोबोट को अपने दिमाग में विचारों की एक विस्तृत विविधता बनाए रखने के लिए मजबूर करता है, इस उम्मीद में कि उनमें से कोई एक सही होगा। इस विचार को हाल ही में एआई प्रशिक्षण का एक नया "तीसरा अक्ष" (third axis) कहा गया था, जो यह सुझाव देता है कि कई अलग-अलग "मोड्स" (modes) या उत्तरों के संस्करणों को रखने की क्षमता ही एआई को स्मार्ट बनाने की कुंजी है।

लेकिन क्या कई विचार रखना बुद्धिमानी के समान है? यह शोध पत्र एक गहरा प्रश्न पूछता है: जादू अनुमानों की संख्या में है, या उस स्वतंत्रता में है जिसे रोबोट चुनने के लिए स्वतंत्र है? लेखक का तर्क है कि केवल यह गिनना कि मॉडल कितने अनुमान लगाता है, पूरी कहानी नहीं है। इसके बजाय, असली रहस्य "स्वतंत्रता" (freedom) है—जिसका अर्थ इस संदर्भ में यह है कि मॉडल बिना नियमों को तोड़े कितने अलग-अलग तरीकों से सही होने की अनुमति रखता है। यह एक ऐसे रोबोट और एक ऐसे रोबोट के बीच का अंतर है जिसे दस विकल्पों की छोटी सूची में से चुनने के लिए मजबूर किया जाता है, और एक ऐसे रोबोट के बीच जिसे संभावनाओं के विशाल पुस्तकालय में से चुनने की अनुमति दी जाती है, भले ही वह वर्तमान में केवल कुछ का ही उपयोग करता हो। यह शोध पत्र पता लगाता है कि क्या यह "स्वतंत्रता" वास्तव में एआई को बेहतर ढंग से सीखने में मदद करती है, न कि केवल अनुमानों की कच्ची संख्या।

तीसरा अक्ष स्वतंत्रता है, केवल एक गिनती नहीं

लेखक, माइकल टिमोथी बेनेट (Michael Timothy Bennett), इस "तीसरे अक्ष" के प्रति एक नया दृष्टिकोण अपनाते हैं। उनका तर्क है कि हालांकि "जेनरेटिव एक्सप्रेसिविटी" (generative expressivity - कई मोड्स रखने की क्षमता) का पिछला विचार दिलचस्प है, लेकिन यह वास्तव में एक भटकाव (red herring) है। इस कहानी का असली नायक स्वतंत्रता (freedom) है।

एक मॉडल के व्यवहार को खेल के नियमों के एक सेट की तरह समझें। एक "कमजोर" नियम वह है जो आपको बहुत अधिक प्रतिबंधित नहीं करता है। उदाहरण के लिए, एक नियम जो कहता है "आप कोई भी रंग की शर्ट पहन सकते हैं" कमजोर है क्योंकि यह लाखों संभावनाओं की अनुमति देता है। एक "मजबूत" नियम जो कहता है "आपको लाल शर्ट पहननी ही होगी" मजबूत है क्योंकि यह आपके पास केवल एक विकल्प छोड़ता है। बेनेट का तर्क है कि सर्वश्रेष्ठ एआई मॉडल वे हैं जो अपने नियमों को यथासंभव "कमजोर" रखते हैं जबकि वे सही भी हों। यह "कमजोरी" ही वह है जिसे वे स्वतंत्रता कहते हैं। यह उन संगत पूर्णताओं (compatible completions) का आयतन है जिन्हें मॉडल अभी भी कल्पना कर सकता है। यदि कोई मॉडल बहुत कठोर (बहुत मजबूत) है, तो वह बदलती दुनिया के साथ विफल हो सकता है। यदि वह स्वतंत्र (कमजोर) है, तो वह नई स्थितियों के अनुकूल हो सकता है क्योंकि उसने खुद को एक एकल संकीर्ण पथ में लॉक नहीं किया है।

यह शोध पत्र इस विचार को चुनौती देता है कि "तीसरा अक्ष" केवल मॉडल द्वारा उत्पन्न किए जा सकने वाले आउटपुट की संख्या (उसका "मोड काउंट") के बारे में है। बेनेट दिखाते हैं कि एक मॉडल सैद्धांतिक रूप से बहुत सारे अनुमत आउटपुट रख सकता है, फिर भी सामान्यीकरण (generalizing) करने में बहुत खराब हो सकता है यदि वह केवल उनमें से एक का ही उपयोग करता है। इसके विपरीत, एक छोटा सेट अनुमत आउटपुट वाला मॉडल अविश्वसनीय रूप से शक्तिशाली हो सकता है यदि वह अपना ध्यान उन पर समान रूप से केंद्रित करता है। यह शोध पत्र गणितीय रूप से सिद्ध करता है कि स्वतंत्रता मॉडल के फंक्शन (वह वास्तव में क्या करता है) का एक गुण है, न कि उसके फॉर्म (उसके पैरामीटर्स या लेयर्स की संख्या) का। आप मॉडल का आकार या वह जो डेटा देखता है उसे बदल सकते हैं, लेकिन यदि उसके व्यवहार की "स्वतंत्रता" समान रहती है, तो उसकी सामान्यीकरण करने की क्षमता भी समान रहती है।

"बेस्ट-ऑफ-के" (Best-of-K) का जादू

तो, हमें यह स्वतंत्रता कैसे मिलती है? शोध पत्र एक्सप्लोरेटिव मॉडलिंग (XM) नामक एक पद्धति पर विचार करता है, जहाँ एक मॉडल $K$ उम्मीदवार बनाता है और सबसे अच्छे को चुनता है। लेखक एक गणितीय सूत्र निकालते हैं जो दिखाता है कि यह प्रक्रिया ठीक कैसे काम करती है।

कल्पive करें कि आप एक अंधेरे कमरे में एक विशिष्ट चाबी खोज रहे हैं।

• यदि आप केवल एक बार देखते हैं ($K=1$), तो आप चाबी को मिस कर सकते हैं भले ही वह वहीं हो।
• यदि आप दस बार देखते हैं ($K=10$), तो चाबी खोजने की आपकी संभावना बढ़ जाती है।

शोध पत्र दिखाता है कि यह "दस बार देखने" की प्रक्रिया मॉडल की स्वतंत्रता पर एक आवर्धक लेंस (magnifying glass) की तरह काम करती है। यह शून्य से नई स्वतंत्रता पैदा नहीं करती है; इसके बजाय, यह उन मॉडलों को पुरस्कृत करती है जिनका "परमिशन प्रोफाइल" (permission profile) व्यापक है। यदि एक मॉडल कई अलग-अलग आउटपुट की अनुमति देता है (उच्च स्वतंत्रता), तो "बेस्ट-ऑफ-के" प्रक्रिया एक अच्छा मिलान खोजने में बहुत अधिक सक्षम होती है। यदि मॉडल कठोर है और केवल एक आउटपुट की अनुमति देता है, तो दस बार देखने से ज्यादा मदद नहीं मिलती क्योंकि सभी दस अनुमान संभवतः एक ही उबाऊ चीज़ होंगे।

लेखक सिद्ध करते हैं कि जैसे-जैसे आप $K$ (अनुमानों की संख्या) बढ़ाते हैं, प्रशिक्षण प्रक्रिया स्वाभाविक रूप से मॉडल को "कमजोर" (अधिक स्वतंत्र) होने की ओर धकेलती है। यह केवल एक चीज़ की सटीक नकल करने की कोशिश करना बंद कर देता है और संभावनाओं की एक विस्तृत श्रृंखला को कवर करना शुरू कर देता है। यह विशेष रूप से तब सच होता है जब लक्ष्य (वे चीजें जिन्हें मॉडल सीखने की कोशिश कर रहा है) सभी एक जैसे नहीं होते। यदि कुछ लक्ष्य दुर्लभ हैं और कुछ सामान्य, तो एक छोटा $K$ मॉडल को केवल सामान्य वाले पर ध्यान केंद्रित करने के लिए मजबूर करेगा। लेकिन जैसे-जैसे $K$ बढ़ता है, मॉडल को दुर्लभ वाले पर भी ध्यान देने के लिए मजबूर किया जाता है, जिससे अंततः वह सभी वैध विकल्पों में अपनी "अनुमति" फैला देता है।

प्रयोग: सिद्धांत की परीक्षा लेना

यह शोध पत्र केवल गणित के क्षेत्र में नहीं रहता है; यह यह देखने के लिए कि क्या यह न्यूरल नेटवर्क की वास्तविक दुनिया में टिकता है, दो प्रमुख प्रयोग चलाता है।

प्रयोग 1: क्या अधिक अनुमान लगाना मॉडल को अधिक स्वतंत्र बनाता है?
शोधकर्ताओं ने अलग-अलग $K$ मानों (1 से 32 तक) के साथ एआई मॉडल्स को प्रशिक्षित किया। उन्होंने प्रशिक्षित मॉडल्स की "स्वतंत्रता" को मापकर यह गणना की कि मॉडल वास्तव में कितने अलग-अलग वैध आउटपुट उत्पन्न करने की अनुमति देते थे।

• परिणाम: जब उन्होंने उच्च $K$ का उपयोग किया, तो मॉडल काफी अधिक स्वतंत्र हो गए। उदाहरण के लिए, यूनिफॉर्म लक्ष्यों के तहत, $K$ को 1 से 8 तक बढ़ाने से "मीन लॉग फ्रीडम" (mean log freedom) लगभग 8.3 बढ़ गया। मॉडल्स ने केवल बेहतर अनुमान ही नहीं लगाए; उन्होंने वास्तव में अधिक वैध संभावनाओं को शामिल करने के लिए अपना "परमिशन प्रोफाइल" भी विस्तारित किया। इसने पुष्टि की कि प्रशिक्षण पद्धति सफलतापूर्वक "अनुमानों" के बजट को कार्यात्मक स्वतंत्रता में परिवर्तित करती है।

प्रयोग 2: क्या अधिक "स्वतंत्र" मॉडल चुनना उसे बेहतर बनाता है?
यहाँ, शोधकर्ताओं ने कई मॉडल्स को प्रशिक्षित किया और फिर एक नई स्थिति (जहाँ खेल के नियम थोड़े बदल गए थे) में उपयोग करने के लिए सबसे अच्छे मॉडल को चुनना पड़ा। उन्होंने चुनने के दो तरीकों की तुलना की:

1. चाइल्ड-वैलिडेशन (Child-Validation): उस मॉडल को चुनना जो मूल प्रशिक्षण डेटा (चाइल्ड टास्क) पर सबसे अच्छा प्रदर्शन करता है।
2. फ्रीडम सिलेक्शन (Freedom Selection): उस मॉडल को चुनना जिसका "स्वतंत्रता" स्कोर उच्चतम था, भले ही वह मूल डेटा पर बिल्कुल सर्वश्रेष्ठ न हो।

• परिणाम: "फ्रीडम सिलेक्शन" पद्धति ने 30 में से 29 बार जीत हासिल की। स्वतंत्रता के लिए चुने गए मॉडल्स ने नए, संतुलित डेटा पर बहुत बेहतर प्रदर्शन किया (हिट रेट को लगभग 0.317 से बढ़ाकर 0.389 कर दिया)। यह सुझाव देता है कि स्वतंत्रता के लिए चयन करके, आप एक ऐसे मॉडल को चुन रहे हैं जो अधिक मजबूत और परिवर्तन के अनुकूल है, भले ही वह उस विशिष्ट डेटा पर थोड़ा कम पूर्ण दिखे जिस पर उसे प्रशिक्षित किया गया था।

बड़ी तस्वीर: साधन बनाम साध्य (Means vs. Ends)

शोध पत्र साधन और लक्ष्य के बीच एक स्पष्ट अंतर के साथ समाप्त होता है।

• एक्सप्लोरेशन (K अनुमान) एक साधन (means) है। यह तंत्र है, बजट है, वह तरीका है जिससे हम मॉडल को चारों ओर देखने के लिए मजबूर करते हैं।
• स्वतंत्रता (Freedom) एक साध्य (end) है। यह मॉडल का वास्तविक गुण है जो इसे सामान्यीकरण करने के लिए अच्छा बनाता है।

लेखक का तर्क है कि "जेनरेटिव एक्सप्रेसिविटी" (यह विचार कि कई मोड्स होना लक्ष्य है) केवल स्वतंत्रता का एक प्रॉक्सी (proxy) है। यह संभावनाओं को गिनने का एक तरीका है, लेकिन यह इस सूक्ष्मता को छोड़ देता है कि उन संभावनाओं का उपयोग कैसे किया जाता है। एक मॉडल का मोड काउंट उच्च हो सकता है लेकिन फिर भी वह कठोर हो सकता है यदि वह उनका सही ढंग से उपयोग नहीं करता है। वास्तविक सामान्यीकरण स्वतंत्रता से आता है—मॉडल की क्षमता कि वह कई संगत भविष्य के प्रति खुला रहे।

अंत में, शोध पत्र सुझाव देता है कि एआई प्रशिक्षण का "तीसरा अक्ष" हमेशा स्वतंत्रता रहा है। नई विधियाँ जैसे एक्सप्लोरेटिव मॉडलिंग केवल मॉडल्स को कम बाधित, कम कठोर और भविष्य में आने वाली किसी भी चीज़ के लिए अधिक तैयार बनाने का एक चतुर तरीका हैं। अधिक अनुमानों के साथ प्रशिक्षण देकर, हम केवल एआई को बेहतर अनुमान लगाना नहीं सिखा रहे हैं; हम इसे अधिक स्वतंत्र होना सिखा रहे हैं।