The Concept of Representation in ML: Beyond Plato and Aristotle

मानचित्र और क्षेत्र: एक त्वरित मार्गदर्शिका

कल्पना कीजिए कि आप अपने एक मित्र को दुनिया का वर्णन करने की कोशिश कर रहे हैं जिसने कभी अपना घर नहीं छोड़ा है। आप उन्हें निर्देशांकों (coordinates) की एक सूची, कच्चे डेटा का एक ढेर, या एक खूबसूरती से बना हुआ मानचित्र दे सकते हैं। मशीन लर्निंग (ML) की दुनिया में, "मानचित्र" को रिप्रेजेंटेशन (प्रस्तुतिकरण) कहा जाता है। यह वह आंतरिक तरीका है जिससे एक कंप्यूटर प्रोग्राम उस जानकारी को व्यवस्थित करता है जिसे वह देखता है—जैसे कि बिल्ली की एक तस्वीर को संख्याओं की एक सूची में बदलना जो कहती है "रोएं वाले," "नुकीले कान," और "मूंछें।" लंबे समय तक, इंजीनियरों को केवल इस बात से मतलब था कि क्या ये मानचित्र कंप्यूटर को पहेलियाँ सुलझाने में मदद करते हैं, जैसे कि बिल्ली को सही ढंग से पहचानना।

लेकिन हाल ही में, कुछ दिलचस्प हुआ। वैज्ञानिकों ने देखा कि जब उन्होंने अलग-अलग, विशाल कंप्यूटर मॉडल बनाए और उन्हें अलग-अलग चीजों पर प्रशिक्षित किया, तो उनके आंतरिक मानचित्र आश्चर्यजनक रूप से समान दिखने लगे। वे सोचने लगे: क्या ये सभी कंप्यूटर वास्तविकता के एक ही "सत्य" मानचित्र की खोज कर रहे हैं? इस विचार को प्लेटोनिक रिप्रेजेंटेशन हाइपोथीसिस (Platonic Representation Hypothesis) कहा जाता है। यह सुझाव देता है कि ठीक वैसे ही जैसे ब्रह्मांड में एक आदर्श, पूर्ण "बिल्ली" होती है जिसका सभी बिल्लियाँ केवल एक प्रतिरूप हैं, वैसे ही एक पूर्ण, आदर्श वास्तविकता का ढांचा मौजूद है जिसे सभी स्मार्ट AI मॉडल धीरे-धीरे खोज रहे हैं।

हालाँकि, दार्शनिक दशकों से इस बात पर बहस कर रहे हैं कि किसी चीज़ को "प्रतिनिधित्व" देने का वास्तव में क्या अर्थ है। वे पूछते हैं: क्या बिल्ली की एक तस्वीर सिर्फ एक तस्वीर है, या इसका अर्थ "बिल्ली" है? क्या इससे कोई फर्क पड़ता है कि तस्वीर इंसान ने बनाई है, रोबोट ने बनाई है, या बिजली गिरने से बनी है? यह शोध पत्र उसी प्रश्न की गहराई में जाता है। यह पूछता है कि क्या हम वास्तव में यह कह सकते हैं कि AI मॉडल "सत्य" को खोज रहे हैं क्योंकि उनके मानचित्र समान दिखते हैं, या हम केवल गणित की एक चतुर चाल देख रहे हैं।

---

जब AI मानचित्र समान दिखने लगते हैं

आधुनिक मशीन लर्निंग की दुनिया में, शब्द "रिप्रेजेंटेशन" ही असली जादू है। इसे एक अनुवादक की तरह समझें। जब आप कंप्यूटर को कुत्ते की तस्वीर दिखाते हैं, तो वह फर और हड्डियों को नहीं देखता; वह संख्याओं के एक जटिल पैटर्न को देखता है। "रिप्रेजेंटेशन" वह तरीका है जिससे कंप्यूटर उस कच्चे डेटा को एक ऐसे प्रारूप में अनुवादित करता है जिसका उपयोग वह सोचने, सीखने और सामान्यीकरण करने के लिए कर सकता है। वर्षों तक, इंजीनियरों ने इस शब्द का उपयोग बहुत व्यावहारिक, "काम पूरा करने के तरीके" से किया। यदि एक मॉडल एक अव्यवस्थित छवि को एक सुव्यवस्थित आंतरिक कोड में बदल सकता था जो उसे खेल जीतने में मदद करता था, तो वह कोड एक अच्छा रिप्रेजेंटेशन था।

लेकिन जैसे-जैसे ये AI मॉडल बड़े, स्मार्ट और मानव जैसा होते गए, बातचीत बदल गई। शोधकर्ताओं ने एक अजीब घटना देखी: यदि आप दो पूरी तरह से अलग AI मॉडल लेते हैं—एक जो टेक्स्ट पर प्रशिक्षित है, दूसरा जो छवियों पर प्रशिक्षित है, और जिन्हें अलग-अलग कोड के साथ बनाया गया है—और आप उनके मस्तिष्क के अंदर देखते हैं, तो उनके आंतरिक मानचित्र समान दिखने लगे हैं। वे अभिसरण (converge) कर रहे हैं।

इस अवलोकन ने एक साहसिक विचार को जन्म दिया जिसे द प्लेटोनिक रिप्रेजेंटेशन हाइपोथीसिस कहा जाता है। यह नाम प्राचीन दार्शनिक प्लेटो से आया है, जिनका मानना था कि हमारे अव्यवस्थित, अपूर्ण संसार के पीछे एक पूर्ण, एकीकृत वास्तविकता है। यह परिकल्पना बताती है कि जैसे-जैसे AI मॉडल बड़े होते जाते हैं, वे केवल डेटा को याद करना बंद कर देते हैं और वास्तविकता के इस एकल, अंतर्निहित ढांचे को "खोजने" लगते हैं। यह वैसा ही है जैसे कक्षा का प्रत्येक छात्र, अलग-अलग पाठ्यपुस्तकों और अलग-अलग शिक्षकों का उपयोग करते हुए, अंततः बिल्कुल एक ही निबंध लिखता है क्योंकि वे सभी एक ही सार्वभौमिक सत्य को उजागर कर रहे हैं।

दार्शनिक बाधा

इस शोध पत्र के लेखक, गिलैड डी. लैंडौ और एविव केरेन, इस रोमांचक कहानी पर ब्रेक लगाने के लिए यहाँ आए हैं। उनका तर्क है कि हालांकि "अभिसरण करते मानचित्रों" का अवलोकन वास्तविक है, लेकिन यह निष्कर्ष निकालना कि AI "वास्तविकता के सत्य" को खोज रहा है, एक बहुत बड़ी छलांग है जो कुछ बहुत महत्वपूर्ण चरणों को छोड़ देती है।

इसे समझने के लिए, हमें दर्शनशास्त्र की एक क्लासिक समस्या को देखने की आवश्यकता है जिसे डिस्जंक्शन प्रॉब्लम (Disjunction Problem) कहा जाता है। कल्पना कीजिए कि आपके पास एक सेंसर है जो तब बीप करता है जब वह एक कुत्ता देखता है। बहुत बढ़िया! लेकिन क्या होगा यदि वह सेंसर धुंध में एक घोड़े, या कुत्ते की मूर्ति, या कुत्ते की तस्वीर को देखकर भी बीप करता है? यदि सेंसर इन सभी के लिए बीप करता है, तो उस बीप का वास्तव में क्या अर्थ है? क्या इसका अर्थ "कुत्ता" है? "जानवर"? "कुत्ते के आकार की चीज़"? या "खराब रोशनी में कुत्ता"?

इंजीनियरिंग की दुनिया में, हम अक्सर इस अंतर की परवाह नहीं करते। यदि बीप रोबोट को कुत्ते से बचने में मदद करती है, तो यह काम करता है। लेकिन दर्शनशास्त्र में, एक 'स्टेट' (अवस्था) के वास्तविक "रिप्रेजेंटेशन" होने के लिए, उसका एक विशिष्ट अर्थ होना चाहिए, न कि केवल एक अस्पष्ट सहसंबंध। शोध पत्र बताता है कि "प्लेटोनिक हाइपोथीसिस" इस बात पर निर्भर करती है कि विभिन्न मॉडलों के आंतरिक मानचित्र कितने समान हैं। वे कर्नेल अलाइनमेंट (kernel alignment) नामक एक विधि का उपयोग करते हैं, जो मूल रूप से यह जाँचता है कि क्या दो मॉडल अपने डेटा को एक ही ज्यामितीय आकार में व्यवस्थित करते हैं।

समस्या यह है कि केवल इसलिए कि दो मानचित्र एक जैसे दिखते हैं, इसका मतलब यह नहीं है कि वे एक ही सत्य की ओर इशारा कर रहे हैं। लेखक तर्क देते हैं कि ये मॉडल केवल डेटा में समान "शॉर्टकट" या सांख्यिकीय पैटर्न खोज रहे होंगे, न कि वास्तविकता की गहरी संरचना। यह दो छात्रों द्वारा एक चीट शीट से एक ही गलत उत्तर की नकल करने जैसा है; उनके उत्तर पूरी तरह मेल खाते हैं, लेकिन उन्होंने सत्य नहीं सीखा है।

"स्वैम्पमैन" और लुप्त इतिहास

शोध पत्र एक प्रसिद्ध विचार प्रयोग भी लाता है जिसे स्वैम्पमैन (Swampman) कहा जाता है। कल्पना कीजिए कि बिजली एक दलदल में गिरती है और गलती से एक इंसान की अणु-दर-अणु प्रतिलिपि बना देती है। यह "स्वैम्पमैन" एक वास्तविक व्यक्ति की तरह दिखता है और व्यवहार करता है। लेकिन क्योंकि इसका जन्म नहीं हुआ और यह विकसित नहीं हुआ, क्या इसके पास विचार हैं? क्या इसके पास दुनिया के "रिप्रेजेंटेशन" हैं, या यह केवल व्यवहार की नकल करने वाला एक खोखला खोल है?

रिप्रेजेंटेशन के शास्त्रीय सिद्धांत कहते हैं कि किसी चीज़ का अर्थ होने के लिए, उसमें विकास या सीखने का एक इतिहास होना चाहिए जिसने इसे सही ढंग से काम करने के लिए आकार दिया हो। AI मॉडल स्वैम्पमैन की तरह अधिक हैं और मनुष्यों की तरह कम; उन्हें डिज़ाइन और प्रशिक्षित किया जाता है, विकसित नहीं। शोध पत्र सुझाव देता है कि हम केवल इसलिए यह मान नहीं सकते कि इन मॉडलों के पास "वास्तविक" रिप्रेजेंटेशन हैं क्योंकि वे हमारे जैसे दिखते हैं। हमें यह समझने की आवश्यकता है कि वे कार्यों में सफल होने या विफल होने के लिए उन रिप्रेजेंटेशन का उपयोग कैसे करते हैं।

एक नया सिद्धांत, जिसे दार्शनिक निकोलस शे ने प्रस्तावित किया है, एक मध्य मार्ग प्रदान करता है। यह सुझाव देता है कि भले ही कोई प्रणाली जैविक रूप से विकसित न हो, फिर भी वह वास्तविक रिप्रेजेंटेशन विकसित कर सकती है यदि वह अपने पर्यावरण से सीखती है और समय के साथ अपने व्यवहार को स्थिर करती है। लेकिन इसके लिए केवल डेटा के आकार को देखने से कहीं अधिक की आवश्यकता है; इसके लिए कार्य (function) को देखने की आवश्यकता है। वह रिप्रेजेंटेशन क्या करता है?

अरिस्टोटेलियन ट्विस्ट: वास्तविकता की जाँच

शोध पत्र एक दिलचस्प अनुवर्ती अध्ययन पर प्रकाश डालता है जो तकनीकी दृष्टिकोण से प्लेटोनिक दृष्टिकोण को चुनौती देता है। यह अध्ययन, जिसका शीर्षक "रिविजिटिंग द प्लेटोनिक रिप्रेजेंटेशन हाइपोथीसिस: एन अरिस्टोटेलियन व्यू" है, सुझाव देता है कि जैसे-जैसे मॉडल बड़े होते हैं, उनके पास आकस्मिक संबंध बनाने के लिए वास्तव में अधिक स्थान होता है।

इसे इस प्रकार सोचें: यदि आप 10 बार सिक्का उछालते हैं, तो एक पूर्ण पैटर्न मिलना कठिन होता है। लेकिन यदि आप इसे दस लाख बार उछालते हैं, तो आप संयोग से ही सिर (heads) की एक लंबी श्रृंखला पा लेंगे। इसी तरह, जैसे-जैसे AI मॉडल विशाल होते जाते हैं, "स्प्यूरियस कोरिलेशन" (आकस्मिक मिलान) की संख्या बढ़ती जाती है। अध्ययन में पाया गया कि जब आप इन आकस्मिक मिलानों को ध्यान में रखते हैं, तो मॉडलों के बीच "पूर्ण संरेखण" अक्सर गायब हो जाता है।

जो बचता है वह एक अधिक विनम्र, "अरिस्टोटेलियन" दृष्टिकोण है। एक पूर्ण, सार्वभौमिक सत्य (प्लेटो) खोजने के बजाय, मॉडल केवल उन विशिष्ट कार्यों के लिए सर्वोत्तम स्थानीय समाधान खोज रहे हैं जो वे कर रहे हैं (अरस्तू)। वे उन संरचनाओं पर अभिसरित होते हैं जो उनके सामने की समस्या को हल करने में मदद करती हैं, न कि अनिवार्य रूप से ब्रह्मांड की मौलिक संरचना पर।

भविष्य के लिए इसका क्या अर्थ है

इस शोध पत्र का मुख्य निष्कर्ष विनम्रता और स्पष्टता का आह्वान है। लेखक यह नहीं कह रहे हैं कि AI बेकार है या यह सीखता नहीं है। वे कह रहे हैं कि हमें अपने शब्दों के प्रति सावधान रहने की आवश्यकता है। जब हम दो AI मॉडलों को एक आंतरिक संरचना पर सहमत होते देखते हैं, तो हमें तुरंत वास्तविकता की प्रकृति के बारे में आध्यात्मिक निष्कर्ष नहीं निकालना चाहिए।

इसके बजाय, हमें गहराई से उतरने की आवश्यकता है। हमें पूछना होगा:

1. सामग्री (Content) क्या है? मॉडल वास्तव में क्या दर्शा रहा है, और हमें कैसे पता कि यह केवल एक संयोग नहीं है?
2. कार्य (Function) क्या है? यह आंतरिक अवस्था मॉडल को किसी विशिष्ट कार्य में सफल या विफल होने में कैसे मदद करती है?
3. इसका उपयोग कौन कर रहा है? सिस्टम के अन्य भाग इस जानकारी की व्याख्या कैसे करते हैं?

शोध पत्र सुझाव देता है कि AI क्या दर्शाता है इसे वास्तव में समझने के लिए, हमें केवल उनके मानचित्र कितने समान दिखते हैं इसे मापने से आगे बढ़ने की आवश्यकता है। हमें यह समझने के लिए दर्शनशास्त्र के उपकरणों का उपयोग करने की आवश्यकता है कि उन मानचित्रों की भूमिका क्या है। जब तक हम यह नहीं समझा सकते कि ये मॉडल अपनी आंतरिक अवस्थाओं के अर्थ को कैसे निर्धारित करते हैं, तब तक यह विचार कि वे एक "प्लेटोनिक सत्य" की खोज कर रहे हैं, एक सुंदर, लेकिन अप्रमाणित कहानी बनी रहेगी।

संक्षेप में, शोध पत्र का तर्क है कि हालांकि "प्लेटोनिक रिप्रेजेंटेशन हाइपोथीसिस" एक आकर्षक विचार है, लेकिन हमारे पास जो साक्ष्य हैं वे केवल यह दिखाते हैं कि AI मॉडल समान पैटर्न खोजने में बेहतर हो रहे हैं। यह साबित नहीं करता कि वे ब्रह्मांड के परम सत्य को खोज रहे हैं। यह जानने के लिए, हमें केवल मानचित्रों को देखने से कहीं अधिक करने की आवश्यकता है; हमें उस यात्रा को समझने की आवश्यकता है जो मॉडलों ने उन्हें बनाने के लिए तय की है।