Emergent Neural Network Mechanisms for Generalization to Objects in Novel Orientations
यह शोध पत्र प्रदर्शित करता है कि डीप न्यूरल नेटवर्क साझा विशेषताओं के लिए ट्यून किए गए न्यूरॉन्स के माध्यम से परिचित वस्तुओं से ओरिएंटेशन इनवेरिएंस (अभिविन्यास अपरिवर्तनीयता) को प्रसारित करके, नवीन 2D ओरिएंटेशन वाली वस्तुओं पर सामान्यीकरण करते हैं, एक ऐसी प्रक्रिया जो अधिक प्रशिक्षण डेटा के साथ सुदृढ़ होती है और मस्तिष्क जैसी सामान्यीकरण प्रक्रियाओं का दर्पण प्रस्तुत करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बच्चे को कुत्ता पहचानना सिखा रहे हैं। आप उसे एक गोल्डन रिट्रीवर की दौड़ते हुए, सोते हुए और कूदते हुए तस्वीरें दिखाते हैं। फिर, आप उसे एक पूडल (Poodle) की तस्वीर दिखाते हैं। भले ही पूडल अलग दिखता है, बच्चा तुरंत जान जाता है, "यह एक कुत्ता है!" उसने कुत्ते के केवल विशिष्ट रूप को नहीं, बल्कि कुत्ते के 'विचार' (idea) को सीख लिया है। चीजों को नई स्थितियों में पहचानने की यह क्षमता, विशेष रूप से तब जब वे तिरछी या उलटी हों, मानव मस्तिष्क और आर्टिफिशियल इंटेलिजेंस दोनों के लिए एक 'होली ग्रेल' (अत्यधिक महत्वपूर्ण लक्ष्य) है। लंबे समय तक, वैज्ञानिकों इस बात से हैरान रहे हैं कि हमारे कंप्यूटर दिमाग—जिन्हें डीप न्यूरल नेटवर्क (DNN) कहा जाता है—तस्वीरों में चीजों को पहचानने में तो बहुत अच्छे हैं, लेकिन जब वे उन्हीं चीजों को उन कोणों (angles) पर देखते हैं जिन्हें उन्होंने पहले नहीं देखा है, तो वे पूरी तरह भ्रमित हो जाते हैं। यह एक ऐसे रोबोट की तरह है जो मेज पर रखे कप को तो पहचान सकता है, लेकिन मेज पर पड़े हुए कप को एक पूरी तरह से अलग वस्तु समझ लेता है। हमारे डिजिटल दिमागों को नए कोणों को संभालने के लिए कैसे प्रशिक्षित किया जाए, इसे समझना महत्वपूर्ण है क्योंकि वास्तविक दुनिया हर सेकंड घूमती, झुकती और अपना परिप्रेक्ष्य बदलती रहती है।
यह शोध इस रहस्य की गहराई में उतरता है, और एक सरल लेकिन गहन प्रश्न पूछता है: क्या ये कंप्यूटर दिमाग केवल कुछ उदाहरण देखकर ही "अनजान" (novel) ओरिएंटेशन में वस्तुओं को पहचानना सीख सकते हैं, या उन्हें हर एक कोण को रटने की आवश्यकता है? शोधकर्ताओं ने एक चतुर प्रयोग किया जहाँ उन्होंने AI मॉडल को "पूरी तरह से देखे गए" (fully seen) ऑब्जेक्ट्स (हर संभव रोटेशन में दिखाए गए) और "आंशिक रूप से देखे गए" (partially seen) ऑब्जेक्ट्स (केवल कुछ विशिष्ट कोणों में दिखाए गए) के मिश्रण पर प्रशिक्षित किया। फिर, उन्होंने इन आंशिक रूप से देखे गए ऑब्जेक्ट्स का परीक्षण तब किया जब उन्हें बिल्कुल नए, "आउट-ऑफ-डिस्ट्रीब्यूशन" (out-of-distribution) कोणों में घुमाया गया। परिणाम दिलचस्प हैं: AI नए कोणों के प्रति सामान्यीकरण (generalize) कर सकता है, लेकिन केवल बहुत विशिष्ट और अनुमानित तरीकों से। यह पता चला कि यदि आप AI को "पूरी तरह से देखे गए" ऑब्जेक्ट्स के पर्याप्त उदाहरण दिखाते हैं, तो वह एक प्रकार का आंतरिक मानचित्र (internal map) बनाना शुरू कर देता है। यह मानचित्र उसे आंशिक रूप से देखे गए ऑब्जेक्ट को तब भी पहचानने की अनुमति देता है जब वह घूमा हुआ हो, लेकिन केवल तभी जब वह एक सरल 2D स्पिन (जैसे पन्ना पलटना) हो या एक ऐसा फ्लिप हो जो ऑब्जेक्ट की छाया या सिल्हूट (silhouette) को परिचित बनाए रखे। शोध पत्र बताता है कि ऐसा इसलिए होता है क्योंकि AI के आंतरिक "न्यूरॉन्स" (नेटवर्क के भीतर छोटे प्रसंस्करण इकाइयाँ) विशिष्ट विशेषताओं—जैसे पंख या पहिया—को पहचानने के लिए प्रशिक्षित होते हैं, जो वस्तु के हिलने पर भी अपरिवर्तित रहती हैं। ये फीचर डिटेक्टर्स (विशेषता खोजने वाले), जो पूरी तरह से देखे गए ऑब्जेक्ट्स पर प्रशिक्षित होते हैं, अपनी जानकारी को आंशिक रूप से देखे गए ऑब्जेक्ट्स तक "फैलाते" (spread) हैं, जो एक पुल की तरह काम करता है जिससे AI अज्ञात को पहचान पाता है। हालाँकि, लेखक सावधानीपूर्वक नोट करते हैं कि यह कोई जादू नहीं है; AI अभी भी जटिल 3D घुमावों (self-occlusion) के साथ संघर्ष करता है जो वस्तु के कुछ हिस्सों को छिपा देते हैं, और ये निष्कर्ष विशिष्ट डेटासेट के साथ सिमुलेशन पर आधारित हैं, न कि अभी तक किसी सार्वभौमिक नियम पर।
घूमते हुए हवाई जहाज की कहानी
एक डीप न्यूरल नेटवर्क को एक बहुत ही उत्साही, लेकिन थोड़े कठोर छात्र के रूप में सोचें जो वर्णमाला सीखने की कोशिश कर रहा है। यदि आप उसे केवल लाल रंग में लिखा हुआ "A" दिखाते हैं, तो वह नीले रंग के "A" या कर्सिव में लिखे "A" को पहचानने में विफल हो सकता है। कंप्यूटर विजन की दुनिया में, यह छात्र एक डीप न्यूरल नेटवर्क (DNN) है, और "अक्षर" हवाई जहाज, कार या अजीब ज्यामितीय आकृतियों जैसी वस्तुएं हैं। बड़ी समस्या यह है कि ये नेटवर्क आमतौर पर उन तरीकों से मुड़ने पर वस्तुओं को पहचानने में बहुत खराब होते हैं जिन्हें उन्होंने प्रशिक्षण के दौरान नहीं देखा है। यदि आप एक नेटवर्क को सीधे उड़ते हुए विमान की तस्वीर पर प्रशिक्षित करते हैं, और फिर उसे एक 'बैरल रोल' (barrel roll) करता हुआ विमान दिखाते हैं, तो नेटवर्क अक्सर घबरा जाता है और कहता है, "मुझे नहीं पता कि यह क्या है!"
इस शोध में शामिल शोधकर्ता यह पता लगाना चाहते थे कि क्यों ऐसा होता है और क्या कोई छिपा हुआ नियम पुस्तिका (rulebook) है जिसका नेटवर्क पालन कर रहा है। उन्होंने AI के सामने केवल यादृच्छिक (random) तस्वीरें नहीं फेंकी; उन्होंने एक बहुत ही विशिष्ट प्रशिक्षण शिविर तैयार किया। कल्पना कीजिए कि उनके पास 50 अलग-अलग खिलौना हवाई जहाज थे। इनमें से कुछ विमानों के लिए, उन्होंने AI को हर संभव कोण दिखाया—सामने, पीछे, उल्टा, बगल में, और इन सबके बीच का सब कुछ। उन्होंने इन्हें "पूरी तरह से देखे गए" (fully seen) विमान कहा। अन्य विमानों के लिए, उन्होंने AI को केवल कोणों का एक छोटा सा हिस्सा दिखाया, जैसे केवल नाक नीचे की ओर दिखाना। ये "आंशिक रूप से देखे गए" (partially seen) विमान थे।
फिर परीक्षण आया। शोधकर्ताओं ने "आंशिक रूप से देखे गए" विमानों को लिया और उन्हें पूरी तरह से नए, "आउट-ऑफ-डिस्ट्रीब्यूशन" (OoD) कोणों में घुमाया जो AI ने पहले कभी नहीं देखे थे। क्या AI विफल हो जाएगा? या क्या वह किसी तरह इसे समझ लेगा?
"2D स्पिन" का जादू
उत्तर "हाँ" और "नहीं" का मिश्रण था, लेकिन एक बहुत ही दिलचस्प मोड़ के साथ। AI "आंशिक रूप से देखे गए" विमानों को पहचानने में बेहतर हो गया, लेकिन केवल तभी जब नया कोण एक विशिष्ट प्रकार का रोटेशन था।
शोधकर्ताओं ने पाया कि AI उन वस्तुओं को पहचानने में उत्कृष्ट था जो एक 2D स्पिन (जैसे मेज पर रखी तस्वीर को घुमाना) या एक फ्लिप (flip) के रूप में घूमती थीं, जिससे वस्तु की छाया (सिल्हूट) समान दिखती थी। उदाहरण के लिए, यदि AI ने विमान को सामने से देखा है, तो वह अक्सर इसे पीछे से भी पहचान सकता है, क्योंकि सामने और पीछे से विमान की "छाया" बहुत समान दिखती है। यह किसी व्यक्ति के चेहरे को पहचानने जैसा है भले ही वह दूसरी ओर देख रहा हो, क्योंकि आप जानते हैं कि उसके सिर का आकार नहीं बदला है।
हालाँकि, यदि विमान को एक जटिल 3D तरीके से घुमाया गया जो इसके कुछ हिस्सों को छिपा देता है (जैसे कि एक विमान का रोल करना जिससे उसका पंख शरीर के दृश्य को बाधित कर दे), तो AI भ्रमित हो गया। शोध पत्र सुझाव देता है कि AI इन "सेल्फ-ऑक्लूडिंग" (self-occluding) कोणों के साथ संघर्ष करता है क्योंकि वह उन परिचित विशेषताओं को नहीं देख पाता जिन पर उसने भरोसा करना सीखा था।
"फीचर डिटेक्टिव" थ्योरी
तो, AI यह कैसे करता है? लेखक एक सिद्धांत प्रस्तावित करते हैं जो काफी हद तक हमारे अपने मस्तिष्क के काम करने के तरीके जैसा लगता है। उन्होंने AI के "मस्तिष्क" (न्यूरल नेटवर्क) के भीतर देखा और यह देखा कि उसके व्यक्तिगत न्यूरॉन्स कैसे सक्रिय होते हैं। उन्होंने पाया कि कुछ न्यूरॉन फीचर डिटेक्टिव (विशेषता खोजने वाले जासूस) के रूप में कार्य करते हैं।
कल्पना कीजिए कि एक न्यूरॉन जो "पंखों" का जासूस है। जब AI एक "पूरी तरह से देखे गए" हवाई जहाज को देखता है, तो यह जासूस सीखता है कि "पंख" हवाई जहाज का एक प्रमुख हिस्सा हैं, चाहे विमान किसी भी कोण पर मुड़ा हो। वह जासूस सभी अलग-अलग कोणों में पंखों को पहचानने में बहुत कुशल हो जाता है। अब, जब AI एक नया हवाई जहाज (एक आंशिक रूप से देखा गया विमान) देखता है जिसे उसने केवल कुछ कोणों से देखा है, तो वही "विंग डिटेक्टिव" (पंखों का जासूस) अभी भी वहां मौजूद है। भले ही AI ने इस विशिष्ट नए विमान को हर कोण से नहीं देखा है, लेकिन वह जासूस पंखों को पहचान लेता है और कहता है, "हे, मैं इस विशेषता को जानता हूँ! यह निश्चित रूप से एक हवाई जहाज है!"
शोध पत्र सुझाव देता है कि "पूरी तरह से देखे गए" विमानों द्वारा सीखी गई "इनवेरिएंस" (बदलाव के बावजूद पहचानने की क्षमता) को डिसेमिनेटेड (disseminated), या प्रसारित किया जाता है, "आंशिक रूप से देखे गए" विमानों में। यह ऐसा है जैसे "पूरी तरह से देखे गए" विमान शिक्षक हैं, और वे "क्या चीज़ एक हवाई जहाज को हवाई जहाज बनाती है" का ज्ञान अपने "आंशिक रूप से देखे गए" छात्रों को सौंपते हैं। AI जितने अधिक "पूरी तरह से देखे गए" विमानों पर प्रशिक्षण लेता है, यह शिक्षण उतना ही मजबूत होता जाता है, और वह नए, कठिन कोणों को पहचानने में उतना ही बेहतर होता जाता है।
खेल के नियम
शोधकर्ताओं ने केवल अनुमान नहीं लगाया; उन्होंने एक गणितीय मॉडल बनाया जो सटीक रूप से भविष्यवाणी कर सके कि AI किन कोणों को सही पहचानेगा और किन को गलत। उनके मॉडल में तीन मुख्य सामग्रियां थीं:
- छोटे कोण रोटेशन (Small Angle Rotations): यदि नया कोण पहले देखे गए कोण से थोड़ा ही अलग है, तो यह आमतौर पर आसान होता है।
- इन-प्लेन रोटेशन (In-Plane Rotations): यदि वस्तु केवल सपाट घूम रही है (जैसे 2D रोटेशन), तो AI इसमें अच्छा है।
- सिल्हूट समानता (Silhouette Similarity): यदि नए कोण से वस्तु की छाया पुराने कोण की तुलना में समान दिखती है, तो AI इसे संभाल सकता है।
जब उन्होंने अपने मॉडल का वास्तविक AI परिणामों के विरुद्ध परीक्षण किया, तो यह एक सटीक मेल था। मॉडल उच्च सटीकता के साथ AI की सफलता दर की भविष्यवाणी कर सका। यह पुष्टि करता है कि AI केवल अनुमान नहीं लगा रहा है; यह दुनिया को देखने के तरीके पर आधारित नियमों के एक तार्किक सेट का पालन कर रहा है।
भविष्य के लिए इसका क्या अर्थ है
शोध पत्र निष्कर्ष निकालता है कि हालांकि ये कंप्यूटर दिमाग अभी भी पूर्ण नहीं हैं, लेकिन वे जैविक मस्तिष्क के समान उल्लेखनीय कार्य कर रहे हैं। वे एक "वस्तु क्या है" की समझ बनाने के लिए विशिष्ट विशेषताओं का उपयोग कर रहे हैं जो रोटेशन के बावजूद बनी रहती है। हालाँकि, वे अभी भी सीमित हैं। वे उन जटिल 3D घुमावों को उतनी अच्छी तरह से नहीं संभाल सकते जो वस्तु के हिस्सों को छिपा देते हैं, जितना कि मनुष्य कर सकते हैं। लेखक सुझाव देते हैं कि शायद, भविष्य में, हम इन नेटवर्कों को केवल स्थिर चित्रों के बजाय वीडियो (टेम्पोरल एसोसिएशन) से सीखना सिखा सकते हैं, ठीक वैसे ही जैसे बच्चे अपने आसपास की चीजों को घूमते हुए देखकर सीखते हैं।
फिलहाल, यह अध्ययन हमें एक स्पष्ट मानचित्र देता है कि हमारे AI सिस्टम कहाँ सफल होते हैं और कहाँ विफल होते हैं। यह हमें दिखाता है कि यदि हम चाहते हैं कि AI हमारी 3D दुनिया में नेविगेट करने के लिए स्मार्ट बने, तो हमें उन्हें न केवल यह समझने में मदद करनी होगी कि वस्तुएं कैसी दिखती हैं, बल्कि यह भी कि उनके घूमने पर उनकी छाया और विशेषताएं कैसे बदलती हैं। यह एक छोटा कदम है, लेकिन यह ऐसी मशीनें बनाने की दिशा में एक कदम है जो वास्तव में दुनिया को उसी तरह देख सकें जैसे हम देखते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।