Predictive Coding Networks and Inference Learning: Tutorial and Survey
यह शोध पत्र प्रेडिक्टिव कोडिंग नेटवर्क्स (PCNs) की एक व्यापक समीक्षा और औपचारिक विनिर्देश प्रदान करता है, जो उनकी जैविक सुसंगतता, इन्फरेंस लर्निंग के माध्यम से कम्प्यूटेशनल दक्षता, और एक संभाव्य ढांचे के रूप में उनकी बहुमुखी प्रतिभा को रेखांकित करता है जो पारंपरिक बैकप्रोपैगेशन-आधारित न्यूरल नेटवर्क्स से परे विस्तार करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक नई भाषा सीखने की कोशिश कर रहे हैं।
पुराना तरीका (पारंपरिक AI):
पारंपरिक आर्टिफिशियल इंटेलिजेंस (विशेष रूप से डीप लर्निंग) की दुनिया में, कंप्यूटर एक ऐसे छात्र की तरह सीखता है जिसे अंतिम परीक्षा के बाद ग्रेड मिलता है। वह एक उत्तर का अनुमान लगाता है, गलत होता है, और फिर एक "शिक्षक" (एक एल्गोरिदम जिसे बैकप्रोपैगेशन कहा जाता है) को उसके सोचने की प्रक्रिया के हर एक चरण में वापस जाना पड़ता है, यह बताना पड़ता है कि गलती कहाँ हुई थी, और उसे इसे कैसे ठीक करना है यह बताना पड़ता है। यह कंप्यूटर के लिए कुशल है, लेकिन यह इस तरह से काम नहीं करता जैसे मानव मस्तिष्क काम करता है। हमारा मस्तिष्क अंतिम ग्रेड का इंतज़ार नहीं करता; हम लगातार वास्तविक समय में खुद को समायोजित करते हैं।
नया तरीका (इस पेपर का मुख्य केंद्र):
यह पेपर एक अलग दृष्टिकोण पेश करता है जिसे प्रेडिक्टिव कोडिंग नेटवर्क्स (PCNs) कहा जाता है। बैकप्रोपैगेशन का इंतज़ार करने के बजाय, एक ऐसे मस्तिष्क की कल्पना करें जो लगातार यह अनुमान लगाता रहता है कि आगे क्या होने वाला है, और फिर केवल तभी ध्यान देता है जब उसे कोई आश्चर्य या 'सरप्राइज' मिलता है।
यहाँ सरल उपमाओं का विवरण दिया गया है:
1. मस्तिष्क एक "प्रेडिक्शन मशीन" के रूप में
अपने मस्तिष्क को वास्तविकता रिकॉर्ड करने वाले कैमरे के रूप में नहीं, बल्कि एक फिल्म निर्देशक के रूप में सोचें।
- निर्देशक (मस्तिष्क): लगातार भविष्यवाणी करता है कि फिल्म के अगले दृश्य को कैसा दिखना चाहिए।
- कैमरा (संवेदी इनपुट/Sensory Input): वास्तव में क्या हो रहा है उसे रिकॉर्ड करता है।
- अंतर (प्रेडिक्शन एरर/Prediction Error): यदि निर्देशक एक धूप वाले दिन की भविष्यवाणी करता है, लेकिन कैमरा बारिश दिखाता है, तो यहाँ एक "बेमेल" (mismatch) है। इस बेमेल को प्रेडिक्शन एरर कहा जाता है।
इस नए सिस्टम में, मस्तिष्क केवल डेटा को निष्क्रिय रूप से प्राप्त नहीं करता है। यह इंद्रियों को नीचे की ओर एक भविष्यवाणी भेजता है ("धूप होने वाली है")। इंद्रियां वास्तविकता को ऊपर भेजती हैं ("बारिश हो रही है")। मस्तिष्क केवल इस अंतर (error) पर ध्यान देता है। इसके बाद, यह अगली बार बारिश की बेहतर भविष्यवाणी करने के लिए अपने आंतरिक मॉडल को अपडेट करता है।
2. सीखने का एल्गोरिदम: "इन्फरेंस लर्निंग" बनाम "बैकप्रोपैगेशन"
यह पेपर इन नेटवर्क्स को सिखाने के दो तरीकों की तुलना करता है:
- बैकप्रोपैगेशन (पुराना तरीका): एक सख्त शिक्षक की तरह जो छात्र के निबंध के माध्यम से पीछे की ओर चलता है, शब्द मिटाता है और अंत से शुरू होकर एक-एक करके वाक्यों को फिर से लिखता है। यह शक्तिशाली है लेकिन कठोर है और इसके लिए सुधार शुरू करने से पहले पूरा निबंध लिखा होना आवश्यक है।
- इन्फरेंस लर्निंग (नया तरीका): कल्पना कीजिए कि लोगों का एक समूह एक कमरे में मिलकर एक पहेली सुलझाने की कोशिश कर रहा है।
- हर कोई एक अनुमान लगाता है।
- वे अपने निकटतम पड़ोसियों से बात करते हैं ताकि देख सकें कि क्या उनका अनुमान मेल खाता है।
- यदि कोई असहमति (error) है, तो वे वहीं स्थानीय स्तर पर (locally) अपने अनुमान को समायोजित करते हैं।
- वे ऐसा बार-बार करते हैं जब तक कि सभी एक समाधान पर सहमत न हो जाएं।
- जादू: क्योंकि हर कोई एक साथ अपने पड़ोसियों से बात कर रहा है, उन्हें लाइन के अंत में खड़े व्यक्ति के बोलने का इंतज़ार नहीं करना पड़ता। यह इसे बायोलॉजिकली प्लेसिबल (जैसा कि न्यूरॉन्स वास्तव में संवाद करते हैं) बनाता है और विशेष हार्डवेयर पर संभावित रूप से बहुत तेज़ भी बनाता है।
3. "सुपरसेट" की अवधारणा (स्विस आर्मी नाइफ)
लेखक एक दिलचस्प बात कहते हैं: प्रेडिक्टिव कोडिंग पारंपरिक AI का एक "सुपरसेट" है।
पारंपरिक AI (फीडफॉरवर्ड न्यूरल नेटवर्क) को एक सीधे हाईवे के रूप में सोचें। आप अंदर जाते हैं, और बाहर निकल जाते हैं।
प्रेडिक्टिव कोडिंग एक विशाल, आपस में जुड़े हुए शहर के ग्रिड की तरह है।
- आप अभी भी सीधे हाईवे पर चल सकते हैं (यह बिल्लियों की तस्वीरों को पहचानने जैसे मानक कार्यों के लिए काम करता है)।
- लेकिन आप गोल चक्कर भी काट सकते हैं, पीछे की ओर जा सकते हैं, या शॉर्टकट ले सकते हैं।
इसका मतलब है कि PCNs वह सब कुछ कर सकते हैं जो पारंपरिक AI कर सकता है, साथ ही वे चीजें भी कर सकते हैं जिनमें पारंपरिक AI संघर्ष करता है, जैसे नई छवियां बनाना (कला बनाना) या लगातार सीखना बिना पुरानी चीजों को भूले।
4. यह क्यों मायने रखता है (मैं क्यों परवाह करूँ?)
- ऊर्जा दक्षता (Energy Efficiency): पारंपरिक AI एक बहुत अधिक बिजली खपत करने वाला जीव है। मस्तिष्क अविश्वसनीय रूप से कुशल है। चूंकि PCNs मस्तिष्क की तरह काम करते हैं (स्थानीय रूप से और समानांतर में अपडेट होते हैं), वे बहुत कम ऊर्जा का उपयोग कर सकते हैं, जिससे वे भविष्य के "न्यूरोमॉर्फिक" चिप्स (ऐसे कंप्यूटर चिप्स जो मस्तिष्क की संरचना की नकल करते हैं) के लिए आदर्श बन जाते हैं।
- अप्रत्याशित स्थितियों को संभालना: पारंपरिक AI अक्सर विफल हो जाता है जब वह कुछ ऐसा देखता है जिसके लिए उसे प्रशिक्षित नहीं किया गया है। चूंकि PCNs "प्रेडिक्शन एरर" पर आधारित हैं, इसलिए वे स्वाभाविक रूप से यह नोटिस करने में बेहतर होते हैं कि कुछ अजीब या नया है, जो कि सेल्फ-ड्राइविंग कारों या मेडिकल डायग्नोसिस में सुरक्षा के लिए महत्वपूर्ण है।
- निरंतर सीखना (Continuous Learning): मनुष्य एक नया कौशल सीख सकते हैं बिना साइकिल चलाना भूले। पारंपरिक AI अक्सर नए कौशल सीखते समय पुराने कौशल "भूल" जाता है (जिसे 'कैटास्ट्रोफिक फॉरगेटिंग' कहा जाता है)। PCNs इस मामले में बेहतर प्रदर्शन करते हैं क्योंकि वे अपने आंतरिक स्टेट्स को कैसे अपडेट करते हैं।
सारांश
यह पेपर एक नए प्रकार के AI के लिए एक यूजर मैनुअल और रोडमैप है। यह हमें बताता है कि मस्तिष्क भविष्य की भविष्यवाणी कैसे करता है और अपनी गलतियों को कैसे सुधारता है, इसकी नकल करके हम ऐसी मशीनें बना सकते हैं जो:
- अधिक स्मार्ट (अनिश्चितता को संभालने में बेहतर)।
- अधिक कुशल (कम बिजली का उपयोग करने वाली)।
- अधिक लचीली (पुरानी चीजों को भूले बिना नई चीजें सीखने में सक्षम)।
यह न्यूरोसाइंस (हमारा मस्तिष्क कैसे काम करता है) और कंप्यूटर साइंस (हम मशीनें कैसे बनाते हैं) के बीच के अंतर को पाटता है, यह सुझाव देते हुए कि AI का भविष्य केवल बड़े कंप्यूटरों के बारे में नहीं है, बल्कि ऐसी मशीनें बनाने के बारे में है जो हमारी तरह सोच सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।