Rate-Distortion-Perception Theory: Redefining the Fundamental Limits of Information Representation

कल्पना कीजिए कि आप अपने एक दोस्त को एक गुप्त संदेश भेजने की कोशिश कर रहे हैं, लेकिन आपके पास पानी ले जाने के लिए केवल एक छोटी सी, लीक होने वाली बाल्टी है। सूचना विज्ञान (information science) की दुनिया में, यह संपीड़न (compression) की क्लासिक समस्या है: आप बिना कहानी खोए सबसे छोटे संभव स्थान में सबसे महत्वपूर्ण विवरणों को कैसे समाहित करते हैं? दशकों से, वैज्ञानिक एक नियम पुस्तिका का उपयोग करते आए हैं जिसे रेट-डिस्टॉर्शन थ्योरी (Rate-Distortion theory) कहा जाता है। "रेट" को यह मानकर सोचें कि आप कितने बिट्स (डिजिटल पानी की बूंदें) का उपयोग करते हैं, और "डिस्टॉर्शन" (विकृति) को यह कि जब आप संदेश को बाहर निकालते हैं तो वह कितना कुचला हुआ या धुंधला हो जाता है। पुरानी नियम पुस्तिका कहती थी, "यदि आप चाहते हैं कि संदेश मूल जैसा ही दिखे, तो आपको बहुत सारे बिट्स की आवश्यकता होगी। यदि आपको इससे फर्क नहीं पड़ता कि यह थोड़ा धुंधला दिखता है, तो आप कम बिट्स का उपयोग कर सकते हैं।"

लेकिन यहाँ एक पेंच है: बिल्ली की एक धुंधली तस्वीर गणितीय रूप से मूल के "करीब" लग सकती है यदि आप हर एक पिक्सेल के रंग को मापते हैं, लेकिन एक मानव आँख के लिए, यह एक अजीब, धुंधले धब्बे जैसा दिख सकता है जो बिल्कुल बिल्ली जैसा नहीं लगता। यहीं पर परसेप्शन (Perception - बोध) आता है। यह एक गणितीय रूप से सटीक लेकिन आत्माहीन प्रति और एक ऐसी पुनर्रचना के बीच का अंतर है जो "वास्तविक" महसूस होती है और एक मस्तिष्क के लिए अर्थपूर्ण होती है। यह शोध पत्र रेट-डिस्टॉर्शन-परसेप्शन (RDP) थ्योरी नामक विज्ञान के एक नए, रोमांचक कोने में गोता लगाता है। यह एक साहसी प्रश्न पूछता है: क्या हम उस आदर्श संतुलन को पा सकते हैं जहाँ हम न्यूनतम बिट्स का उपयोग करें, डिस्टॉर्शन को उपयोगी रहने लायक कम रखें, और यह भी सुनिश्चित करें कि परिणाम बिल्कुल असली चीज़ जैसा दिखे और महसूस हो? यह एक सूटकेस को इतनी कुशलता से पैक करने की कोशिश करने जैसा है कि आप उसमें अपनी ज़रूरत की हर चीज़ फिट कर सकें, लेकिन जब आप कपड़े बाहर निकालें तो वे मुड़े हुए कपड़ों के ढेर के बजाय कुरकुरे और स्टाइलिश दिखें।

"वास्तविक" संपीड़न के लिए नई नियम पुस्तिका

यह शोध पत्र एक नए प्रकार के संपीड़न के लिए एक मास्टर गाइडबुक की तरह है जो इस बात पर ध्यान देता है कि चीजें कैसा महसूस करती हैं, न कि केवल इस पर कि वे पैमाने पर कैसी मापी जाती हैं। इसके लेखक, सूचना सिद्धांत विशेषज्ञों की एक टीम, एक ऐसी समस्या से निपट रहे हैं जो AI और जनरेटिव मॉडल्स (वह तकनीक जो चित्र और आवाज बनाती है) के युग में बहुत बड़ी हो गई है। उन्होंने देखा कि जब हम इंसानों के आनंद के लिए फोटो, वीडियो या वॉयस मैसेज जैसी चीजों को कंप्रेस करने की कोशिश करते हैं, तो पुराना गणित अक्सर विफल हो जाता है। एक कंप्यूटर कह सकता है कि दो चित्र "अलग" हैं क्योंकि एक पिक्सेल थोड़ा सा अलग है, लेकिन एक इंसान कहेगा कि वे समान हैं। इसके विपरीत, एक कंप्यूटर कह सकता है कि दो चित्र "समान" हैं क्योंकि उनका औसत रंग एक जैसा है, भले ही एक बिल्ली की तस्वीर हो और दूसरी कुत्ते की।

शोध पत्र एक नया गणितीय उपकरण पेश करता है जिसे रेट-डिस्टॉर्शन-परसेप्शन फंक्शन (RDPF) कहा जाता है। आप इसे एक तीन-तरफा खींचतान (tug-of-war) के रूप में देख सकते हैं। एक तरफ, आपके पास रेट (आप कितना डेटा भेजते हैं) है। दूसरे पक्ष पर, डिस्टॉर्शन (डेटा कितना बदल जाता है) है। तीसरे पक्ष पर, परसेप्शन (परिणाम कितना "प्राकृतिक" या "वास्तविक" दिखता है) है। लक्ष्य उस पूर्ण सीमा को खोजना है: न्यूनतम डेटा जो एक ऐसा परिणाम प्राप्त करने के लिए आवश्यक है जो पर्याप्त सटीक भी हो और पूरी तरह से वास्तविक भी दिखे।

लेखक केवल इस बारे में बात नहीं करते; वे इसे गणना करने के लिए वास्तविक "मशीनरी" भी बनाते हैं। वे दिखाते हैं कि कई अलग-अलग प्रकार के डेटा (जैसे सरल ऑन/ऑफ सिग्नल या जटिल निरंतर ध्वनियाँ) के लिए, आप विशिष्ट गणितीय तरकीबों का उपयोग करके इस तीन-तरफा पहेली को हल कर सकते हैं। वे इस समस्या को एक जटिल अनुकूलन खेल (optimization game) की तरह देखते हैं जहाँ आप सबसे निचले बिंदु को खोजने की कोशिश कर रहे हैं। वे धारणा (perception) के विभिन्न "मापने के डंडों" की खोज करते हैं, जैसे कि f-divergences (जो दो संभाव्यता बादलों के बीच अंतर को मापते हैं) और वॉसरस्टीन डिस्टेंस (Wasserstein distances) (जो यह मापते हैं कि एक रेत के ढेर को दूसरे जैसा दिखने के लिए बनाने में कितना प्रयास लगता है)।

व्यापार के उपकरण: वे पहेली को कैसे सुलझाते हैं

इन सीमाओं को खोजने के लिए, शोध पत्र कई "एल्गोरिदम" (चरण-दर-चरण रेसिपी) प्रस्तुत करता है जो एक टूलबॉक्स में अलग-अलग उपकरणों की तरह काम करते हैं।

सबसे पहले, सरल, डिस्क्रीट डेटा (जैसे 0 और 1 की एक स्ट्रिंग) के लिए, वे अल्टरनेटिंग मिनिमाइजेशन (Alternating Minimization) नामक विधि का उपयोग करते हैं। कल्पना कीजिए कि आप स्पष्ट सिग्नल प्राप्त करने के लिए रेडियो ट्यून कर रहे हैं। आप फ्रीक्वेंसी और वॉल्यूम दोनों को एक साथ एकदम सही नहीं कर सकते। इसलिए, आप फ्रीक्वेंसी को एडजस्ट करते हैं, फिर वॉल्यूम को, फिर फिर से फ्रीक्वेंसी को, और हर बार बेहतर स्थिति के करीब पहुँचते जाते हैं। लेखक दिखाते हैं कि "डिस्टॉर्शन" और "परसेप्शन" सेटिंग्स को एक-दूसरे के विरुद्ध बार-बार समायोजित करके, आप पूर्ण समाधान पर पहुँच सकते हैं। वे इसके दो संस्करण देते हैं:

1. NAM (न्यूटन-आधारित): यह एक उच्च-शक्ति वाला, सटीक लेजर है। यह बहुत तेज़ और सटीक है लेकिन इसके लिए गणित का पूरी तरह से सुचारू (smooth) होना आवश्यक है (जैसे एक पॉलिश किया हुआ संगमरमर का फर्श)। यदि गणित में तीखे कोने हैं (जैसे "टोटल वेरिएशन" दूरी, जो एक आरी की तरह है), तो यह उपकरण आसानी से फिसल नहीं सकता।
2. RAM (रिलैक्स्ड): यह एक मजबूत ऑफ-रोड वाहन है। यह उस ऊबड़-खाबड़, ऊबड़-खाबड़ गणित को संभाल सकता है जिसे लेजर नहीं संभाल पाता, लेकिन यह उतना तेज़ नहीं चल सकता या हर संभव मार्ग तय नहीं कर सकता।

अधिक जटिल, निरंतर डेटा (जैसे ध्वनि की चिकनी लहरें या हाई-डेफिनिशन चित्र) के लिए, लेखक गौसियन सोर्सेज (Gaussian sources) की ओर मुड़ते हैं (यह कहने का एक शानदार तरीका है कि डेटा एक बेल-कर्व वितरण का पालन करता है, जो प्रकृति में बहुत आम है)। यहाँ, वे खोजते हैं कि समाधान "वॉटर-फिलिंग" (water-filling) नामक एक प्रसिद्ध अवधारणा के समान है। कल्पना कीजिए कि आप एक ऊबड़-खाबड़ तल वाले कंटेनर में पानी भर रहे हैं (जो चित्र या ध्वनि के विभिन्न हिस्सों का प्रतिनिधित्व करता है)। पानी स्वाभाविक रूप से पहले निचले स्थानों को भरता है। पुराने दिनों में, आप ऊर्जा बचाने के लिए केवल निचले स्थानों को भरते थे। लेकिन नए RDP नियमों के साथ, "पानी का स्तर" इस बात पर निर्भर करता है कि आप चित्र को कितना "वास्तविक" दिखने देने के प्रति सचेत हैं। यदि आप पूर्ण वास्तविकता की मांग करते हैं, तो पानी को कंटेनर को एक बहुत ही विशिष्ट, अनुकूलित तरीके से भरना होगा जो मूल के आकार को सुरक्षित रखता है, भले ही इसमें अधिक "बिट्स" खर्च हों।

शोध पत्र परफेक्ट रियलिज्म (Perfect Realism) के क्षेत्र में भी जाता है, जहाँ पुनर्रचित डेटा सांख्यिकीय रूप से मूल के समान (एक क्लोन की तरह) होना चाहिए। वे कॉपुलास (Copulas) से जुड़ी एक चतुर गणितीय तकनीक का उपयोग करते हैं, जो "गोंद" की तरह है जो एक डेटासेट के विभिन्न हिस्सों के बीच संबंध को थामे रखता है। "गोंद" को व्यक्तिगत भागों से अलग करके, वे जटिल, गैर-गौसियन डेटा (जैसे चित्र जो सरल बेल कर्व का पालन नहीं करते) के लिए संपीड़न की सीमाओं की गणना कर सकते हैं। वे इन परिणामों का अनुकरण मोंटे कार्लो मेथड्स (Monte Carlo methods) का उपयोग करके करते हैं, जो अनिवार्य रूप से उत्तर का अनुमान लगाने के लिए हजारों रैंडम परीक्षण चलाना है, ठीक वैसे ही जैसे मौसम की भविष्यवाणी करने के लिए लाखों वायुमंडलीय स्थितियों का अनुकरण करना।

उन्होंने क्या पाया और आगे क्या है

लेखक पुष्टि करते हैं कि यह नया सिद्धांत केवल एक अच्छा विचार नहीं है; यह एक गणना योग्य वास्तविकता है। वे दिखाते हैं कि जब आप "परसेप्शन" बाधा जोड़ते हैं, तो नियम बदल जाते हैं। उदाहरण के लिए, "परफेक्ट रियलिज्म" के मामले में, आप केवल उन हिस्सों को अनदेखा नहीं कर सकते जिन्हें कंप्रेस करना कठिन है; आपको उनके सांख्यिकीय "फिंगरप्रिंट" को सुरक्षित रखना होगा, भले ही इसमें अधिक बिट्स खर्च हों। यह एक नए प्रकार के "वॉटर-फिलिंग" की ओर ले जाता है जहाँ पानी का स्तर चित्र के हर हिस्से के लिए एक समान नहीं होता; यह सुनिश्चित करने के लिए अनुकूलित होता है कि पूरा चित्र वास्तविक महसूस हो।

वे यह भी बताते हैं कि यह सिद्धांत क्या नहीं करता है। यह केवल यह नहीं कहता कि "सुंदर चित्र बनाने के लिए AI का उपयोग करें।" इसके बजाय, यह उस कठोर गणितीय आधार को प्रदान करता है कि वे AI मॉडल क्यों काम करते हैं। यह सिद्ध करता है कि एक मौलिक सीमा है कि आप किसी चीज़ को कितना कंप्रेस कर सकते हैं जबकि उसे वास्तविक बनाए रखा जा सके, और यह हमें उस सीमा को खोजने के उपकरण देता है।

आगे देखते हुए, शोध पत्र सुझाव देता है कि यह सिद्धांत नेटवर्क्ड कंट्रोल (networked control) (जैसे सेल्फ-ड्राइविंग कार या रोबोट) के डिजाइन को कैसे क्रांतिकारी बना सकता है। यदि एक रोबोट एक कंप्रेस्ड वीडियो फीड का उपयोग करके कमरे में नेविगेट करने की कोशिश कर रहा है, तो उसे केवल वीडियो के गणितीय रूप से सटीक होने की आवश्यकता नहीं है; उसे वीडियो के इतना "वास्तविक" दिखने की आवश्यकता है ताकि रोबोट वहां मौजूद दीवार का भ्रम न पाल ले जो वास्तव में नहीं है। लेखक प्रस्तावित करते हैं कि भविष्य के सिस्टम को डेटा की दर, नियंत्रण की लागत और वास्तविकता के बोध (perception) के बीच एक साथ संतुलन बनाने की आवश्यकता होगी।

संक्षेप में, यह शोध पत्र संचार के एक नए युग के लिए हमें मानचित्र और दिशा-सूचक यंत्र (compass) सौंपता है। यह हमें केवल पिक्सेल गिनने से दूर ले जाता है और "वास्तविकता" गिनना शुरू करता है। यह दिखाता है कि संपीड़न का भविष्य केवल कम डेटा भेजने के बारे में नहीं है; यह सही डेटा भेजने के बारे में है ताकि जो पहुंचे वह उतना ही वास्तविक लगे जितना कि जो चला गया था। चाहे वह टोपी पहने हुए बिल्ली हो या पेड़ से बचता हुआ रोबोट, लक्ष्य एक ही है: पुनर्रचना को इतना अच्छा बनाना कि आप अंतर न कर सकें, भले ही आप न्यूनतम बिट्स का उपयोग कर रहे हों।