🧬 biology

Rate-Distortion Signatures of Generalization and Information Trade-offs

यह शोध पत्र एक दर-विकृति-सैद्धांतिक (rate-distortion-theoretic) ढांचे को प्रस्तुत करता है जो ढलान और वक्रता के ज्यामितीय हस्ताक्षरों का उपयोग करके मानव और मशीन दृष्टि प्रणालियों के सामान्यीकरण व्यापार-बंदों (generalization trade-offs) को अभिलक्षित करता है, जिससे यह प्रकट होता है कि यद्यपि दोनों एक सामान्य हानिपूर्ण-संपीडन (lossy-compression) सिद्धांत का पालन करते हैं, मानव आधुनिक गहन तंत्रों (deep networks) के अधिक तीव्र और भंगुर शासन की तुलना में अधिक सहज और लचीले व्यापार-बंद प्रदर्शित करते हैं।

मूल लेखक: Leyla Roksan Caglar, Pedro A. M. Mediano, Baihan Lin

प्रकाशित 2026-03-03

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Leyla Roksan Caglar, Pedro A. M. Mediano, Baihan Lin

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ⚕️ यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें

मुख्य विचार: केवल यह नहीं कि हम "विफल" होते हैं, बल्कि यह कि हम "कैसे" विफल होते हैं

कल्पना कीजिए कि आप दो ड्राइवरों का परीक्षण कर रहे हैं: एक इंसान और एक सेल्फ-ड्राइविंग कार। दोनों भारी तूफान (एक "परटर्बेशन" जैसे बारिश, कोहरा या चमक) के बीच गाड़ी चला रहे हैं।

पुराना तरीका (मानक मेट्रिक्स): आप केवल अंतिम स्कोर देखते हैं। "क्या वे दुर्घटनाग्रस्त हुए?" यदि इंसान एक बार दुर्घटनाग्रस्त हुआ और कार एक बार दुर्घटनाग्रस्त हुई, तो रिपोर्ट कहती है कि दोनों बराबर हैं। यदि इंसान ने पूरी तरह से ड्राइविंग की और कार दुर्घटनाग्रस्त हो गई, तो रिपोर्ट कहती है कि इंसान बेहतर है।
समस्या: यह दुर्घटना की कहानी को छोड़ देता है। इंसान धीरे-धीरे धीमा हो सकता था, धीरे से मुड़ सकता था और सुरक्षित रूप से रुक सकता था। कार 100 मील प्रति घंटे की रफ्तार से चल रही होगी, बारिश को पूरी तरह से अनदेखा कर रही होगी, और फिर अचानक दीवार से टकरा गई होगी। दोनों "विफल" हुए (या सफल हुए), लेकिन उनके विफलता की शैली (स्टाइल ऑफ फेलियर) पूरी तरह से अलग है।

यह पेपर विजन सिस्टम (दोनों मानव और AI) को मापने का एक नया तरीका पेश करता है जो उस शैली को देखता है। यह पूछता है: जब चीजें गड़बड़ होती हैं, तो एक सिस्टम सटीकता (accuracy) बनाम मजबूती (robustness) के बीच कैसे तालमेल बिठाता है?

नया टूल: "रेट-डिस्टॉर्शन" (Rate-Distortion) मैप

लेखक सूचना सिद्धांत (information theory) की एक अवधारणा का उपयोग करते हैं जिसे रेट-डिस्टॉर्शन (RD) थ्योरी कहा जाता है। आइए इसे एक उपमा (analogy) से समझते हैं:

कल्पना कीजिए कि आप खराब नेटवर्क वाले फोन लाइन पर अपने दोस्त को एक जटिल पेंटिंग का वर्णन करने की कोशिश कर रहे हैं।

रेट (Rate): कितनी जानकारी (शब्द) आप भेज रहे हैं।
डिस्टॉर्शन (Distortion): जब आपका दोस्त उसे सुनता है, तो चित्र कितना बिगड़ जाता है।

यदि आप चाहते हैं कि चित्र एकदम सही हो (कम डिस्टॉर्शन), तो आपको बहुत अधिक विवरण (उच्च रेट) भेजना होगा। यदि आप एक संक्षिप्त सारांश (कम रेट) भेजना चाहते हैं, तो चित्र धुंधला दिखाई देगा (उच्च डिस्टॉर्शन)।

यह पेपर विजन को ठीक इसी फोन कॉल की तरह मानता है।

इनपुट: इमेज (चित्र)।
आउटपुट: लेबल (जैसे, "बिल्ली" या "कुत्ता")।
डिस्टॉर्शन: अनुमान कितना गलत है।
रेट: वह "दिमागी शक्ति" या जानकारी जिसका उपयोग सिस्टम उस अनुमान को लगाने के लिए करता है।

दो "सिग्नेचर" (जीपीएस कोऑर्डिनेट्स)

केवल एक स्कोर देने के बजाय, लेखक प्रत्येक सिस्टम को दो नंबरों का उपयोग करके एक ग्राफ पर मैप करते हैं, जैसे जीपीएस कोऑर्डिनेट्स। ये "सिग्नेचर" हैं:

1. ढलान ( $\beta$ ): सटीकता की "कीमत"

उपमा: एक सीढ़ी की कल्पना करें।
- तीखी ढलान (Steep Slope): थोड़ी सी भी अधिक सटीकता पाने के लिए, आपको प्रयास की एक बहुत बड़ी कीमत चुकानी पड़ती है। यह एक खड़ी दीवार पर चढ़ने जैसा है। एक छोटी सी चूक, और आप गिर जाएंगे।
- मंद ढलान (Gentle Slope): आप थोड़ा सा और प्रयास जोड़कर थोड़ा अधिक सटीक हो सकते हैं। यह एक ढलान वाले रैंप जैसा है।
निष्कर्ष: इंसानों में एक मंद ढलान होती है। हम खराब रोशनी या अजीब कोणों को समझने के लिए धीरे-धीरे खुद को ढाल लेते हैं। डीप लर्निंग मॉडल (AI) अक्सर तीखी ढलान वाले होते हैं। वे आदर्श स्थितियों में बहुत अच्छे होते हैं, लेकिन जैसे ही इमेज में थोड़ा सा शोर (noise) आता है, उनका प्रदर्शन बुरी तरह गिर जाता है।

2. वक्रता ( $\kappa$ ): "भंगुरता" (Brittleness) का कारक

उपमा: एक रबर बैंड बनाम एक कांच की छड़ के बारे में सोचें।
- कम वक्रता (लचीलापन - Low Curvature): एक रबर बैंड की तरह। आप इसे थोड़ा खींच सकते हैं, और यह सुचारू रूप से खिंचता है। यदि आप इसे बहुत अधिक खींचते हैं, तो यह धीरे-धीरे टूटता है।
- उच्च वक्रता (भंगुरता - High Curvature): कांच की छड़ की तरह। यह सामान्य दबाव में पूरी तरह से टिके रहती है, लेकिन जैसे ही यह एक विशिष्ट टूटने के बिंदु पर पहुँचती है, यह तुरंत चकनाचूर हो जाती है।
निष्कर्ष: इंसान लचीले (कम वक्रता) होते हैं। हम सुचारू रूप से अनुकूलित होते हैं। अधिकांश AI मॉडल भंगुर (उच्च वक्रता) होते हैं। वे सामान्य परिस्थितियों में बहुत अच्छा काम करते हैं, लेकिन एक विशिष्ट प्रकार का शोर आते ही वे विनाशकारी रूप से विफल हो जाते हैं।

उन्होंने क्या खोजा

शोधकर्ताओं ने 12 विभिन्न प्रकार के इमेज डिस्टॉर्शन (जैसे धुंधलापन, शोर, या रंग परिवर्तन) के विरुद्ध 18 अलग-अलग AI मॉडल का मानव स्वयंसेवकों के साथ परीक्षण किया।

AI और इंसान अलग प्रजातियां हैं: भले ही एक AI का सटीकता स्कोर किसी इंसान के बराबर हो, लेकिन उसका "जीपीएस सिग्नेचर" एक अलग जगह पर होता है। AI आमतौर पर अधिक तीखा (steeper) और अधिक भंगुर (more brittle) होता है।
ट्रेनिंग के तरीके हमेशा मदद नहीं करते: शोधकर्ताओं ने "रोबस्टनेस ट्रेनिंग" (AI को शोर संभालने के लिए सिखाना) का परीक्षण किया।
- कुछ ट्रेनिंग ने AI को अधिक सटीक बनाया लेकिन उसे अधिक "मानव जैसा" नहीं बनाया। इसने उसे बस और अधिक भंगुर (brittle) बनने में बेहतर बना दिया।
- कुछ ट्रेनिंग ने AI को इंसान की तरह व्यवहार करने के लिए बनाया (सुचारू ढलान), लेकिन यह समग्र रूप से कम कुशल (efficient) हो गया।
- मुख्य निष्कर्ष: आप AI को केवल अधिक सटीक बनाकर "ठीक" नहीं कर सकते। आपको इसकी ज्यामिति (geometry) को ठीक करना होगा—कि यह प्रयास और त्रुटि के बीच के तालमेल को कैसे संभालता है।

यह क्यों महत्वपूर्ण है

इस पेपर को AI के लिए एक नए प्रकार के मेडिकल चेकअप के रूप में सोचें।

पुराना चेकअप: "क्या मरीज स्वस्थ है?" (टेस्ट स्कोर के आधार पर हाँ/नहीं)।
नया चेकअप: "मरीज तनाव के प्रति कैसी प्रतिक्रिया देता है?" (क्या उन्हें धीरे-धीरे पसीना आता है, या उन्हें पैनिक अटैक आता है?)

यह नया ढांचा वैज्ञानिकों को यह देखने की अनुमति देता है कि दो AI मॉडल एक मानक परीक्षण पर समान दिख सकते हैं, लेकिन एक "स्मूथ ऑपरेटर" है जो आश्चर्यों को अच्छी तरह से संभालता है, जबकि दूसरा एक "ग्लास कैनन" (कांच का गोला) है जो मजबूत दिखता है लेकिन आसानी से टूट जाता है।

संक्षेप में: यह पेपर हमें AI के विजन की व्यक्तित्व (personality) को मापने का एक तरीका देता है, जो यह प्रकट करता है कि हालांकि मशीनें स्मार्ट हो रही हैं, फिर भी वे अभी भी इंसानों की तरह सोचती और विफल होती हैं, जो कि बहुत अलग है।

यहाँ शोध पत्र "Rate–Distortion Signatures of Generalization and Information Trade-off in Humans and Deep Vision Models" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

आधुनिक विज़न सिस्टम (जैविक और कृत्रिम दोनों) एक केंद्रीय चुनौती का सामना करते हैं: उन नवीन दृश्य स्थितियों (जैसे शोर, कंट्रास्ट परिवर्तन, दृश्य कोण परिवर्तन) के प्रति सामान्यीकरण (generalizing) करना जो प्रशिक्षण डेटा में कम प्रतिनिधित्व रखते हैं। जबकि डीप लर्निंग मॉडल मानक बेंचमार्क पर उच्च सटीकता प्राप्त कर चुके हैं, वे वितरण बदलाव (distribution shifts) या प्रतिकूल परिवर्तनों (adversarial perturbations) के तहत मानव दृष्टि की तुलना में अक्सर "भंगुर" (brittle) व्यवहार प्रदर्शित करते हैं।

वर्तमान मूल्यांकन विधियाँ मुख्य रूप से परिणाम मेट्रिक्स (जैसे सटीकता, मजबूती वक्र/robustness curves) पर निर्भर करती हैं। ये मेट्रिक्स प्रदर्शन का सारांश तो देते हैं, लेकिन अंतर्निहित ट्रेड-ऑफ संरचना (fidelity बनाम robustness) को प्रकट करने में विफल रहते हैं। विशेष रूप से, वे यह स्पष्ट नहीं कर पाते कि प्रणालियाँ कैसे विफल होती हैं, उनके भ्रम पैटर्न (confusion patterns) की प्रकृति क्या है, और मजबूती में सुधार करने की सीमांत लागत (marginal cost) क्या है। एक ऐसे नैदानिक ढांचे (diagnostic framework) की आवश्यकता है जो सरल सटीकता स्कोर से परे सामान्यीकरण व्यवहार की ज्यामिति (geometry) को परिभाषित कर सके।

2. कार्यप्रणाली (Methodology)

लेखक एक रेट-डिस्टॉर्शन (RD) सैद्धांतिक ढांचे को पेश करते हैं जो उद्दीपन-अनुक्रिया (stimulus-response) व्यवहार को एक प्रभावी संचार चैनल के रूप में मानता है। यह दृष्टिकोण मॉडल-अज्ञेयवादी (model-agnostic) है, जिसका अर्थ है कि इसे आंतरिक तंत्रिका सक्रियणों (neural activations) तक पहुँच की आवश्यकता नहीं है; यह केवल अवलोकन योग्य व्यवहार (confusion matrices) पर निर्भर करता है।

मुख्य ढांचा चरण:

व्यवहार संबंधी चैनल निर्माण (Behavioral Channel Construction):
- प्रत्येक सिस्टम (मानव या मॉडल) और स्थिति के लिए, ट्रायल काउंट से एक $K \times K$ कन्फ्यूजन मैट्रिक्स बनाया जाता है।
- इसे एक प्रायोगिक सशर्त वितरण $P(y|x)$ बनाने के लिए सामान्यीकृत किया जाता है, जो एक प्रभावी व्यवहार संबंधी चैनल का प्रतिनिधित्व करता है।
डिस्टॉर्शन ज्योमेट्री का अनुमान लगाना (Inferring Distortion Geometry):
- एक निश्चित 0-1 लॉस मानने के बजाय, यह शोध पत्र मैक्सिमम एपोस्टेरिकiori (MAP) अनुकूलन का उपयोग करके प्रायोगिक कन्फ्यूजन से एक लागत मैट्रिक्स ( $\rho$ ) का अनुमान लगाता है। यह क्रमिक त्रुटि संरचनाओं (जैसे, "बिल्ली" को "कुत्ते" के साथ भ्रमित करना "बिल्ली" को "कार" के साथ भ्रमित करने की तुलना में कम कष्टदायक है) को कैप्चर करता है।
रेट-डिस्टॉर्शन वक्र अनुमान (Rate–Distortion Curve Estimation):
- अनुमानित लागत मैट्रिक्स का उपयोग करते हुए, लेखक ब्लाहुट-आरिमोटो (Blahut–Arimoto) फिक्स्ड-पॉइंट अपडेट्स के माध्यम से व्यवहार संबंधी RD फ्रंटियर $R(D)$ को ट्रेस करते हैं।
- यह सूचना दर (Rate, $R$ , म्यूचुअल इन्फॉर्मेशन) और अपेक्षित डिस्टॉर्शन ( $D$ ) के बीच के ट्रेड-ऑफ को इनवर्स-टेम्परेचर पैरामीटर्स ( $\lambda$ ) के ग्रिड के माध्यम से ट्रेस करता है।
ज्यामितीय हस्ताक्षर (Geometric Signatures):
- परिणामी RD फ्रंटियर को दो व्याख्या योग्य ज्यामितीय मापदंडों द्वारा सारांशित किया जाता है:
- ढलान ( $\beta$ ): डिस्टॉर्शन को कम करने की सूचनात्मक लागत (ट्रेड-ऑफ की तीव्रता)।
- वक्रता ( $\kappa$ ): स्थानीय ढलानों का फैलाव, जो मोटे और सूक्ष्म-स्तरीय व्यवहार के बीच संक्रमण की अचानकता (भंगुरता बनाम सुगमता) को कैप्चर करता है।
- AUC: वक्र के नीचे का क्षेत्र, जो समग्र दक्षता के माप के रूप में कार्य करता है।

3. प्रयोगात्मक सेटअप (Experimental Setup)

डेटासेट: यह अध्ययन 12 नियंत्रित व्यवधान परिवारों (जैसे शोर, ब्लर, कंट्रास्ट, रोटेशन, ईदोलॉन डिस्टॉर्शन) के साथ एक 16-वे इमेजनेट-व्युत्पन्न वर्गीकरण कार्य का उपयोग करता है।
विषय (Subjects):
- मानव: GEN और ModelZoo रिपॉजिटरी से साइकोफिज़िक्स डेटा (~168k ट्रायल कुल)।
- मॉडल: विभिन्न आर्किटेक्चर और प्रशिक्षण व्यवस्थाओं वाले 18 डीप विज़न मॉडल, जिनमें शामिल हैं:
  - मानक CNNs (ResNet, VGG, GoogLeNet)।
  - ट्रांसफॉर्मर (ViT, CLIP)।
  - मजबूती-प्रशिक्षित मॉडल (Distortion-trained, All-noise, Specialised)।
  - सेल्फ-सुपरवाइज्ड और सेमी-सुपरवाइजड मॉडल।

4. मुख्य परिणाम (Key Results)

A. ढांचे की वैधता (Validity of the Framework)

RD ढांचा दोनों मनुष्यों और मॉडलों के बीच कन्फ्यूजन पैटर्न की प्रमुख संरचना (कम RMSE) को सफलतापूर्वक कैप्चर करता है।
जबकि सामान्यीकरण ग्रेडिएंट आमतौर पर एक एक्सपोनेंशियल नियम का पालन करते हैं, ग्रेडिएंट का आकार (एक साधारण एक्सपोनेंशियल से विचलन) आर्किटेक्चर और प्रशिक्षण व्यवस्था के अनुसार व्यवस्थित रूप से भिन्न होता है।

B. मनुष्यों बनाम मॉडलों के लिए विशिष्ट RD हस्ताक्षर (Distinct RD Signatures)

मानव RD स्पेस के उस क्षेत्र में स्थित होते हैं जहाँ कम ढलान ( $\beta$ ) और कम वक्रता ( $\kappa$ ) होती है। यह सुचारू, अधिक लचीले ट्रेड-ऑफ को दर्शाता है जहाँ स्थितियाँ खराब होने पर सटीकता धीरे-धीरे घटती है।
डीप विज़न मॉडल आम तौर पर उन क्षेत्रों में स्थित होते हैं जहाँ अधिक तीव्र ढलान और उच्च वक्रता होती है, जो अधिक भंगुर (brittle) संक्रमणों को दर्शाता है।
- लोकल मॉडल्स (जैसे, BagNet) सबसे बड़ा विचलन (उच्चतम वक्रता) दिखाते हैं।
- विज़न ट्रांसफॉर्मर वक्रता के मामले में मनुष्यों के सबसे करीब थे, लेकिन फिर भी अलग थे।
सटीकता से अलगाव (Dissociation from Accuracy): मॉडल मानव सटीकता से मेल खा सकते हैं लेकिन बहुत अलग RD ज्योमेट्री प्रदर्शित कर सकते हैं। उदाहरण के लिए, CLIP ने मानव सटीकता से मेल खाया लेकिन काफी भिन्न $\beta$ और $\kappa$ मानों के साथ, जो यह सिद्ध करता है कि RD ज्योमेट्री उस जानकारी को कैप्चर करती है जो सटीकता मेट्रिक्स में मौजूद नहीं होती है।

C. प्रशिक्षण व्यवस्थाओं का प्रभाव (Impact of Training Regimes)

अध्ययन ने विश्लेषण किया कि कैसे विशिष्ट प्रशिक्षण हस्तक्षेप मॉडलों को RD स्पेस में स्थानांतरित करते हैं:

डिस्टॉर्शन-ट्रेनिंग: इन मॉडलों को ज्यामितीय रूप से मनुष्यों के करीब (कम $\beta$ और $\kappa$ ) ले गया, लेकिन इसके बदले में सटीकता और दक्षता (AUC) में कमी आई।
ऑल-नॉइज़ / स्पेशलाइज्ड ट्रेनिंग: इन व्यवस्थाओं ने सटीकता और दक्षता (उच्च AUC) में सुधार किया, लेकिन मानव वक्रता को पार कर दिया (overshot)। वे मनुष्यों की तुलना में अधिक भंगुर (उच्च $\kappa$ ) हो गए, भले ही वे बेहतर प्रदर्शन कर रहे थे।
ट्रांसलेशन बनाम ट्रांसफॉर्मेशन: प्रशिक्षण व्यवस्थाएं मुख्य रूप से एक साझा RD लैंडस्केप के भीतर मॉडल के स्थान को स्थानांतरित (translate) करती हैं, न कि सटीकता-ज्यामिति संबंध के मूल रूप को मौलिक रूप से बदलती हैं।

5. मुख्य योगदान (Key Contributions)

नया मूल्यांकन मीट्रिक: एक संक्षिप्त, मॉडल-अज्ञेयवादी "RD सिग्नेचर" ( $\beta, \kappa, \text{AUC}$ ) पेश करता है जो सामान्यीकरण ट्रेड-ऑफ की ज्यामिति को मात्रात्मक रूप से मापता है।
व्यवहार संबंधी लेंस: यह प्रदर्शित करता है कि सूचना सिद्धांत (information theory) का उपयोग आंतरिक मॉडल एक्सेस के बिना केवल अवलोकन योग्य व्यवहार (कन्फ्यूजन मैट्रिसेस) पर किया जा सकता है, जिससे स्टोकेस्टिक मनुष्यों और नियत (deterministic) नेटवर्क के बीच सीधा तुलना संभव होती है।
छिपे हुए ट्रेड-ऑफों का खुलासा: यह दिखाता है कि "मजबूती" (robustness) एक अखंड गुण नहीं है। हस्तक्षेप सटीकता में सुधार कर सकते हैं जबकि सिस्टम को कम मानव-समान (जैसे, अधिक भंगुर) बना सकते हैं।
पारेटो फ्रंटियर विज़ुअलाइज़ेशन: विभिन्न आर्किटेक्चर और प्रशिक्षण व्यवस्थाओं को एक साझा ट्रेड-ऑफ सतह पर मैप करता है, जिससे पता चलता है कि मनुष्य और मॉडल व्यवस्थित रूप से भिन्न क्षेत्रों में स्थित हैं।

6. महत्व और निहितार्थ (Significance and Implications)

सटीकता से परे: यह शोध पत्र तर्क देता है कि मजबूती का मूल्यांकन करने के लिए सटीकता पर्याप्त नहीं है। दो प्रणालियों के समान सटीकता हो सकती है लेकिन उनके विफलता मोड (सुचारू बनाम अचानक) मौलिक रूप से भिन्न हो सकते हैं।
डिज़ाइन मार्गदर्शन: हस्ताक्षर चिकित्सकों के लिए कार्रवाई योग्य निदान प्रदान करते हैं। सुरक्षा-महत्वपूर्ण अनुप्रयोगों के लिए, कोई व्यक्ति उस मॉडल को पसंद कर सकता है जिसमें कम वक्रता (सुचारू गिरावट) हो, भले ही उसकी शिखर सटीकता थोड़ी कम हो।
"मानव-समानता" को समझना: यह अध्ययन स्पष्ट करता है कि "मानव-समान" सामान्यीकरण अक्ष-निर्भर (axis-dependent) है। कुछ प्रशिक्षण विधियां मॉडलों को ढलान (slope) में अधिक मानव-समान बनाती हैं, लेकिन वक्रता (curvature) में कम मानव-समान बनाती हैं।
भविष्य की दिशाएं: यह ढांचा प्रतिकूल रूप से प्रशिक्षित (adversarially trained) मॉडलों का मूल्यांकन करने और यह समझने के लिए एक मार्ग सुझाता है कि आंतरिक प्रतिनिधित्व परिवर्तन व्यवहार संबंधी ट्रेड-ऑफ ज्योमेट्री में कैसे मैप होते हैं।

संक्षेप में, यह कार्य सामान्यीकरण के "ब्लैक बॉक्स" को विघटित करने के लिए एक कठोर, सूचना-सैद्धांतिक उपकरण प्रदान करता है, जो यह प्रकट करता है कि विज़न सिस्टम की मजबूती को समझने के लिए त्रुटियों का परिमाण (magnitude) जितना ही महत्वपूर्ण उनकी त्रुटियों की ज्यामिति (geometry of errors) है।