💻 computer science

IncreFA: Breaking the Static Wall of Generative Model Attribution

IncreFA एक नवीन ढांचा है जो पदानुक्रमित वास्तुशिल्प बाधाओं और एक लेटेंट मेमोरी बैंक का लाभ उठाकर उभरते मॉडलों के साथ निरंतर अनुकूलन करते हुए, जनरेटिव मॉडल एट्रिब्यूशन को एक संरचित वृद्धिशील शिक्षण समस्या के रूप में पुनर्व्याख्यायित करता है, जिससे नए इंक्रीमेंटल एट्रिब्यूशन बेंचमार्क (IABench) पर अत्याधुनिक प्रदर्शन और उच्च अनदेखे डिटेक्शन दर प्राप्त होती है।

मूल लेखक: Haotian Qin, Dongliang Chang, Yueying Gao, Lei Chen, Zhanyu Ma

प्रकाशित 2026-04-21

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC0 1.0

मूल लेखक: Haotian Qin, Dongliang Chang, Yueying Gao, Lei Chen, Zhanyu Ma

मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ IncreFA पेपर का सरल भाषा और रचनात्मक उपमाओं (analogies) का उपयोग करके दिया गया विवरण है।

समस्या: नकली छवियों का "व्हैक-ए-मोल" (Whac-A-Mole)

कल्प Imagine कीजिए कि आप एक जासूस हैं जो यह पहचानने की कोशिश कर रहे हैं कि एक विशिष्ट चित्र किस कलाकार ने बनाया है। अतीत में, आपको केवल पाँच प्रसिद्ध चित्रकारों को पहचानना होता था। आप उनकी शैलियों को पूरी तरह से याद रख सकते थे।

लेकिन आज, AI इमेज जनरेटर्स (जैसे Midjourney, DALL-E, Stable Diffusion) हर एक महीने में नए रूप में सामने आ रहे हैं। यह "व्हैक-ए-मोल" के खेल जैसा है। जैसे ही आप एक कलाकार के "मोल" (एक नकली छवि) को पहचानना सीखते हैं, एक नया कलाकार थोड़ा अलग अंदाज़ के साथ सामने आ जाता है।

पुराने तरीके दोषपूर्ण थे:

स्थिर डिटेक्टर (Static Detectors): पुराने तरीके केवल 5 ज्ञात "मोलों" की तस्वीरों वाले "वांटेड पोस्टर" की तरह थे। जैसे ही कोई नया मोल प्रकट होता, वह पोस्टर बेकार हो जाता।
"भूलने" का अभिशाप (The "Forget" Curse): यदि आप अपने जासूस को नए मोल को पहचानना सिखाने की कोशिश करते, तो वे अक्सर पुराने मोलों को पहचानने की क्षमता खो देते थे। इसे "कैटास्ट्रोफिक फॉरगेटिंग" (catastrophic forgetting) कहा जाता है।
"अज्ञात" की समस्या (The "Unknown" Problem): कभी-कभी, छवि किसी भी ज्ञात कलाकार द्वारा नहीं बनाई जाती थी। पुराने डिटेक्टर बस अंदाज़ा लगाते थे, जो अक्सर गलत होता था।

समाधान: IncreFA (एक "जीवंत जासूस")

लेखकों ने IncreFA बनाया, एक नई प्रणाली जो केवल कलाकारों की सूची को याद नहीं करती। इसके बजाय, यह सीखना सीखती है। यह इमेज एट्रिब्यूशन (image attribution) को एक बार होने वाली परीक्षा के बजाय एक निरंतर यात्रा के रूप में देखती है।

यह कैसे काम करता है, इसके लिए तीन मुख्य रूपकों (metaphors) का उपयोग किया गया है:

1. वंशावली या फैमिली ट्री (Hierarchical Constraints)

कल्पना कीजिए कि सभी AI इमेज जनरेटर्स एक विशाल वंशावली (family tree) का हिस्सा हैं।

दादा-दादी/नाना-नानी: यहाँ बड़े परिवार हैं जैसे "डिफ्यूजन मॉडल्स" (जो वर्तमान में सबसे लोकप्रिय हैं) और "GANs" (पुराने प्रकार)।
चचेरे भाई-बहन (Cousins): "डिफ्यूजन" परिवार के भीतर, Stable Diffusion 1.5, 2.0 और XL जैसे चचेरे भाई-बहन हैं। वे बहुत समान दिखते हैं क्योंकि उनका DNA साझा है।

पुराने डिटेक्टर हर चचेरे भाई-बहन को एक पूरी तरह से अलग अजनबी के रूप में देखते थे। IncreFA अधिक स्मार्ट है। यह वंशावली की संरचना को सीखता है।

यह जानता है कि सभी "डिफ्यूजन" चचेरे भाई-बहन एक सामान्य "पारिवारिक वाइब" (invariants) साझा करते हैं।
यह उन सूक्ष्म अंतरों को पहचानना सीखता है जो "Stable Diffusion 1.5" को "2.0" से अलग बनाते हैं (idiosyncrasies)।
उपमा: भीड़ में हर चेहरे को याद रखने के बजाय, यह परिवार के नियमों को सीखता है। यदि यह एक ऐसे नए चचेरे भाई को देखता है जिससे यह कभी नहीं मिला, तो यह अनुमान लगा सकता है, "ओह, यह व्यक्ति डिफ्यूजन परिवार का हिस्सा लग रहा है," भले ही इसे अभी इसका नाम न पता हो।

2. रेखाचित्रों का "मेमोरी बैंक" (Latent Memory Bank)

आमतौर पर, पुराने कलाकारों को याद रखने के लिए, आपको उनके द्वारा बनाई गई हर छवि का एक विशाल फोटो एल्बम रखने की आवश्यकता होती है। यह बहुत अधिक जगह लेता है और धीमा होता है।

IncreFA फोटो एल्बम के बजाय एक स्केचबुक (Sketchbook) का उपयोग करता है।

यह कलाकारों के दिखने के तरीके के पूर्ण, उच्च-रिज़ॉल्यूशन वाली छवियों को सहेजता नहीं है। इसके बजाय, यह उनके संक्षिप्त "रेखाचित्र" (गणितीय सारांश जिन्हें लेटेंट फीचर्स कहा जाता है) सहेजता है।
उपमा: कल्पना कीजिए कि आपको सेब क्या है, यह याद रखने के लिए आपके द्वारा खाए गए हर सेब की फोटो रखने की ज़रूरत नहीं है। आपको बस "लाल, गोल, कुरकुरा" के मानसिक स्केच की आवश्यकता है। IncreFA इन मानसिक स्केचों को रखता है। जब एक नया कलाकार आता है, तो यह उन चीज़ों के "नकली" उदाहरण बनाने के लिए इन पुराने स्केचों को आपस में मिला देता है जिन्हें इसने अभी तक नहीं देखा है, जिससे इसे अज्ञात को पहचानने का अभ्यास करने में मदद मिलती है।

3. "अज्ञात" का रडार (Open-Set Awareness)

क्या होता है यदि कोई तस्वीर किसी ऐसे नए कलाकार द्वारा बनाई गई है जो आपकी सूची में नहीं है?

पुराने डिटेक्टर: वे जबरदस्ती एक अनुमान लगाते, जैसे, "यह निश्चित रूप से कलाकार A द्वारा बनाया गया है!" (भले ही वह गलत हो)।
IncreFA: इसमें एक अंतर्निहित रडार है। यह जानता है कि कब कोई छवि किसी भी ज्ञात कलाकार के "पारिवारिक वाइब" में फिट नहीं बैठती है।
उपमा: यदि आप एक कमरे में जाते हैं और एक ऐसे जीव को देखते हैं जो बिल्ली, कुत्ते और टोस्टर का मिश्रण लगता है, तो आपका मस्तिष्क कहता है, "रुको, यह बिल्ली या कुत्ता नहीं है।" IncreFA भी ऐसा ही करता है। यह गलत अनुमान लगाने के बजाय कहता है, "मैं इस कलाकार को नहीं पहचानता।"

परिणाम: यह क्यों महत्वपूर्ण है?

शोधकर्ताओं ने IABench नामक एक विशाल नए बेंचमार्क पर IncreFA का परीक्षण किया, जिसमें 2022 से 2025 के बीच जारी किए गए 28 विभिन्न AI मॉडल शामिल हैं।

यह भूला नहीं: जैसे-जैसे नए मॉडल जोड़े गए, IncreFA पुराने को पहचानने में बेहतर होता गया, जबकि अन्य तरीके भ्रमित हो गए।
इसने अज्ञात को पकड़ा: इसने "अनदेखे" (unseen) मॉडलों को 98.93% बार सही ढंग से पहचाना।
यह कुशल है: पूर्ण तस्वीरों के बजाय "स्केचबुक" (लेटेंट मेमोरी) का उपयोग करके, यह कंप्यूटर मेमोरी के विशाल हिस्से को बचाता है।

मुख्य निष्कर्ष

IncreFA खेल बदल देता है। हर नए नकली चित्र को रोकने के लिए दीवार बनाने के बजाय (क्योंकि दीवार को बार-बार तोड़ा जाता है), यह एक स्मार्ट, अनुकूलन योग्य प्रणाली बनाता है जो AI के साथ विकसित होती है।

यह हमें सिखाता है कि ऐसी दुनिया में जहाँ AI हर महीने बदलता है, इसे पहचानने के हमारे उपकरण भी ऐसे होने चाहिए जो बिना अभिभूत हुए सीख सकें, अनुकूलित हो सकें और याद रख सकें। यह केवल अतीत को पहचानने के बारे में नहीं है; यह भविष्य के लिए तैयार रहने के बारे में है।

यहाँ शोध पत्र "IncreFA: Breaking the Static Wall of Generative Model Attribution" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

AI जनरेटिव मॉडल्स (डिफ्यूजन, एडवरसेरियल, और ऑटोरेग्रेसिव) के तीव्र विकास ने पारंपरिक इमेज एट्रिब्यूशन (छवि स्रोत निर्धारण) विधियों को अप्रचलित बना दिया है। मौजूदा दृष्टिकोण दो महत्वपूर्ण सीमाओं का सामना करते हैं:

स्थिर धारणा (Static Assumption): अधिकांश विधियाँ "क्लोज्ड-सेट" धारणा के तहत कार्य करती हैं, जो ज्ञात जनरेटरों के एक निश्चित सेट पर प्रशिक्षित होती हैं। जब नए मॉडल रिलीज़ होते हैं, तो वे विफल हो जाती हैं और उन्हें शून्य से फिर से प्रशिक्षित करने की आवश्यकता होती है।
कैटास्ट्रोफिक फॉरगेटिंग और नेगेटिव ट्रांसफर (Catastrophic Forgetting & Negative Transfer): पारंपरिक क्लास-इन्क्रीमेंटल लर्निंग (CIL) विधियाँ यहाँ संघर्ष करती हैं क्योंकि जनरेटिव मॉडल्स स्वतंत्र क्लासेस नहीं हैं; वे पदानुक्रमित वंशावली (hierarchical lineages) बनाते हैं (जैसे, Stable Diffusion 1.4 $\to$ 1.5 $\to$ 2.0)। नए संस्करण अपने पूर्ववर्तियों से सांख्यिकीय विशेषताओं को विरासत में प्राप्त करते हैं, जिससे मानक रिप्ले या रेगुलाइजेशन तकनीकों को लागू करने पर फीचर ड्रिफ्ट और नेगेटिव ट्रांसफर होता है।
ओपन-सेट ब्लाइंडनेस (Open-Set Blindness): वास्तविक दुनिया के परिदृश्यों में ज्ञात जनरेटरों, वास्तविक छवियों और अज्ञात (unseen) जनरेटरों के बीच अंतर करने की आवश्यकता होती है। अधिकांश एट्रिब्यूशन पाइपलाइन में उच्च फॉल्स अलार्म दरों के बिना इन अनदेखे उदाहरणों का पता लगाने के लिए मजबूत तंत्रों का अभाव है।

लक्ष्य: एक ऐसा एट्रिब्यूशन फ्रेमवर्क विकसित करना जो समय के साथ नए जनरेटिव मॉडल्स को निरंतर सीख सके, पिछले मॉडल्स का ज्ञान बनाए रख सके, मॉडल्स के बीच पदानुक्रमित संबंधों का सम्मान कर सके, और अनदेखे जनरेटरों का मजबूती से पता लगा सके।

2. कार्यप्रणाली: IncreFA फ्रेमवर्क (Methodology: IncreFA Framework)

लेखक IncreFA का प्रस्ताव करते हैं, जो एट्रिब्यूशन को एक संरचित इंक्रीमेंटल लर्निंग समस्या के रूप में पुनर्परिभाषित करता है। यह एक फ्रोजन प्रीट्रेन्ड विजुअल एनकोडर (जैसे, CLIP ViT-B/16) पर कार्य करता है और दो मुख्य तंत्र पेश करता है:

A. पदानुक्रमित बाधाएं (Hierarchical Constraints - Structural Priors)

मॉडल्स को स्वतंत्र क्लासेस मानने के बजाय, IncreFA स्पष्ट रूप से जनरेटिव मॉडल्स की आर्किटेक्चरल वंशावली (architectural ancestry) को मॉडल करता है।

लेटेंट स्पेस डिकंपोजिशन (Latent Space Decomposition): लेटेंट स्पेस को विभिन्न परिवारों (जैसे, डिफ्यूजन, GAN, AR) के लिए ऑर्थोगोनल सबस्पेस में और उसके भीतर विशिष्ट मॉडल्स में विभाजित किया जाता है।
लर्नेबल ऑर्थोगोनल प्रायर्स (Learnable Orthogonal Priors): यह विधि दो प्रकार के एंकर्स सीखती है:
1. फाइन-ग्रेन्ड एंकर्स ( $\hat{p}_{k,j}$ ): विशिष्ट मॉडल्स के लिए यूनिट-नॉर्म प्रोटोटाइप्स।
2. कोर्स-लेवल एंकर्स ( $\hat{P}_k$ ): पूरे परिवारों के प्रोटोटाइप्स।
लॉस फंक्शन्स (Loss Functions):
- ऑर्थोगोनैलिटी लॉस ( $L_1$ ): विशिष्ट मॉडल्स के बीच भ्रम को रोकने के लिए सभी मॉडल प्रोटोटाइप्स के बीच कोणीय पृथक्करण (angular separation) को लागू करता है।
- रेगुलराइजेशन लॉस ( $L_2$ ): यह सुनिश्चित करता है कि एक ही परिवार के मॉडल्स एक सामान्य सबस्पेस साझा करें (फैमिली इनवेरियंट्स को कैप्चर करने के लिए) जबकि वे अन्य परिवारों के प्रति ऑर्थोगोनल रहें।
- परिणाम: यह फैमिली-लेवल इनवेरियंट्स को मॉडल-विशिष्ट विशिष्टताओं (idiosyncrasies) से अलग करता है, जिससे इंक्रीमेंटल अपडेट के दौरान नेगेटिव ट्रांसफर रुकता है।

B. लेटेंट मेमोरी बैंक (Latent Memory Bank - Continual Adaptation)

"फॉरगेटिंग" की समस्या को संभालने और कच्चे डेटा (raw images) को संग्रहीत किए बिना अनदेखे डेटा का अनुकरण करने के लिए:

कॉम्पैक्ट लेटेंट रिप्ले (Compact Latent Replay): कच्चे चित्र संग्रहीत करने के बजाय (जो मेमोरी-इंटेंसिव है और गोपनीयता का जोखिम उठाता है), सिस्टम कॉम्पैक्ट एनकोडर फीचर्स (लेटेंट्स) को संग्रहीत करता है। इन्हें वर्तमान प्रोजेक्शन हेड के माध्यम से पुनः एनकोड किया जाता है ताकि प्रोजेक्शन ड्रिफ्ट को रोका जा सके।
अनदेखे डेटा के सिमुलेशन के लिए रैंडम मिक्सिंग (Random Mixing for Unseen Simulation): ओपन-सेट जागरूकता में सुधार के लिए, सिस्टम अलग-अलग क्लासेस के लेटेंट वेक्टर्स के रैखिक इंटरपोलेशन ( $z_u = \beta z_1 + (1-\beta)z_2$ $z_{u} = β z_{1} + (1 - β) z_{2}$ ) के माध्यम से छद्म-अनदेखे नमूने (pseudo-unseen samples) उत्पन्न करता है।
- ये मिश्रित नमूने निर्णय सीमाओं (decision boundaries) के पास कम घनत्व वाले क्षेत्रों में स्थित होते हैं, जो "हार्ड नेगेटिव्स" के रूप में कार्य करते हैं।
ओपन-सेट कैलिब्रेशन (Open-Set Calibration): इन छद्म-अनदेखे नमूनों पर अत्यधिक आत्मविश्वास को दंडित करने के लिए एक थ्रेशोल्ड-आधारित क्लासिफायर को प्रशिक्षित किया जाता है। इन्फरेंस के दौरान, यदि अधिकतम सॉफ़्टमैक्स प्रोबेबिलिटी कैलिब्रेटेड थ्रेशोल्ड $\tau$ से नीचे है, तो छवि को "Unseen" के रूप में चिह्नित किया जाता है।

C. समग्र उद्देश्य (Overall Objective)

कुल लॉस फंक्शन निम्नलिखित को जोड़ता है:

मानक वर्गीकरण लॉस ( $L_{cls}$ )।
पदानुक्रमित ऑर्थोगोनैलिटी और रेगुलराइजेशन लॉस ( $L_1, L_2$ )।
ओपन-सेट कैलिब्रेशन लॉस ( $L_u$ )।
लेटेंट मेमोरी बैंक से रिप्ले लॉस ( $L_{replay}$ )।

3. प्रमुख योगदान (Key Contributions)

इंक्रीमेंटल एट्रिब्यूशन फॉर्मूलेशन: इमेज एट्रिब्यूशन को एक संरचित इंक्रीमेंटल लर्निंग समस्या के रूप में मानने वाला पहला फ्रेमवर्क, जो विशेष रूप से जनरेटिव मॉडल्स की पदानुक्रमित प्रकृति को संबोधित करता है।
IABench बेंचमार्क: एक नया बेंचमार्क जिसमें 2022 और 2025 के बीच जारी 28 जनरेटिव मॉडल्स (GANs, Diffusions, और ARs सहित) शामिल हैं, जिसमें वास्तविक दुनिया के मॉडल विकास का अनुकरण करने के लिए टेम्पोरल ऑर्डर स्प्लिट्स दिए गए हैं।
नवाचारी आर्किटेक्चरल डिज़ाइन: Hierarchical Constraints (वंशानुक्रम को संभालने के लिए) और Latent Memory Banks (मेमोरी दक्षता और ओपन-सेट सिमुलेशन को संभालने के लिए) का एकीकरण एक मजबूत, डेटा-कुशल प्रणाली बनाता है।
स्टेट-ऑफ-द-आर्ट परफॉरमेंस: निरंतर शिक्षण (पुराना ज्ञान बनाए रखना) और ओपन-सेट डिटेक्शन (अज्ञात मॉडल्स की पहचान करना) दोनों में श्रेष्ठ प्रदर्शन प्रदर्शित किया।

4. प्रयोगात्मक परिणाम (Experimental Results)

प्रयोग दो प्रोटोकॉल के तहत किए गए: EP1 (Incremental) और EP2 (Static/Closed-Set)।

इंक्रीमेंटल परफॉरमेंस (EP1):
- IncreFA ने अंतिम कार्य (T7) में 78.80% औसत एट्रिब्यूशन सटीकता प्राप्त की, जो दूसरे सर्वश्रेष्ठ तरीके (MOS - 75.68%) से काफी बेहतर है।
- इसने अनदेखे मॉडल्स का पता लगाने में 98.93% सटीकता (Unseen Accuracy) बनाए रखी, जबकि अन्य विधियों का प्रदर्शन काफी गिर गया या उनमें ओपन-सेट क्षमता का अभाव था।
- L2P और DualPrompt जैसे बेसलाइन्स गंभीर फॉरगेटिंग (सटीकता ~35-40% तक गिर गई) का शिकार हुए क्योंकि वे ओवरलैपिंग डिस्ट्रीब्यूशन को संभालने में असमर्थ थे।
स्टैटिक परफॉरमेंस (EP2):
- इंक्रीमेंटल बाधाओं के बिना भी, IncreFA ने 95.93% औसत एट्रिब्यूशन सटीकता और 99.97% ऑथेंटिसिटी डिटेक्शन (Real vs Fake) प्राप्त किया, जो DNA-Net और RepMix जैसे विशिष्ट एट्रिब्यूशन मॉडल्स से बेहतर है।
एब्लेशन स्टडीज (Ablation Studies):
- पदानुक्रमित बाधाओं ( $L_1, L_2$ ) को हटाने से प्रदर्शन में भारी गिरावट आई, जिससे परिवार संरचनाओं को मॉडल करने की आवश्यकता की पुष्टि हुई।
- प्रदर्शन को स्थिर करने के लिए लेटेंट मेमोरी बैंक महत्वपूर्ण था।
- रैंडम मिक्सिंग रणनीति ने ओपन-सेट डिटेक्शन दरों को प्रभावी ढंग से सुधारा।

5. महत्व और प्रभाव (Significance and Impact)

पैराडाइम शिफ्ट: इमेज एट्रिब्यूशन को एक स्थिर, एक-बार के वर्गीकरण कार्य से बदलकर एक गतिशील, विकसित होने वाली प्रक्रिया में बदल देता है जो जनरेटिव AI के जीवनचक्र को दर्शाता है।
व्यावहारिक अनुप्रयोग: लेटेंट मेमोरी बैंक का उपयोग करके, IncreFA अत्यधिक डेटा-कुशल और गोपनीयता-संरक्षण (कोई कच्चा चित्र भंडारण नहीं) वाला है, जो इसे वास्तविक दुनिया के तैनाती के लिए व्यवहार्य बनाता है जहाँ भंडारण और कानूनी प्रतिबंध मौजूद हैं।
विश्वास और जवाबदेही: यह AI-जनित सामग्री के स्रोत की पहचान करने के लिए एक मजबूत तंत्र प्रदान करता है, भले ही नए मॉडल उभर रहे हों, जो कॉपीराइट उल्लंघन, डीपफेक और गलत सूचनाओं से निपटने के लिए महत्वपूर्ण है।
भविष्य की दिशा: यह रेखांकित करता है कि एट्रिब्यूशन सिस्टम को केवल मॉडल्स के प्रति प्रतिक्रिया देने के बजाय, उनके साथ संरचनात्मक रूप से विकसित होने की आवश्यकता है।

संक्षेप में, IncreFA जनरेटिव मॉडल्स की अंतर्निहित पदानुक्रम का लाभ उठाकर और ओपन-वर्ल्ड परिदृश्यों के लिए अनुकूलित निरंतर शिक्षण रणनीतियों को अपनाकर वर्तमान एट्रिब्यूशन विधियों की "स्थिर दीवार" को तोड़ता है, जो जनरेटिव AI के युग में फोरेंसिक विश्लेषण के लिए एक नया मानक स्थापित करता है।