💻 computer science

3DEditSafe: Defending 3D Editing Pipelines from Unsafe Generation

यह शोध पत्र 3DEditSafe प्रस्तुत करता है, जो एक नवीन फ्रेमवर्क है जो जनरेशन-स्टेज गाइडेंस को 3D-विशिष्ट सुरक्षा नियमितीकरण (safety regularization) के साथ जोड़कर 3D गॉसियन स्प्लेटिंग पर आधारित टेक्स्ट-ड्रिवन 3D एडिटिंग पाइपलाइन्स को असुरक्षित जनरेशन से सुरक्षित करता है ताकि विभिन्न व्यूज में NSFW सामग्री के प्रसार को रोका जा सके।

मूल लेखक: Nicole Meng, Zheyuan Liu, Meng Jiang, Yingjie Lao

प्रकाशित 2026-05-18

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Nicole Meng, Zheyuan Liu, Meng Jiang, Yingjie Lao

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक व्यक्ति की जादुई, 3D डिजिटल मूर्ति है। आप कंप्यूटर को बता सकते हैं, "इस मूर्ति को ऐसा बना दो जैसे यह संगमरमर से बनी हो," और कंप्यूटर उस डिजिटल मिट्टी को हर उस कोण से मेल खाने के लिए नया आकार देगा जिससे आप उसे देखते हैं। यह 3D एडिटिंग की दुनिया है, एक ऐसी तकनीक जो हमें केवल टेक्स्ट टाइप करके 3D दृश्यों को बदलने की अनुमति देती है।

हालाँकि, "3DEditSafe" नामक शोध पत्र इस जादू में एक खतरनाक खामी का पता लगाता है: यदि आप एक डरावना या अनुचित कमांड टाइप करते हैं (जैसे, "चेहरे को फटा हुआ और खून से लथपथ दिखाओ"), तो कंप्यूटर केवल एक खराब तस्वीर नहीं बनाता। यह वास्तव में पूरे 3D ऑब्जेक्ट को स्थायी रूप से हिंसक और ग्राफिक बनाने के लिए फिर से तैयार करता है। आप अंतिम 3D मॉडल को जिस भी कोण से देखें, वह हिंसा उसमें गहराई तक समाहित होगी।

यहाँ समस्या और उनके समाधान का एक सरल विवरण दिया गया है, जिसे रोजमर्रा के उदाहरणों का उपयोग करके समझाया गया है।

समस्या: "इको चैंबर" (गूँज कक्ष) प्रभाव

3D एडिटिंग की प्रक्रिया को एक भित्ति चित्र (mural) पर काम करने वाले कलाकारों के समूह की तरह समझें।

2D चरण: सबसे पहले, कंप्यूटर आपके टेक्स्ट के आधार पर दृश्य की कुछ 2D तस्वीरें बनाता है। यदि आप कोई बुरा प्रॉम्प्ट टाइप करते हैं, तो ये तस्वीरें थोड़ी डरावनी दिख सकती हैं।
3D चरण: फिर, कंप्यूटर इन तस्वीरों को एक ठोस 3D ऑब्जेक्ट में जोड़ने की कोशिश करता है। वह विभिन्न कोणों से तस्वीरों को देखता है और कहता है, "ठीक है, अगर बाईं ओर का हिस्सा खून से लथपथ है, और दाईं ओर का हिस्सा भी खून से लथपथ है, तो ऑब्जेक्ट के अंदर भी खून होना चाहिए।"

शोध पत्र ने पाया कि भले ही आप 2D तस्वीरों पर बुरे शब्दों को रोकने के लिए फिल्टर लगा दें, बचे हुए "बुरे प्रभाव" (bad vibes) जीवित रह सकते हैं। जब कंप्यूटर 3D ऑब्जेक्ट को जोड़ता है, तो यह एक इको चैंबर की तरह काम करता है। वे छोटे, बचे हुए डरावने विवरण बढ़ जाते हैं और 3D आकार में लॉक हो जाते हैं। एक बार जब 3D ऑब्जेक्ट बन जाता है, तो हिंसा स्थायी हो जाती है और हर कोण से दिखाई देती है, भले ही मूल 2D तस्वीरें काफी हद तक साफ रही हों।

समाधान: 3DEditSafe

लेखकों ने 3DEditSafe नामक एक नया सिस्टम बनाया है। केवल इनपुट टेक्स्ट को फिल्टर करने के बजाय (जैसे क्लब में आईडी चेक करने वाला बाउंसर), उन्होंने निर्माण प्रक्रिया के भीतर ही एक सुरक्षा गार्ड तैनात किया है।

यहाँ उनका "सुरक्षा गार्ड" रूपकों का उपयोग करते हुए कैसे काम करता है:

जोखिम डिटेक्टर (बाउंसर): कंप्यूटर निर्माण शुरू करने से पहले आपके टेक्स्ट की जाँच करता है। यदि आप कुछ सुरक्षित मांगते हैं (जैसे "इसे संगमरमर बनाओ"), तो यह आपको सामान्य रूप से आगे बढ़ने देता है। यदि आप कुछ खतरनाक मांगते हैं (जैसे "इसे खून से लथपथ बनाओ"), तो यह केवल "नहीं" नहीं कहता। इसके बजाय, यह कहता है, "ठीक है, हम खून वाला हिस्सा नहीं कर सकते, लेकिन हम आपके बाकी विचार को रखेंगे।"
सिमेंटिक प्रोजेक्शन (अनुवादक): कल्पना कीजिए कि आपने "खून से लथपथ चेहरा" मांगा। सिस्टम इसे "एक गंभीर अभिव्यक्ति वाला चेहरा" में अनुवादित करता है लेकिन "खून" वाले निर्देश को हटा देता है। यह खतरनाक हिस्से के बिना एडिट के इरादे को बनाए रखता है।
3D सेफ्टी नेट (मूर्तिकार की ढाल): यह सबसे महत्वपूर्ण हिस्सा है। जैसे-जैसे कंप्यूटर 3D ऑब्जेक्ट बनाता है, वह लगातार 3D आकार की जांच करता रहता है।
- यदि 3D मॉडल ऐसा दिखने लगता है जैसे उसमें "खून" है, तो सिस्टम उसे वापस धकेलता है, जैसे एक मूर्तिकार मिट्टी के उस उभार को चिकना करता है जो किसी घाव जैसा दिखने लगा हो।
- यह 3D मॉडल को आपके अनुरोध के "सुरक्षित" संस्करण के करीब रहने के लिए मजबूर करता है, यह सुनिश्चित करता है कि अंतिम वस्तु गलती से ग्राफिक न बन जाए।

ट्रेड-ऑफ: सुरक्षा बनाम पूर्णता

शोध पत्र स्वीकार करता है कि यह सुरक्षा गार्ड पूर्ण नहीं है। यह एक नाजुक चित्र बनाने की कोशिश करते समय एक भारी हेलमेट पहनने जैसा है।

अच्छी खबर: सिस्टम सफलतापूर्वक 3D ऑब्जेक्ट को स्थायी रूप से हिंसक या NSFW (काम के लिए असुरक्षित) होने से रोकता है। "खून से लथपथ" वाले 3D मॉडल काफी कम हो गए हैं।
बुरी खबर: क्योंकि सिस्टम चीजों को रोकने पर इतना केंद्रित है, इसलिए अंतिम परिणाम थोड़ा "अजीब" दिख सकता है या इसमें कुछ विजुअल ग्लिच (आर्टिफैक्ट्स) हो सकते हैं। यह एक असुरक्षित एडिट जितना स्मूथ या वास्तविक नहीं हो सकता है।

निष्कर्ष

शोध पत्र निष्कर्ष निकालता है कि आप केवल आपके द्वारा टाइप किए गए टेक्स्ट को फिल्टर करने पर भरोसा नहीं कर सकते। आपको 3D निर्माण प्रक्रिया की निगरानी करनी ही होगी। यदि आप नहीं करते हैं, तो कंप्यूटर खुशी-खुशी एक स्थायी, मल्टी-व्यू 3D दुःस्वप्न बना देगा क्योंकि आपने एक बुरा प्रॉम्प्ट टाइप किया था। 3DEditSafe पहला ऐसा टूल है जो सीधे 3D निर्माण प्रक्रिया के भीतर सुरक्षा जाल के रूप में कार्य करता है, यह सुनिश्चित करता है कि अंतिम डिजिटल मूर्ति सुरक्षित रहे, भले ही निर्देश जोखिम भरे रहे हों।

तकनीकी सारांश: 3DEditSafe

समस्या विवरण

हाल के 3D जनरेटिव एडिटिंग में प्रगति, विशेष रूप से वे जो 3D गॉसियन स्प्लेटिंग (3DGS) पाइपलाइनों जैसे EditSplat का उपयोग करती हैं, टेक्स्ट प्रॉम्प्ट के माध्यम से उच्च-निष्ठा (high-fidelity), मल्टी-व्यू-कंसिस्टेंट दृश्य हेरफेर को सक्षम करती हैं। हालाँकि, ये सिस्टम अपने अंतर्निहित डिफ्यूजन मॉडल्स से सुरक्षा संबंधी कमजोरियों को विरासत में प्राप्त करते हैं। मुख्य रूप से पहचानी गई समस्या यह है कि असुरक्षित प्रॉम्प्ट (जैसे, ग्राफिक हिंसा, रक्तपात, या NSFW सामग्री का अनुरोध करने वाले) केवल अलग-थलग असुरक्षित 2D चित्र ही उत्पन्न नहीं करते हैं। इसके बजाय, 2D एडिटिंग चरण के दौरान पेश किए गए असुरक्षित विजुअल सिमेंटिक्स विभिन्न व्यू पॉइंट्स (viewpoints) में फैल सकते हैं और मल्टी-व्यू ऑप्टिमाइजेशन के माध्यम से अंतिम अनुकूलित 3D प्रतिनिधित्व में स्थानिक रूप से समेकित (spatially consolidated) हो सकते हैं।

लेखक देखते हैं कि मौजूदा सुरक्षा रक्षा प्रणालियाँ, जो मुख्य रूप से 2D जनरेशन चरण पर संचालित होती हैं (जैसे, Safe Latent Diffusion), अपर्याप्त हैं। भले ही असुरक्षित अवधारणाओं को इमेज जनरेशन के दौरान आंशिक रूप से दबा दिया गया हो, फिर भी अवशिष्ट असुरक्षित सिग्नल एडिटिंग प्रक्रिया में जीवित रह सकते हैं, 3D ऑप्टिमाइजेशन के माध्यम से बने रहते हैं, और नए व्यू पॉइंट्स से दिखने वाली सुसंगत, अवांछित 3D सामग्री का परिणाम देते हैं। यह एक विशिष्ट सुरक्षा चुनौती को प्रकट करता है: असुरक्षित सिमेंटिक्स को 3D ऑप्टिमाइजेशन प्रक्रिया के दौरान संचित और स्थिर किया जा सकता है, जिसके लिए ऐसे सुरक्षा तंत्रों की आवश्यकता है जो केवल इनपुट प्रॉम्प्ट या मध्यवर्ती 2D छवियों के बजाय सीधे विकसित हो रहे 3D प्रतिनिधित्व पर कार्य करें।

कार्यप्रणाली: 3DEditSafe

यह शोध पत्र 3DEditSafe का प्रस्ताव करता है, जो एक सुरक्षा-नियमित (safety-regularized) 3D एडिटिंग फ्रेमवर्क है जिसे 3D गॉसियन दृश्यों के अनुकूलन के दौरान असुरक्षित सिमेंटिक प्रसार को नियंत्रित करने के लिए डिज़ाइन किया गया है। यह विधि सुरक्षा बाधाओं को केवल प्री-जनरेशन फ़िल्टरिंग पर निर्भर रहने के बजाय सीधे 3D ऑप्टिमाइजेशन लूप में एकीकृत करती है।

1. प्रॉम्प्ट जोखिम विश्लेषण (Prompt Risk Analysis)

सिस्टम यह निर्धारित करने के लिए एक 'रिस्क गेट' का उपयोग करता है कि क्या सुरक्षा नियमितीकरण आवश्यक है। यह निम्नलिखित के आधार पर एक जोखिम स्कोर की गणना करता है:

सिमेंटिक समानता (Semantic Similarity): इनपुट प्रॉम्प्ट के टेक्स्ट एम्बेडिंग और असुरक्षित अवधारणाओं ( $C_{unsafe}$ ) के एक पूर्व-निर्धारित सेट के बीच कोसाइन समानता, जिसमें ग्राफिक हिंसा, रक्तपात और स्पष्ट नग्नता जैसी श्रेणियां शामिल हैं।
कीवर्ड प्रायोरिटी (Keyword Prior): विशिष्ट असुरक्षित टोकन की उपस्थिति के लिए एक हल्का चेक।
यदि जोखिम स्कोर एक थ्रेशोल्ड से अधिक हो जाता है, तो सुरक्षा तंत्र सक्रिय हो जाते हैं; अन्यथा, पाइपलाइन मानक एडिटिंग पथ का अनुसरण करती है। महत्वपूर्ण रूप से, यह गेट प्रॉम्प्ट को फिर से लिखता या ब्लॉक नहीं करता है बल्कि आंतरिक नियमितीकरण को ट्रिगर करता है।

2. सिमेंटिक सेफ्टी प्रोजेक्शन (Semantic Safety Projection)

"सुरक्षा के रूप में इनकार" (जो एडिटिंग गुणवत्ता को कम कर सकता है या प्रॉम्प्ट और 3D ज्योमेट्री के बीच बेमेल पैदा कर सकता है) से बचने के लिए, 3DEditSafe सुरक्षा को एक सिमेंटिक प्रोजेक्शन समस्या के रूप में मानता है।

यह प्रॉम्प्ट के साथ सबसे अधिक संरेखित असुरक्षित अवधारणा दिशा की पहचान करता है।
यह असुरक्षित दिशा के साथ संरेखित घटक को हटाकर प्रॉम्प्ट एम्बेडिंग को एक सुरक्षित सबस्पेस पर प्रोजेक्ट करता है।
इससे एक "सुरक्षित सिमेंटिक दिशा" ( $E_{safe}$ ) प्राप्त होती है जो विशिष्ट असुरक्षित घटक को दबाते हुए मूल एडिटिंग इरादे को सुरक्षित रखती है। यह प्रोजेक्टेड दिशा बिना किसी मैनुअल फॉलबैक प्रॉम्प्ट के ऑप्टिमाइजेशन को निर्देशित करती है।

3. रेंडर किए गए-व्यू 3D सुरक्षा नियमितीकरण (Rendered-View 3D Safety Regularization)

मुख्य नवाचार 3D ऑप्टिमाइजेशन के दौरान 3D दृश्य के रेंडर किए गए व्यूज़ पर सीधे सुरक्षा को लागू करना है। कुल लॉस फंक्शन में शामिल हैं:

असुरक्षित अवधारणा प्रतिकर्षण ( $L^{3D}_{unsafe}$ ): एक टर्म जो रेंडर किए गए व्यूज़ के CLIP इमेज एम्बेडिंग को दंडित करता है यदि वे असुरक्षित अवधारणाओं के बहुत करीब संरेखित होते हैं।
सुरक्षित सिमेंटिक मार्गदर्शन ( $L^{3D}_{safe}$ ): एक टर्म जो रेंडर किए गए व्यूज़ को प्रोजेक्ट की गई सुरक्षित सिमेंटिक दिशा ( $E_{safe}$ ) के साथ संरेखित होने के लिए प्रोत्साहित करता है, यह सुनिश्चित करता है कि एडिट मूल इरादे के करीब रहे लेकिन सुरक्षित तरीके से।
रेसिड्यू सप्रेशन (Residue Suppression): एक प्री-ऑप्टिमाइजेशन चरण जो 2D टारगेट मास्क के उन पिक्सेल को मूल इमेज की ओर वापस ब्लेंड करता है जो उच्च रेड सैचुरेशन या हाई-डिफरेंस आर्टिफैक्ट्स (जो हिंसा/रक्तपात में सामान्य हैं) प्रदर्शित करते हैं, जिससे स्पष्ट असुरक्षित अवशेषों को 3D सीन में बनने से रोका जा सके।
प्रिजर्वेशन लॉस (Preservation Loss): गैर-एडिटेड क्षेत्रों और मूल ऑब्जेक्ट मास्क की अखंडता बनाए रखने के लिए एक टर्म।

अंतिम उद्देश्य मानक एडिटिंग लॉस को इन सुरक्षा टर्म्स के साथ जोड़ता है, जिन्हें प्रॉम्प्ट रिस्क स्कोर द्वारा भारित (weighted) किया जाता है।

मुख्य योगदान

3D एडिटिंग का प्रथम सुरक्षा विश्लेषण: लेखक प्रदर्शित करते हैं कि टेक्स्ट-ड्रिवन 3D एडिटिंग पाइपलाइनें असुरक्षित प्रॉम्प्ट को निरंतर, व्यू-कंसिस्टेंट NSFW 3D सामग्री में बदल सकती हैं, जो कि 2D जनरेशन विफलताओं से भिन्न एक घटना है।
ऑब्जेक्ट-कम्पैटिबल असुरक्षित बेंचमार्क: उन्होंने 10 EditSplat सीन्स में 30 प्रॉम्प्ट-सीन पेयर्स (20 असुरक्षित, 10 सौम्य) का एक बेंचमार्क बनाया, जो संपादन योग्य 3D ऑब्जेक्ट्स (जैसे, चेहरे, जानवर) से मेल खाने के लिए तैयार किया गया है।
सुरक्षा-जागरूक 3D ऑप्टिमाइजेशन: रेंडर किए गए-व्यू 3D सुरक्षा नियमितीकरण का परिचय, जो 3D ऑप्टिमाइजेशन के दौरान मूल एडिटिंग निर्देश को संरक्षित करते हुए सीधे असुरक्षित सिमेंटिक संरेखण को दंडित करता है।
नियंत्रित ट्रेड-ऑफ: फ्रेमवर्क यह प्रदर्शित करता है कि प्रॉम्प्ट को पूरी तरह से ब्लॉक किए बिना असुरक्षित सामग्री के प्रसार को कम करना संभव है, हालांकि यह सुरक्षा-गुणवत्ता के बीच एक समझौता पेश करता है।

प्रयोगात्मक परिणाम

लेखकों ने निर्मित बेंचमार्क पर मानक EditSplat और एक "2D सुरक्षा मार्गदर्शन" बेसलाइन (जो जनरेशन-स्टेज सुरक्षा का उपयोग करती है लेकिन कोई 3D नियमितीकरण नहीं देती) के विरुद्ध 3DEditSafe का मूल्यांकन किया।

असुरक्षित दमन (Unsafe Suppression): 3DEditSafe ने दोनों व्यू-लेवल और सीन-लेवल अटैक सक्सेस रेट (ASR) को काफी कम कर दिया।
- व्यू-लेवल ASR 0.347 (EditSplat) से गिरकर 0.190 (3DEditSafe) हो गया।
- सीन-लेवल ASR 0.722 (EditSplat) से गिरकर 0.389 (3DEditSafe) हो गया।
- 2D सुरक्षा मार्गदर्शन बेसलाइन ने असंगत परिणाम दिखाए, जो कई मामलों में सीन-लेवल असुरक्षित समेकन को रोकने में विफल रहा (उदाहरण के लिए, "Bear" ऑब्जेक्ट के लिए 1.000 सीन ASR बना रहा)।
एडिट फिडेलिटी (Edit Fidelity): यहाँ एक मापने योग्य ट्रेड-ऑफ है। 3DEditSafe ने मूल (असुरक्षित) प्रॉम्प्ट की तुलना में EditSplat की तुलना में कम CLIP टेक्स्ट-इमेज समानता दिखाई, जो अपेक्षित है क्योंकि सिस्टम सक्रिय रूप से असुरक्षित सिमेंटिक्स को दबाता है।
विजुअल क्वालिटी: जबकि 3DEditSafe ने विभिन्न व्यू-पॉइंट्स में स्पष्ट असुरक्षित सामग्री (जैसे, रक्त, रक्तपात) को सफलतापूर्वक दबा दिया, परिणामी एडिट्स में कभी-कभी विजुअल आर्टिफैक्ट्स या अनरेगुलेटेड बेसलाइन की तुलना में कम फिडेलिटी देखी गई।

महत्व और दावे

यह पेपर दावा करता है कि यह टेक्स्ट-ड्रिवन 3D एडिटिंग पाइपलाइनों में असुरक्षित जनरेशन का व्यवस्थित अध्ययन और बचाव करने का पहला प्रयास है। इसका प्राथमिक महत्व इस बात को पहचानने में निहित है कि 3D एडिटिंग में सुरक्षा को केवल 2D जनरेशन चरण में हल नहीं किया जा सकता है; 3D ऑप्टिमाइजेशन प्रक्रिया स्वयं एक ऐसा तंत्र है जो असुरक्षित सिमेंटिक्स को सुदृढ़ और स्थिर कर सकता है।

लेखक 3DEditSafe को सुरक्षित 3D एडिटिंग की दिशा में एक आवश्यक कदम के रूप में प्रस्तुत करते हैं, यह रेखांकित करते हुए कि प्रभावी रक्षा के लिए ऐसे तंत्रों की आवश्यकता है जो सीधे अनुकूलित 3D प्रतिनिधित्व पर कार्य करें। वे विनम्रतापूर्वक स्वीकार करते हैं कि हालांकि उनकी विधि असुरक्षित प्रसार को कम करती है, यह एक सुरक्षा-गुणवत्ता ट्रेड-ऑफ पेश करती है, जो सुझाव देता है कि सुरक्षित एडिट्स की यथार्थता में सुधार करने और मल्टी-व्यू 3D सुरक्षा के लिए अधिक मजबूत मेट्रिक्स विकसित करने के लिए भविष्य में कार्य की आवश्यकता है।