🤖 machine learning

ParetoPilot: Zero-Surrogate Offline Multi-Objective Optimization via Infer-Perturb-Guide Diffusion

ParetoPilot एक नवीन ज़ीरो-सरोगेट डिफ्यूजन फ्रेमवर्क है जो ऑफलाइन मल्टी-ऑब्जेक्टिव ऑप्टिमाइज़ेशन के लिए है, जो जनरेशन को विविध पारेटो-ऑप्टिमल समाधानों की ओर गतिशील रूप से निर्देशित करने के लिए डीनॉइज़िंग प्रक्रिया के भीतर एक इन्फर-पर्टर्ब-गाइड इंजन को समाहित करके बाहरी सरोगेट मॉडल की आवश्यकता को समाप्त करता है।

मूल लेखक: Ruiqing Sun, Sen Yang, Dawei Feng, Bo Ding, Yijie Wang, Huaimin Wang

प्रकाशित 2026-06-04

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ruiqing Sun, Sen Yang, Dawei Feng, Bo Ding, Yijie Wang, Huaimin Wang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक मास्टर शेफ हैं जो एक नई, उत्तम रेसिपी (व्यंजन) बनाने की कोशिश कर रहे हैं। आपके पास एक विशाल, पुरानी कुकबुक (आपका स्टैटिक डेटासेट) है जिसमें हजारों मौजूदा रेसिपी और उनकी रेटिंग्स हैं। लेकिन, आपको नए व्यंजन बनाते समय उन्हें चखने से मना किया गया है (कोई ऑनलाइन इंटरैक्शन नहीं); आप केवल पुरानी किताब ही देख सकते हैं। आपका लक्ष्य रेसिपीज़ का एक नया सेट बनाना है जो "पारेटो-ऑप्टिमल" (Pareto-optimal) हो—यानी, विरोधाभासी लक्ष्यों के बीच सबसे अच्छा संतुलन, जैसे "सबसे स्वादिष्ट" बनाम "सबसे सस्ता" या "सबसे स्वस्थ" बनाम "सबसे तेज़"।

समस्या यह है कि पुरानी किताब में वह परफेक्ट रेसिपी नहीं है जिसकी आप कल्पना कर रहे हैं। आपको अनुमान लगाना होगा कि वह कैसी दिखेगी।

पुराना तरीका: एक त्रुटिपूर्ण सलाहकार को काम पर रखना

पिछले अधिकांश तरीकों ने इसे एक "सलाहकार" (एक सरोगेट मॉडल) को काम पर रखकर हल करने की कोशिश की।

आप इस सलाहकार को प्रशिक्षित करते हैं कि पुरानी किताब के आधार पर कोई नई रेसिपी कितनी अच्छी होगी।
आप इस सलाहकार से अपनी कुकिंग को निर्देशित करने के लिए कहते हैं।

दोष:

महंगा: हर नए लक्ष्य के लिए एक नया सलाहकार प्रशिक्षित करना महंगा और धीм है।
भ्रामक: यदि आप सलाहकार से किसी अजीब, विचित्र रेसिपी के बारे में पूछते हैं जो पुरानी किताब में मौजूद नहीं है, तो सलाहकार अक्सर एक फर्जी स्कोर बना देता है। वह कह सकता है, "यह अजीब सूप अद्भुत है!" जबकि वास्तव में वह बेकार हो सकता है। इससे आपका समय खराब विचारों पर बर्बाद होता है।
गोपनीयता: कभी-कभी, गोपनीयता नियमों के कारण आप सलाहकार को पुरानी किताब दिखा भी नहीं सकते।

नया तरीका: ParetoPilot (एक "स्व-निर्देशित" शेफ)

लेखक ParetoPilot नामक एक विधि का प्रस्ताव देते हैं जिसे किसी सलाहकार की आवश्यकता नहीं है। इसके बजाय, यह एक पूर्व-प्रशिक्षित AI शेफ (एक डिफ्यूजन मॉडल) में पहले से मौजूद "अंतर्ज्ञान" (intuition) का उपयोग करता है।

इस डिफ्यूजन मॉडल को एक ऐसे शेफ के रूप में सोचें जिसने पुरानी कुकबुक को इतनी अच्छी तरह से याद कर लिया है कि वह उससे कोई भी व्यंजन फिर से बना सकता है। आमतौर पर, यह शेफ व्यंजनों को बिल्कुल वैसे ही दोबारा बनाता है जैसे वे थे। ParetoPilot इस शेफ को बिना किसी नए गाइड को देखे, पुरानी रेसिपीज़ में सुधार करना सिखाता है।

यह IPG (Infer-Perturb-Guide) नामक तीन-चरणीय इंजन का उपयोग करके ऐसा करता है:

1. INFER: "ध्रुव तारे" (North Star) को खोजना

कल्पना कीजिए कि शेफ एक धुंधली, शोर वाली रेसिपी पकड़े हुए है।

शेफ पूछता है: "यदि मैं इसे बिल्कुल वैसा ही बनाऊं जैसा यह है (unconditional), तो इसका स्वाद कैसा होगा?"
फिर, शेफ पूछता है: "यदि मैं इसे थोड़ा बेहतर बनाने के लिए इसमें थोड़ा बदलाव करूं (conditional), तो इसका स्वाद कैसा होगा?"
इन दोनों अनुमानों की तुलना करके, शेफ यह समझ जाता है कि व्यंजन को बेहतर बनाने के लिए उसे किस तत्काल दिशा में बढ़ना चाहिए। यह बिल्कुल वैसा ही है जैसे बिना किसी मानचित्र के, हवा को महसूस करके यह जानना कि किस दिशा में नौका विहार करना है।

2. PERTURB: "गुरुत्वाकर्षण और प्रतिकर्षण" का नृत्य

अब शेफ को यह तय करने की आवश्यकता है कि उसे कैसे आगे बढ़ना है। उन्हें दो चीजों की आवश्यकता है:

अभिसरण (Convergence - गुरुत्वाकर्षण): एक बल जो सभी नई रेसिपीज़ को "सर्वश्रेष्ठ संभव" क्षेत्र (पारेटो फ्रंट) की ओर खींचता है। कल्पना करें कि एक सौम्य गुरुत्वाकर्षण सभी को उत्कृष्टता के केंद्र की ओर खींच रहा है।
विविधता (Diversity - प्रतिकर्षण): एक बल जो रेसिपीज़ को एक-दूसरे से दूर धकेलता है ताकि वे एक जैसी न दिखें। कल्पना करें कि एक "पर्सनल स्पेस" वाला बल रेसिपीज़ को एक-दूसरे से दूर धकेलता है ताकि आपको विकल्पों की एक विस्तृत श्रृंखला मिले, न कि केवल एक ही परफेक्ट डिश।

जादुई ट्रिक: लेखक एक गणितीय चाल (Gram-Schmidt orthogonalization) का उपयोग करते हैं ताकि यह सुनिश्चित हो सके कि ये दोनों बल आपस में लड़ें नहीं। यह "गुरुत्वाकर्षण" और "प्रतिकर्षण" को एक-दूसरे के लंबवत (right angles पर) चलने के लिए कहने जैसा है, ताकि आप बेहतर व्यंजन भी बना सकें और अधिक विविधता भी प्राप्त कर सकें, बिना प्रक्रिया को धीमा किए।

3. GUIDE: जहाज को दिशा देना

अंत में, शेफ इन गणना की गई दिशाओं का उपयोग करके कुकिंग प्रक्रिया को थोड़ा बदलने (nudge करने) के लिए करता है। वे क्लासिफायर-फ्री गाइडेंस (CFG) नामक एक मानक तकनीक का उपयोग करते हैं—इसे एक स्टीयरिंग व्हील की तरह समझें—जो जनरेशन प्रक्रिया को इन नई, बेहतर और विविध रेसिपीज़ की ओर धीरे से मोड़ता है।

यह क्यों एक बड़ी बात है

अतिरिक्त प्रशिक्षण की आवश्यकता नहीं: आपको नया सलाहकार प्रशिक्षित करने की आवश्यकता नहीं है। आप बस उस AI का उपयोग करते हैं जो आपके पास पहले से है।
कोई फर्जी स्कोर नहीं: क्योंकि आपका AI सीधे अपने मेमोरी से वैध डेटा से रेसिपी जेनरेट कर रहा है, इसलिए यह गलती से "बेतुकी" रेसिपी (जैसे कि एक अणु जो अस्तित्व में नहीं हो सकता या एक टूटा हुआ कंप्यूटर चिप) नहीं बनाएगा और फिर उसे उच्च स्कोर नहीं देगा। यह "वैध पथ" पर बना रहता है।
गोपनीयता के अनुकूल: चूंकि इसे नया गाइड प्रशिक्षित करने के लिए मूल डेटा देखने की आवश्यकता नहीं है, इसलिए यह तब भी काम करता है जब डेटा लॉकडाउन (सुरक्षित) हो।

परिणाम

लेखकों ने अणुओं के डिजाइन से लेकर कंप्यूटर चिप्स के अनुकूलन तक 51 अलग-अलग कार्यों पर इसका परीक्षण किया।

विजेता: ParetoPilot ने 14 अन्य शीर्ष विधियों को पछाड़ दिया।
रहस्य: इसने जटिल, अजीब कार्यों (जैसे रसायन विज्ञान या वास्तुकला) को बहुत बेहतर तरीके से संभाला, जहाँ "सलाहकार" विधियां अक्सर भ्रमित हो जाती थीं और असंभव डिज़ाइन सुझा देती थीं।

संक्षेप में, ParetoPilot एक ऐसा तरीका है जिससे आप एक स्मार्ट AI जो पुराने डेटा को जानता है, उसे अपने आप नए, बेहतर और विविध समाधान आविष्कार करने के लिए सिखा सकते हैं, बिना किसी दूसरे AI की मदद के जो उसे निर्देश दे सके। यह एक शेफ को निर्देशों के पूर्ण मेनू के बजाय एक दिशा-सूचक यंत्र (compass) और एक हल्का सा धक्का देने जैसा है।

तकनीकी सारांश: ParetoPilot

समस्या विवरण (Problem Statement)

ऑफलाइन मल्टी-ऑब्जेक्टिव ऑप्टिमाइजेशन (Offline MOO) का लक्ष्य केवल स्थिर, पूर्व-संग्रहित डेटासेट का उपयोग करके नवीन पारेटो-इष्टतम (Pareto-optimal) डिज़ाइनों की खोज करना है, जिससे महंगे ऑनलाइन एनवायरनमेंट इंटरैक्शन से बचा जा सके। यह उन डोमेन में महत्वपूर्ण है जैसे कि ड्रग डिस्कवरी, मटेरियल डिज़ाइन और हार्डवेयर आर्किटेक्चर सर्च, जहाँ फंक्शन इवैल्यूएशन महंगा या प्रतिबंधित होता है।

मुख्य चुनौती एक साथ अभिसरण (convergence) (समाधानों को अनऑब्जर्वड ट्रू पारेटो फ्रंट की ओर धकेलना) और विविधता (diversity) (ऑब्जेक्टिव ट्रेड-ऑफ स्पेस में व्यापक कवरेज सुनिश्चित करना) प्राप्त करने में निहित है। वर्तमान अत्याधुनिक दृष्टिकोण मुख्य रूप से जनरेटिव प्रक्रियाओं को निर्देशित करने के लिए बाहरी सरोगेट मॉडल्स (जैसे प्रॉक्सी रिग्रेसर्स या प्रेफरेंस क्लासिफायर) पर निर्भर करते हैं। यह निर्भरता तीन महत्वपूर्ण बाधाएं उत्पन्न करती है:

कंप्यूटेशनल ओवरहेड: प्रत्येक ऑब्जेक्टिव के लिए अलग-अलग सरोगेट्स को प्रशिक्षित करने के लिए व्यापक हाइपरपैरामीटर ट्यूनिंग और संसाधनों की आवश्यकता होती है।
अविश्वसनीय एक्सट्रपलेशन (Unreliable Extrapolation): बाहरी प्रॉक्सी आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) डिज़ाइनों के लिए भ्रामक स्कोर उत्पन्न कर सकते हैं, जिससे मैनिफोल्ड कोलैप्स और अमान्य समाधानों की स्थिति पैदा होती है।
गोपनीयता और परिनियोजन संबंधी बाधाएं: कार्य-विशिष्ट प्रॉक्सी को प्रशिक्षित करने के लिए मूल ऑफलाइन डेटासेट तक निरंतर पहुंच की आवश्यकता होती है, जो फाउंडेशन मॉडल प्रतिमान (paradigm) का उल्लंघन करता है, जहाँ मॉडल्स को केवल वेट्स (weights) के रूप में तैनात किया जाता है और यह सख्त डेटा गोपनीयता नियमों के विरुद्ध है।

कार्यप्रणाली: ParetoPilot और IPG इंजन

लेखक ParetoPilot का प्रस्ताव करते हैं, जो एक जीरो-सरोगेट (zero-surrogate) डिफ्यूजन फ्रेमवर्क है जो बाहरी सहायक मॉडल्स की आवश्यकता को समाप्त करता है। इसके बजाय, यह एक पूर्व-प्रशिक्षित कंडीशनल डिफ्यूजन मॉडल में अंतर्निहित कंडीशनल प्रायर्स (conditional priors) का लाभ उठाता है। यह फ्रेमवर्क रिवर्स जनरेशन प्रक्रिया के अनकंडीशनल डिनोइजिंग स्टेप्स के भीतर एक नवीन इन्फर-पर्टर्ब-गाइड (Infer-Perturb-Guide - IPG) इंजन को इंटरलीव करके कार्य करता है।

IPG इंजन डिफ्यूजन प्रक्रिया के दौरान विशिष्ट अंतरालों पर तीन क्रमिक ऑपरेशन्स निष्पादित करता है:

1. इन्फर (Infer): इमप्लिसिट मैनिफोल्ड एंकरिंग

एक बाहरी रिग्रेसर का उपयोग करने के बजाय, फ्रेमवर्क एक नॉइज़ सैंपल $x_t$ के लिए तात्कालिक ऑब्जेक्टिव दिशा ( $y^*_t$ ) को स्पष्ट रूप से इन्फर करता है।

मैकेनिज्म: यह एक एलाइनमेंट लॉस ( $L_{align}$ ) को कम करता है जो कंडीशनल नॉइज़ प्रेडिक्शन ( $\epsilon_\theta(x_t, y, t)$ ) और अनकंडीशनल नॉइज़ प्रेडिक्शन ( $\epsilon_\theta(x_t, \emptyset, t)$ ) के बीच की दूरी को मापता है।
स्थिरीकरण (Stabilization): बड़े टाइमस्टेप्स पर नॉइज़ प्रेडिक्शंस की हाई-फ्रीक्वेंसी स्टोकेस्टिसिटीिटी का मुकाबला करने के लिए, यह विधि एक ग्लोबल, अन-रिसेट एडम ऑप्टिमाइज़र (global, un-reset Adam optimizer) का उपयोग करती है। डिफ्यूजन स्टेप्स के माध्यम से ऑप्टिमाइज़र की मोमेंटम स्टेट को बनाए रखकर, यह एक नेचुरल लो-पास फिल्टर के रूप में कार्य करता है, जो इन्फर्ड एंकर $y^*_t$ के ऑप्टिमाइजेशन ट्रजेक्टरी को स्मूथ बनाता है।

2. पर्टर्ब (Perturb): ऑर्थोगोनल फ्लूइड डायनेमिक्स

एक बार एंकर $y^*_t$ स्थापित हो जाने के बाद, इंजन पारेटो फ्रंट की ओर उम्मीदवारों के बैच को निर्देशित करने और विविधता बनाए रखने के लिए एक पर्टर्बेशन वेक्टर सिंथेसाइज करता है। यह एक गणितीय रूप से ऑर्थोगोनलाइज्ड फ्लूइड डायनेमिक्स सिस्टम के माध्यम से प्राप्त किया जाता है:

वॉर्मअप फेज (Warmup Phase): पर्टर्बेशन्स को उन स्टेप्स तक सीमित रखा जाता है जहाँ $t \le T - T_{warmup}$ है, ताकि एंकर स्थिर हो सके और शुरुआती मैनिफोल्ड कोलैप्स को रोका जा सके।
कन्वर्जेंस फोर्स (समानांतर गुरुत्वाकर्षण - Parallel Gravity): एक एकीकृत समानांतर ग्रेविटी फील्ड ( $\vec{d}_{conv}$ ) सभी समाधानों को इष्टतम क्षेत्रों की ओर ले जाता है जबकि उनके सापेक्ष पार्श्व अंतर (lateral distances) को बनाए रखता है, जिससे अनकंडीशनल डिस्ट्रीब्यूशन की पूर्व विविधता बनी रहती है।
डाइवर्सिटी फोर्स (एजनेस-अवेयर रिपल्शन): चरम ट्रेड-ऑफ डिज़ाइनों की कवरेज सुनिश्चित करने के लिए, सीमाओं के पास स्थित समाधानों पर एक "एजनेस" मल्टीप्लायर ( $E_i$ ) लागू किया जाता है, जो एक रिपल्सिव फोर्स ( $\vec{F}_{rep}$ ) को बढ़ाता है जो उन्हें बाहर की ओर धकेलता है।
ऑर्थोगोनलाइजेशन (Orthogonalization): रिपल्सिव फोर्सेज को कन्वर्जेंस फोर्स के विरोध में जाने से रोकने के लिए, रिपल्सिव वेक्टर को ग्राम-श्मिट ऑर्थोगोनलाइजेशन (Gram-Schmidt orthogonalization) का उपयोग करके ग्रेविटी फील्ड के ऑर्थोगोनल कॉम्प्लीमेंट पर प्रोजेक्ट किया जाता है। यह एक्सप्लोरेशन (विविधता) और एक्सप्लोइटेशन (अभिसरण) को सख्ती से डीकपल करता है।
डायनेमिक एनीलिंग (Dynamic Annealing): एक टेम्पोरल शेड्यूल कन्वर्जेंस और डाइवर्सिटी फोर्सेज को ब्लेंड करता है, जो प्रक्रिया के $t=0$ के करीब पहुँचने पर कन्वर्जेंस-हैवी से डाइवर्सिटी-हैवी (या इसके विपरीत) में परिवर्तित होता है।

3. गाइड (Guide): CFG एक्सट्रपलेशन

पर्टर्बड टारगेट कंडीशन ( $y^{target}_t$ ) को सीधे मानक क्लासिफायर-फ्री गाइडेंस (CFG) फॉर्मुलेशन में फीड किया जाता है।

संशोधित नॉइज़ प्रेडिक्शन $\tilde{\epsilon}_t$ को इस प्रकार कंप्यूट किया जाता है:
$\tilde{\epsilon}_t = \epsilon_\theta(x_t, \emptyset, t) + w_t \cdot (\epsilon_\theta(x_t, y^{target}_t, t) - \epsilon_\theta(x_t, \emptyset, t))$
गाइडेंस स्केल $w_t$ को पर्टर्बेशन शेड्यूलिंग के साथ लीनियरली इंटरपोलेट किया जाता है। यह मॉडल को वैध डेटा मैनिफोल्ड (जो अनकंडीशनल डिस्ट्रीब्यूशन द्वारा परिभाषित है) से बाहर निकले बिना, विविध, पारेटो-इष्टतम क्षेत्रों की ओर जनरेशन को निर्देशित करने की अनुमति देता है।

मुख्य योगदान (Key Contributions)

जीरो-सरोगेट फ्रेमवर्क: ParetoPilot पहला ऐसा फ्रेमवर्क है जो प्री-ट्रेन्ड डिफ्यूजन मॉडल्स से इनट्रिन्सिक कंडीशनल इंफॉर्मेशन का सीधे लाभ उठाकर ऑफलाइन MOO करता है, जिससे अतिरिक्त प्रॉक्सी मॉडल्स को प्रशिक्षित करने की आवश्यकता समाप्त हो जाती है।
IPG इंजन: एक नवीन तंत्र जो डायनेमिक रूप से जनरेटिव ट्रजेक्टरीज को बदलता है, जो इमप्लिसिट कंडीशंस को इन्फर करता है और ऑर्थोगोनलाइज्ड फ्लूइड फोर्सेज लागू करता है। यह स्पष्ट रूप से डिफ्यूजन प्रक्रिया को वास्तविक पारेटो फ्रंट को अनुमानित करने के लिए निर्देशित करता है जबकि डेटा प्राइवेसी को बनाए रखता है।
प्लग-एंड-प्ले क्षमता: यह एक मॉड्यूल के रूप में कार्य करता है जिसे मूल प्रशिक्षण डेटा तक पहुंच के बिना सीखे गए डिस्ट्रीब्यूशंस पर तैनात किया जा सकता है, जो व्यावहारिक डाउनस्ट्रीम परिनियोजन परिदृश्यों के अनुरूप है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने चार डोमेन में 51 कंटीन्यूअस ऑफलाइन MOO टास्क पर ParetoPilot का मूल्यांकन किया: सिंथेटिक फंक्शन्स, मल्टी-ऑब्जेक्टिव न्यूरल आर्किटेक्चर सर्च (MO-NAS), साइंटिफिक डिज़ाइन (SciDesign), और रियल-वर्ल्ड इंजीनियरिंग (RE)।

प्रदर्शन: ParetoPilot ने सभी कार्यों में औसत रैंक 6.81 और हाइपरवॉल्यूम (HV) में 10.46% का सुधार हासिल किया, जिसने 14 अत्याधुनिक बेसलाइन्स (IOM, PcGrad जैसे सरोगेट-आधारित फॉरवर्ड मेथड्स और ParetoFlow एवं PGD-MOO जैसे जनरेटिव इनवर्स मेथड्स सहित) को पीछे छोड़ दिया।
मजबूती (Robustness): सरोगेट-आधारित मेथड्स के विपरीत, जो जटिल डिस्क्रीट/स्ट्रक्चरल टास्क (MO-NAS, SciDesign) पर OOD इवैल्यूएशन एरर्स के कारण गंभीर प्रदर्शन गिरावट (और नेगेटिव HV सुधार) का शिकार हुए, ParetoPilot ने मजबूत प्रदर्शन बनाए रखा। अनकंडीशनल डिफ्यूजन स्टेप्स स्वाभाविक रूप से ट्रजेक्टरीज को वैध डेटा मैनिफोल्ड के भीतर ही सीमित रखते हैं, जिससे निरर्थक मॉलिक्यूल्स या टूटे हुए आर्किटेक्चर के संश्लेषण को रोका जा सकता है।
एब्लेशन स्टडीज (Ablation Studies): प्रमुख घटकों को हटाने से उनकी आवश्यकता की पुष्टि हुई:
- स्मूथिंग के बिना: अनफिल्टर्ड नॉइज़ के कारण होने वाले ट्रजेक्टरी ऑसिलेशन के कारण प्रदर्शन काफी गिर गया (रैंक 3.08)।
- एजनेस के बिना: सिस्टम चरम ट्रेड-ऑफ डिज़ाइनों को कुशलतापूर्वक खोजने में विफल रहा।
- ऑर्थोगोनलाइजेशन के बिना: कन्वर्जेंस और डाइवर्सिटी फोर्सेज एक-दूसरे को बेअसर कर देते हैं, जिससे समग्र HV सुधार कम हो जाता है।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि ParetoPilot डेटा गोपनीयता, कंप्यूटेशनल दक्षता और ऑप्टिमाइजेशन विश्वसनीयता के बीच तनाव को हल करके ऑफलाइन MOO में एक प्रतिमान परिवर्तन (paradigm shift) का प्रतिनिधित्व करता है।

गोपनीयता संरक्षण: बाहरी सरोगेट्स की आवश्यकता को हटाकर, यह विधि डेटा गोपनीयता को सख्ती से सुरक्षित रखती है, क्योंकि इसे प्रॉक्सी ट्रेनिंग के लिए मूल ऑफलाइन डेटासेट तक पुनः पहुंच की आवश्यकता नहीं होती है।
विश्वसनीयता: यह "भ्रामक मूल्यांकनों" से बचता है जो सरोगेट-आधारित मेथड्स में आम हैं, जो अक्सर OOD क्षेत्रों में एक्सट्रपलेशन करने पर मैनिफोल्ड कोलैप्स का कारण बनते हैं।
परिनियोजन व्यवहार्यता: यह फाउंडेशन मॉडल प्रतिमान के साथ संरेखित है, जिससे मॉडल्स को केवल वेट्स के रूप में साझा करना संभव बनाता है, जबकि अभी भी जटिल ऑप्टिमाइजेशन टास्क को डाउनस्ट्रीम में सक्षम बनाता है।

लेखक सीमाओं को स्वीकार करते हैं, जिसमें उल्लेख है कि जनरेशन की गुणवत्ता स्वाभाविक रूप से बेस डिफ्यूजन मॉडल की प्रारंभिक डेटा डिस्ट्रीब्यूशन को कैप्चर करने की क्षमता पर निर्भर करती है और IPG इंजन साधारण फॉरवर्ड सरोगेट इवैल्यूएशन की तुलना में अतिरिक्त इन्फरेंस लेटेंसी पेश करता है। हालांकि, वे तर्क देते हैं कि प्रॉक्सी ट्रेनिंग ओवरहेड को समाप्त करने और परिणामों की मजबूती के कारण यह ट्रेड-ऑफ उचित है।