🤖 AI

Implicit Preference Alignment for Human Image Animation

यह शोध पत्र इम्प्लिसिट प्रेफरेंस अलाइनमेंट (IPA) का प्रस्ताव करता है, जो एक डेटा-कुशल पोस्ट-ट्रेनिंग फ्रेमवर्क है जो महंगे पेयर्ड प्रेफरेंस डेटा की आवश्यकता के बिना, मॉडल को स्वयं-निर्मित उच्च-गुणवत्ता वाले नमूनों के साथ संरेखित करके ह्यूमन इमेज एनिमेशन में हाई-फिडेलिटी हैंड मोशन जनरेशन को बढ़ाता है।

मूल लेखक: Yuanzhi Wang, Xuhua Ren, Jiaxiang Cheng, Bing Ma, Kai Yu, Tianxiang Zheng, Qinglin Lu, Zhen Cui

प्रकाशित 2026-05-11

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yuanzhi Wang, Xuhua Ren, Jiaxiang Cheng, Bing Ma, Kai Yu, Tianxiang Zheng, Qinglin Lu, Zhen Cui

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक निर्देशक हैं जो एक ऐसी फिल्म बनाने की कोशिश कर रहे हैं जहाँ एक व्यक्ति की स्थिर तस्वीर जीवित हो उठती है और नाचने लगती है। आपके पास फोटो है (अभिनेता) और गतिविधियों की एक पटकथा (नृत्य के चरण) है। शरीर के बाकी हिस्सों के लिए—सिर, धड़, पैर—आधुनिक AI काफी अच्छा हो रहा है। लेकिन एक हिस्सा ऐसा है जो हमेशा एक ग्लिच (glitchy) से भरी गड़बड़ी जैसा दिखता है: हाथ।

क्यों? क्योंकि हाथ ऑर्केस्ट्रा के सबसे जटिल वाद्ययंत्रों की तरह हैं। हाथों में दस लचीली उंगलियां होती हैं जो मुड़ सकती हैं, घूम सकती हैं और हजारों अलग-अलग तरीकों से हिल सकती हैं। जब AI हाथों को एनिमेट करने की कोशिश करता है, तो उंगलियां आपस में पिघल जाती हैं, या धब्बे जैसी दिखने लगती हैं, या ऐसा लगता है जैसे उनमें बहुत अधिक जोड़ (joints) हों।

यह पेपर इस विशिष्ट समस्या को ठीक करने के लिए एक नई विधि पेश करता है जिसे इम्प्लिसिट प्रेफरेंस अलाइनमेंट (Implicit Preference Alignment - IPA) कहा जाता है। यह कैसे काम करता है, इसे सरल भाषा में यहाँ समझाया गया है:

पुराने तरीके के साथ समस्या ("अच्छा बनाम बुरा" का खेल)

आमतौर पर, AI को कुछ बेहतर करने के लिए सिखाने के लिए, शोधकर्ता एक तकनीक का उपयोग करते हैं जिसे डायरेक्ट प्रेफरेंस ऑप्टिमाइज़ेशन (DPO) कहा जाता है। इसे एक शिक्षक द्वारा छात्र के होमवर्क को ग्रेड देने की तरह समझें।

शिक्षक AI को दो वीडियो दिखाता है: एक जिसमें हाथ बहुत अच्छे दिख रहे हैं (अच्छा) और एक जिसमें हाथ बहुत खराब दिख रहे हैं (बुरा)।
शिक्षक कहता है, "अंतर देख रहे हो? 'अच्छे' वाले की तरह अधिक करो, और 'बुरे' वाले की तरह कम करो।"
चुनौती: हाथों के लिए, एक "बुरा" वीडियो ढूंढना आसान है, लेकिन एक ऐसा "अच्छा" वीडियो ढूंढना जो शुरुआत से अंत तक पूरी तरह से सुसंगत (consistent) हो, बेहद कठिन है। अक्सर, एक वीडियो में 5 सेकंड के लिए हाथ बेहतरीन दिखते हैं, फिर वे ग्लिच हो जाते हैं। क्योंकि "अच्छे" और "बुरे" वीडियो इतने अव्यवस्थित और असंगत हैं, इसलिए इस शिक्षण पद्धति के लिए आवश्यक सख्त "अच्छे बनाम बुरे" के जोड़े बनाना लगभग असंभव है। यह किसी को यह सिखाने की कोशिश करने जैसा है कि गेंदें उछालें, लेकिन उसे एक ऐसा वीडियो दिखाया जाए जहाँ उसने बीच में ही गेंदें गिरा दी हों; इससे सबक भ्रमित करने वाला हो जाता है।

नया समाधान: "आत्म-विश्वास" दृष्टिकोण (IPA)

लेखकों ने महसूस किया कि उन्हें AI को "बुरे" वीडियो दिखाने की आवश्यकता नहीं है। उन्हें बस उसे "अच्छे" वीडियो दिखाने थे और कहना था, "यह करो, और जो तुम पहले से जानते हो उसे भूलना मत।"

वे इसे इम्प्लिसिट प्रेफरेंस अलाइनमेंट कहते हैं। यहाँ इसका सादृश्य (analogy) दिया गया है:

पुराना तरीका: "यहाँ एक बेहतरीन हाथ है, और यहाँ एक टूटा हुआ हाथ है। अंतर सीखो।"
IPA तरीका: "यहाँ एक बेहतरीन हाथ है। इसके जैसा और बनाओ। लेकिन, अपनी शैली को इतना मत बदलो कि तुम चलना या बात करना ही भूल जाओ (शरीर का बाकी हिस्सा)।"

AI को उन "अच्छे" हाथों के बनने की संभावना को अधिकतम करने के लिए प्रशिक्षित किया जाता है, जबकि खुद को धीरे से उसके मूल प्रशिक्षण की याद दिलाते रहना होता है ताकि वह भ्रमित न हो जाए या अजीब, बेतुकी आकृतियाँ बनाने न लगे (एक समस्या जिसे "मोड कोलैप्स" कहा जाता है)।

"हैंड-अवेयर" स्पॉटलाइट

यह सुनिश्चित करने के लिए कि AI पूरे शरीर के बजाय केवल हाथों पर ध्यान केंद्रित करे, शोधकर्ताओं ने हैंड-अवेयर लोकल ऑप्टिमाइज़ेशन (Hand-Aware Local Optimization) नामक एक विशेष तंत्र जोड़ा।

कल्पना कीजिए कि AI एक डांसर की पेंटिंग बना रहा है। आमतौर पर, वह पूरे कैनवास को एक साथ पेंट करता है। इस नए टूल के साथ, शोधकर्ताओं ने हाथों के ऊपर एक आवर्धक लेंस (magnifying glass) रख दिया है। वे AI को बताते हैं: "जब तुम इन अच्छे उदाहरणों से सीख रहे हो, तो शर्ट या बैकग्राउंड की तुलना में उंगलियों और हथेलियों पर 10 गुना अधिक ध्यान दो।" यह सुनिश्चित करता है कि उंगलियों के सूक्ष्म विवरणों को अतिरिक्त अभ्यास मिले।

परिणाम

टीम ने नृत्य वीडियो के एक डेटासेट पर इसका परीक्षण किया।

पहले: अन्य शीर्ष विधियाँ ऐसे वीडियो बनाती थीं जहाँ हाथ अक्सर धुंधले, पिघले हुए या गलत संख्या में उंगलियों वाले दिखते थे।
बाद में: उनकी नई विधि ने ऐसे हाथ बनाए जो स्पष्ट थे, जिनमें उंगलियों का अलगाव साफ था, और वे जटिल नृत्य गतिविधियों के दौरान भी स्वाभाविक रूप से चलते थे।
दक्षता (Efficiency): वे केवल थोड़े से डेटा (केवल 93 उच्च-गुणवत्ता वाले वीडियो क्लिप) का उपयोग करके इस उच्च गुणवत्ता को प्राप्त करने में सफल रहे क्योंकि उन्होंने हजारों "बुरे" उदाहरणों को इकट्ठा करने में समय बर्बाद नहीं किया।

संक्षेप में

यह पेपर नाचते हुए हाथों के "अनकैनी वैली" (uncanny valley) को बदलने के लिए बदल देता है कि हम AI को कैसे सिखाते हैं। "अच्छे बनाम बुरे" उदाहरणों की तुलना करने के लिए AI को मजबूर करने के बजाय (जो हाथों के लिए करना कठिन है), वे इसे अच्छे का अनुकरण करने और अपने मूल ज्ञान के प्रति सच्चा रहने के लिए सिखाते हैं। यह डिजिटल मनुष्यों के हाथों को वास्तविक लोगों की तरह चलाने का एक स्मार्ट, सस्ता और अधिक प्रभावी तरीका है।

तकनीकी सारांश: मानव छवि एनीमेशन के लिए निहित वरीयता संरेखण (Implicit Preference Alignment)

1. समस्या विवरण

मानव छवि एनीमेशन (Human image animation) का लक्ष्य ऐसे यथार्थवादी वीडियो बनाना है जहाँ एक स्थिर संदर्भ छवि एक लक्षित मुद्रा अनुक्रम (target pose sequence) का अनुसरण करती है। जबकि हालिया डिफ्यूजन-आधारित आर्किटेक्चर (जैसे Animate Anyone, MimicMotion, Wan-Animate) ने वैश्विक यथार्थवाद और टेम्पोरल निरंतरता में महत्वपूर्ण प्रगति की है, उच्च-गुणवत्ता वाले हाथों के मोशन (hand motions) को उत्पन्न करना एक महत्वपूर्ण अनसुलझा विषय बना हुआ है।

इस कठिनाई के दो प्राथमिक कारक हैं:

स्वतंत्रता के उच्च स्तर (High Degrees of Freedom): सिर, धड़ या पैरों की तुलना में हाथों में गति की सबसे विस्तृत सीमा होती है।
जटिलता: दस लचीली उंगलियों की उपस्थिति जटिल क्रियाओं की अनुमति देती है जो शरीर के अन्य क्षेत्रों से स्वतंत्र रूप से हो सकती हैं।

परिणामस्वरूप, उत्पन्न वीडियो में हाथ के क्षेत्रों में धुंधलापन (blurring), विकृति (malformations) और संरचनात्मक पतन (structural collapse) जैसे आर्टिफैक्ट्स अक्सर देखे जाते हैं।

यद्यपि डायरेक्ट प्रेफरेंस ऑप्टिमाइज़ेशन (DPO) जनरेटिव मॉडल को मानवीय प्राथमिकताओं के साथ संरेखित करने के लिए एक संभावित समाधान प्रदान करता है, लेकिन हाथ के एनीमेशन के लिए इसका अनुप्रयोग डेटा बाधाओं से बाधित है। मानक DPO के लिए प्रत्येक प्रशिक्षण उदाहरण के लिए सख्त वरीयता युग्मों (एक "अच्छा" नमूना बनाम एक "बुरा" नमूना) के निर्माण की आवश्यकता होती है। हालाँकि, गतिशील हाथ के क्षेत्रों के लिए ऐसे युग्म तैयार करना अत्यधिक महंगा और अक्सर अव्यावहारिक है। फ्रेम-वार विसंगतियों के कारण, एक "अच्छे" हाथ के उत्पादन के लिए एक वैध "बुरे" प्रतिरूप को खोजना अक्सर असंभव होता है, जिससे इस विशिष्ट कार्य के लिए मानक DPO वर्कफ़्लो अव्यवहार्य हो जाता है।

2. कार्यप्रणाली: निहित वरीयता संरेखण (Implicit Preference Alignment - IPA)

लेखक इम्प्लिसिट प्रेफरेंस अलाइनमेंट (IPA) का प्रस्ताव करते हैं, जो एक डेटा-कुशल पोस्ट-ट्रेनिंग फ्रेमवर्क है जो युग्मित वरीयता डेटा (अर्थात, इसे "बुरे" नमूनों की आवश्यकता नहीं है) की आवश्यकता को समाप्त करता है।

मुख्य अवधारणा

IPA सैद्धांतिक रूप से निहित पुरस्कार अधिकतमकरण (implicit reward maximization) पर आधारित है। युग्मित "अच्छे-बुरे" नमूनों पर निर्भर रहने के बजाय, यह फ्रेमवर्क मॉडल को निम्नलिखित द्वारा संरेखित करता है:

स्वयं-जनित उच्च-गुणवत्ता वाले नमूनों की संभावना (likelihood) को अधिकतम करना।
कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) या मोड कोलैप्स को रोकने के लिए प्रीट्रेंड प्रायर (pretrained prior) से विचलन को दंडित करना।

गणितीय सूत्र (Mathematical Formulation)

माना कि $p_{ref}$ एक प्रीट्रेंड संदर्भ मॉडल है और $p_\theta$ अनुकूलित किया जाने वाला मॉडल है। उद्देश्य यह सुनिश्चित करना है कि अनुकूलित मॉडल और वरीयता वितरण $q$ के बीच का वितरण संबंधी अंतर (distributional discrepancy) संदर्भ मॉडल की तुलना में सख्ती से कम है:
$D_{KL}(q || p_\theta) < D_{KL}(q || p_{ref})$

इस असमिका (inequality) को एक लॉग-सिग्मॉइड लॉस फंक्शन में पुनर्गठित किया गया है:
$\mathcal{L} = -\log \sigma(\beta \Delta(p_{ref}, p_\theta))$
जहाँ $\Delta(p_{ref}, p_\theta) = D_{KL}(q || p_{ref}) - D_{KL}(q || p_\theta)$ है।

सैद्धांतिक विश्लेषण प्रदर्शित करता है कि $\beta \Delta$ को अधिकतम करना एक KL-डाइवर्जेंस बाधा के अधीन एक निहित पुरस्कार फलन (implicit reward function) को अधिकतम करने के समान है, जो बिना किसी स्पष्ट रिवॉर्ड मॉडल के प्रभावी रूप से रिवॉर्ड मैक्सिमाइजेशन करता है।

फ्लो मैचिंग कार्यान्वयन (Flow Matching Implementation)

चूंकि निरंतर समय (continuous time) पर KL डाइवर्जेंस की गणना करना अव्यवहार्य है, इसलिए लेखक फ्लो मैचिंग (Flow Matching) प्रतिमान के भीतर एक सुलभ रूप प्राप्त करते हैं। लॉस को टाइमस्टेप $t \in [0, 1]$ में संदर्भ मॉडल ( $v_{ref}$ ) और अनुकूलित मॉडल ( $v_\theta$ ) के बीच वेलोसिटी फील्ड एरर के अंतर को एकीकृत करके अनुमानित किया जाता है:
$\mathcal{L} = \mathbb{E}_{t, v} \left[ -\log \sigma \left( \frac{\beta}{2}(1-t)^2 (\|v - v_{ref}\|^2 - \|v - v_\theta\|^2) \right) \right]$

हैंड-अवेयर लोकल ऑप्टिमाइज़ेशन (Hand-Aware Local Optimization - HALO)

यह सुनिश्चित करने के लिए कि संरेखण प्रक्रिया विशेष रूप से हाथ के क्षेत्रों को लक्षित करे, लेखक लॉस फंक्शन में एक स्थानिक वेट मैट्रिक्स (spatial weight matrix) $W$ को इंजेक्ट करने वाला एक हैंड-अवेयर लोकल ऑप्टिमाइज़ेशन (HALO) तंत्र पेश करते हैं। इसमें शामिल है:
$W = 1 + \lambda \cdot M$
जहाँ $M$ पोज़ सीक्वेंस में हैंड की-पॉइंट्स से प्राप्त एक बाइनरी मास्क है, और $\lambda$ एक एन्हांसमेंट गुणांक है। यह लॉस फंक्शन को छवि के शेष भाग की तुलना में हाथ के क्षेत्रों में त्रुटियों को कम करने को प्राथमिकता देने के लिए भारित (weight) करता है।

3. प्रमुख योगदान

इम्प्लिसिट प्रेफरेंस अलाइनमेंट (IPA): एक अभिनव पोस्ट-ट्रेनिंग फ्रेमवर्क जो केवल स्वयं-जनित उच्च-गुणवत्ता वाले नमूनों का उपयोग करके वरीयता संरेखण प्राप्त करता है, जिससे महंगे और कठिन से निर्मित होने वाले "बुरे" नमूना युग्मों की आवश्यकता समाप्त हो जाती है।
हैंड-अवेयर लोकल ऑप्टिमाइज़ेशन (HALO): एक तंत्र जो स्पष्ट रूप से अनुकूलन प्रक्रिया को हाथ के क्षेत्रों की ओर निर्देशित करता है, जिससे जटिल हाथ की गतियों से संबंधित ज्यामितीय विकृतियों और धुंधलेपन के आर्टिफैक्ट्स को कम किया जा सके।
सैद्धांतिक आधार (Theoretical Grounding): शोध पत्र एक सैद्धांतिक प्रमाण प्रदान करता है कि प्रस्तावित ऑब्जेक्टिव फंक्शन स्वाभाविक रूप से एक निहित पुरस्कार फलन को अनुकूलित करता है, जो मानवीय प्राथमिकताओं के साथ संरेखण और प्रीट्रेंड प्रायर के पालन के बीच संतुलन बनाता है।

4. प्रयोगात्मक परिणाम

विधि का मूल्यांकन VACE-14B मॉडल का उपयोग करके किया गया था, जिसे 93 उच्च-गुणवत्ता वाले चुनिते गए नमूनों (6,000 उम्मीदवारों से प्राप्त) पर LoRA के साथ फाइन-ट्यून किया गया था।

मात्रात्मक प्रदर्शन (Quantitative Performance)

लेखकों ने अपने मेथड का मूल्यांकन दो बेंचमार्क पर स्टेट-ऑफ-द-आर्ट बेसलाइन्स (MimicMotion, UniAnimate-DiT, VACE, और Wan-Animate सहित) के विरुद्ध किया: मानक TikTok डेटासेट और जटिल हाथ की गतिशीलता पर केंद्रित एक कस्टम, अधिक चुनौतीपूर्ण बेंचमार्क।

TikTok बेंचमार्क: IPA ने सभी मेट्रिक्स (FID-VID: 5.9, FVD: 255, SSIM: 0.841, PSNR: 23.8) में सर्वश्रेष्ठ स्कोर प्राप्त किया, जिसने सबसे मजबूत प्रतियोगी (Wan-Animate) को पीछे छोड़ दिया।
कस्टम हैंड बेंचमार्क: चुनौतीपूर्ण हैंड-डायनेमिक्स बेंचमार्क पर, IPA ने सभी बेसलाइन्स को महत्वपूर्ण रूप से पछाड़ते हुए 6.3 का FID-VID और 0.757 का SSIM प्राप्त किया।
हैंड-विशिष्ट मेट्रिक्स: कस्टम SSIM-Hand और PSNR-Hand मेट्रिक्स का उपयोग करते हुए, IPA ने 0.606 और 18.9 क्रमशः स्कोर किया, जो सभी अन्य विधियों से अधिक है।

गुणात्मक परिणाम (Qualitative Results)

दृश्य तुलना दर्शाती है कि मौजूदा विधियाँ जटिल उंगली आंदोलनों के दौरान अक्सर विकृत या ढह चुके हाथ उत्पन्न करती हैं। इसके विपरीत, IPA तीखे किनारों, स्पष्ट उंगली पृथक्करण और शारीरिक शुद्धता के साथ हाथ उत्पन्न करता है, जो ग्राउंड ट्रुथ से बारीकी से मेल खाता है।

एब्लेशन अध्ययन (Ablation Studies)

घटक हटाना (Component Removal): IPA और HALO दोनों को हटाने से गंभीर विकृति हुई। केवल HALO को हटाने से ज्यामितीय विकृति कम हो गई लेकिन धुंधले आर्टिफैक्ट्स रह गए, जो दोनों घटकों की आवश्यकता की पुष्टि करता है।
हाइपरपैरामीटर्स: इष्टतम प्रदर्शन $\beta = 600$ (प्रतिबंध शक्ति के संतुलन के लिए) और $\lambda = 10$ (हैंड फोकस बनाम ग्लोबल क्वालिटी के संतुलन के लिए) पर देखा गया।

5. महत्व और दावे

यह शोध पत्र IPA को DPO के एक विशेष, संसाधन-कुशल विकल्प के रूप में प्रस्तुत करता है, जो विशेष रूप से उन परिदृश्यों के लिए डिज़ाइन किया गया है जहाँ उच्च-गुणवत्ता वाले वरीयता युग्म दुर्लभ या निर्माण करना असंभव है (जैसे गतिशील हाथ की आर्टिकुलेशन)।

डेटा दक्षता: प्राथमिक महत्व डेटा निर्माण की बाधा को कम करने में निहित है। केवल "अच्छे" नमूनों की आवश्यकता देकर (बजाय सख्त युग्मों के), यह फ्रेमवर्क जटिल जनरेशन कार्यों के लिए वरीयता संरेखण को संभव बनाता है जहाँ "बुरे" नमूनों को लगातार परिभाषित करना कठिन होता है।
रणनीतिक समझौता: लेखक स्पष्ट करते हैं कि IPA का दावा सार्वभौमिक रूप से DPO से बेहतर होने का नहीं है। जब स्पष्ट नकारात्मक संकेत उपलब्ध हों और संसाधन व्यापक डेटा जनरेशन की अनुमति दें, तो DPO ही बेहतर है। हालाँकि, संसाधन-बाधित या अत्यधिक जटिल डोमेन (जैसे हाथ का एनीमेशन) में, IPA उच्च-निष्ठा वाले जनरेशन के लिए एक व्यवहार्य और कुशल मार्ग प्रदान करता है।
व्यावहारिक प्रभाव: यह कार्य मानव छवि एनीमेशन में एक निरंतर बाधा को संबोधित करता है, जिससे फिल्म निर्माण, विज्ञापन और वर्चुअल रियलिटी जैसे अनुप्रयोगों के लिए अधिक यथार्थवादी डिजिटल अवतार संश्लेषण को सक्षम बनाया जा सके।

लेखक नोट करते हैं कि जबकि विधि फिडेलिटी (fidelity) में सुधार करती है, उच्च-निष्ठा वाली जनरेटिव प्रौद्योगिकियों से जुड़े जोखिमों को कम करने के लिए जिम्मेदार विकास आवश्यक है, जैसे कि भ्रामक सामग्री का निर्माण।