Omni-Perception Policy Optimization for Multimodal Emotion Reasoning
यह शोध पत्र OPPO को प्रस्तुत करता है, जो एक सुदृढीकरण शिक्षण (reinforcement learning) ढांचा है जो एक विशेष पुरस्कार प्रणाली और क्रॉस-मोडल मतिभ्रम (cross-modal hallucinations) को कम करने के लिए डिज़ाइन किए गए लॉस फंक्शन के माध्यम से विश्वसनीय ओम्नी-मोडल धारणा के लिए अनुकूलित करके मल्टीमॉडल इमोशन रीजनिंग को बढ़ाता है, जिसे नए MEP-Bench डायग्नोस्टिक बेंचमार्क द्वारा मान्य किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: "ईमानदार जासूस" बनाम "खयाली पुलाव पकाने वाला"
कल्पना कीजिए कि आप किसी व्यक्ति की भावनाओं के रहस्य को सुलझाने के लिए एक जासूस को काम पर रख रहे हैं। इस जासूस के पास तीन प्रकार के सुरागों तक पहुँच है: वे क्या देखते हैं (दृश्य/विजुअल), वे क्या सुनते हैं (ऑडियो), और क्या कहा गया है (टेक्स्ट)।
यह शोध पत्र तर्क देता है कि वर्तमान "AI जासूस" (जिन्हें Omni-MLLMs कहा जाता है) वास्तव में अपने काम में काफी खराब हैं। वे दो मुख्य समस्याओं से जूझ रहे हैं:
- "आलसी जासूस" (अल्प-उपयोग/Underutilization): जासूस अधिकांश सुरागों को अनदेखा कर देता है। यदि कोई व्यक्ति वीडियो में रो रहा है लेकिन उसका चेहरा तटस्थ (neutral) है, तो आलसी जासूस केवल यह कह सकता है, "वे दुखी हैं क्योंकि वे रो रहे हैं," और इस तथ्य को पूरी तरह से अनदेखा कर देता है कि उनका चेहरा शांत दिख रहा है। वे केवल सबसे स्पष्ट सुराग को देखते हैं और बाकी को छोड़ देते हैं।
- "खयाली पुलाव पकाने वाला जासूस" (अविश्वसनीयता/Hallucination): जासूस बातें बनाता है। यदि ऑडियो गुस्से भरा है, तो जासूस एक ऐसे वीडियो को देखकर जिसमें व्यक्ति का चेहरा तटस्थ है, आत्मविश्वास से कह सकता है, "मुझे उनके चेहरे पर शिकन दिख रही है!" भले ही वीडियो खाली हो या व्यक्ति मुस्कुरा रहा हो। वे वास्तव में जो देखा उसके बजाय, जो सुना उसके आधार पर दृश्य साक्ष्य की "कल्पना" (hallucinate) कर रहे हैं।
समाधान: OPPO (प्रशिक्षण शिविर)
लेखकों ने एक नया प्रशिक्षण तरीका बनाया जिसे OPPO (ओम्नी-परसेप्शन पॉलिसी ऑप्टिमाइज़ेशन) कहा जाता है, ताकि इन खयाली पुलाव पकाने वाले और आलसी जासूसों को ईमानदार और सूक्ष्मदर्शी जासूसों में बदला जा सके। उन्होंने इसे "रीइन्फोर्समेंट लर्निंग" (Reinforcement Learning) फ्रेमवर्क का उपयोग करके किया, जो एक सख्त कोच की तरह है जो अभ्यास के दौरान पुरस्कार और दंड देता है।
AI को ठीक करने के लिए OPPO दो मुख्य उपकरणों का उपयोग करता है:
1. "साक्ष्य चेकलिस्ट" (ओम्नी-परसेप्शन रिवॉर्ड)
उपमा: कल्पना कीजिए कि एक शिक्षक छात्र के निबंध को ग्रेड दे रहा है। केवल अंतिम उत्तर के लिए ग्रेड देने के बजाय, शिक्षक के पास तथ्यों की एक विशिष्ट चेकलिस्ट होती है जिनका उल्लेख किया जाना अनिवार्य है।
- यह कैसे काम करता है: AI को एक वीडियो और ऑडियो क्लिप दी जाती है। "ग्राउंड ट्रुथ" (सही उत्तर) में विशिष्ट सुरागों की एक सूची होती है, जैसे "सिकुड़ी हुई भौहें," "कांपती आवाज," या "आंसू।"
- पुरस्कार (Reward): AI को उसके तर्क (reasoning) में बताए गए प्रत्येक सुराग के लिए बोनस अंक मिलता है। यदि वह "कांपती आवाज" को अनदेखा कर देता है और केवल "आंसुओं" के बारे में बात करता है, तो उसे कम स्कोर मिलता है। यह AI को आलसी होने से रोकता है और वास्तव में सभी साक्ष्यों को देखने के लिए मजबूर करता है।
2. "आंखों पर पट्टी वाला टेस्ट" (ओम्नी-परसेप्शन लॉस)
उपमा: कल्पना कीजिए कि आप परीक्षण कर रहे हैं कि क्या एक जासूस वास्तव में देख सकता है। आप उनकी आंखों पर पट्टी बांध देते हैं (वीडियो को मास्क कर देते हैं) और पूछते हैं, "आपको व्यक्ति के चेहरे पर क्या दिख रहा है?"
- समस्या: यदि पट्टी बंधे होने के बावजूद जासूस कहता है, "मुझे शिकन दिख रही है!" तो वह झूठ बोल रहा है। वह केवल उस ध्वनि के आधार पर अनुमान लगा रहा है जो उसने सुनी थी, न कि जो उसने देखा।
- समाधान: OPPO एक विशेष दंड (penalty) बनाता है। यह AI को लेता है, वीडियो को छिपा देता है (या ऑडियो को), और उससे उस विशिष्ट भाग का वर्णन करने के लिए कहता है।
- यदि वीडियो छिपाने पर AI अपना उत्तर बदल देता है (जैसे, वह "शिकन" कहना बंद कर देता है क्योंकि अब वह चेहरा नहीं देख पा रहा है), तो उसे पुरस्कार मिलता है।
- यदि वीडियो गायब होने के बाद भी AI "शिकुन" कहना जारी रखता है, तो उसे भारी दंड मिलता है।
- लक्ष्य: यह AI को वफादार (faithful) होना सिखाता है। वह सीख जाता है कि यदि वह साक्ष्य को देख नहीं सकता, तो उसे दावा नहीं करना चाहिए कि वह मौजूद है। यह उसे ऑडियो संकेतों के आधार पर दृश्य विवरणों की "कल्पना" करने से रोकता है।
परिणाम: एक बेहतर जासूस
लेखकों ने इन दो कौशलों को मापने के लिए एक विशेष परीक्षण बनाया जिसे MEP-Bench कहा जाता है: "उपयोगिता" (क्या आपने सभी सुरागों का उपयोग किया?) और "वफादारी" (क्या आपने बातें बनाईं?)।
- OPPO से पहले: AI उस छात्र की तरह था जिसने केवल पाठ्यपुस्तक के पहले पन्ने का अध्ययन किया और बाकी का अनुमान लगाया। इसने लगभग आधे सुरागों को मिस कर दिया और 35-50% बार तथ्य बना दिए।
- OPPO के बाद: AI एक शीर्ष स्तर का छात्र बन गया।
- इसने 70% सुरागों को पकड़ना शुरू कर दिया (50% से ऊपर)।
- इसने वीडियो छिपे होने पर दृश्य तथ्यों को बनाना बंद कर दिया, जिससे इसकी ईमानदारी का स्कोर काफी बढ़ गया।
- यह वास्तव में भावनाओं को पहचानने के काम में भी बेहतर हो गया, जिसने मानक परीक्षणों पर पिछले सभी रिकॉर्ड तोड़ दिए।
सारांश
यह शोध पत्र दावा करता है कि यदि किसी AI को वीडियो और ध्वनि से मानवीय भावनाओं को वास्तव में समझना है, तो उसे सब कुछ देखने (केवल शोर वाले हिस्सों को ही नहीं) और केवल वही कहने (जो वह वास्तव में महसूस कर सकता है, न कि जो वह कल्पना करता है) के लिए प्रशिक्षित किया जाना चाहिए। OPPO वह प्रशिक्षण विधि है जो AI को बिल्कुल यही करने के लिए मजबूर करती है, जिसके परिणामस्वरूप एक ऐसा मॉडल प्राप्त होता है जो अधिक बुद्धिमान और अधिक ईमानदार है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।