← नवीनतम पेपर
💬 NLP

Emotion Recognition in Sign Language Conversation

यह शोध पत्र eJSL डायलॉग डेटासेट को पेश करके और व्यवस्थित बेंचमार्किंग के माध्यम से यह प्रदर्शित करके कि मौजूदा सामान्य मॉडल एक डोमेन गैप से ग्रस्त हैं, साइन लैंग्वेज इमोशन रिकग्निशन में संवादात्मक संदर्भ की कमी को संबोधित करता है, जो भविष्य के अनुसंधान के लिए संदर्भ-जागरूक विजुअल एक्सट्रैक्टर्स और बड़े पैमाने के डेटासेट की आवश्यकता पर प्रकाश डालता है।

मूल लेखक: Yusong Wang, Keyu Mao, Takao Obi, Minghao Shao, Kotaro Funakoshi

प्रकाशित 2026-05-25
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Yusong Wang, Keyu Mao, Takao Obi, Minghao Shao, Kotaro Funakoshi

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप किसी फिल्म के केवल यादृच्छिक (random), अलग-थलग फ्रेम देखकर उसे समझने की कोशिश कर रहे हैं। आप एक व्यक्ति को मुस्कुराते हुए देख सकते हैं, लेकिन आपको यह नहीं पता होगा कि वे क्यों मुस्कुरा रहे हैं। क्या वे इसलिए मुस्कुरा रहे हैं क्योंकि उन्होंने कोई पुरस्कार जीता है, या वे घबराहट में इसलिए मुस्कुरा रहे हैं क्योंकि वे भाषण देने वाले हैं? यह बिल्कुल वही समस्या है जिसका सामना शोधकर्ताओं ने सांकेतिक भाषा (Sign Language) में भावनाओं को समझने के लिए कंप्यूटर को सिखाने के दौरान किया था।

यहाँ इस शोध पत्र का एक सरल विवरण दिया गया है, जिसमें रोजमर्रा के उपमाओं (analogies) का उपयोग किया गया है:

1. समस्या: "मूक फिल्म" का जाल (The "Silent Movie" Trap)

सांकेतिक भाषा में भावनाओं को पहचानने के लिए अधिकांश मौजूदा कंप्यूटर प्रोग्राम मूक फिल्म के आलोचकों की तरह हैं। वे एक व्यक्ति के संकेत करने के एक एकल क्लिप को देखते हैं और भावना का अनुमान लगाने की कोशिश करते हैं।

  • खामी: वास्तविक जीवन में, भावनाएं एक बातचीत होती हैं। एक छात्र संकेत करते समय "तटस्थ" (शांत) दिख सकता है, लेकिन यदि उनके शिक्षक ने अभी उनकी प्रशंसा की है, तो वह "तटस्थ" चेहरा वास्तव में "गर्व" का प्रतीक है। यदि कंप्यूटर केवल चेहरे को देखता है और बातचीत के इतिहास को अनदेखा करता है, तो वह गलत अनुमान लगाता है।
  • भ्रम: सांकेतिक भाषा में, चेहरे के भाव दोहरी भूमिका निभाते हैं। एक सिकुड़ी हुई भौंह का अर्थ "मैं एक प्रश्न पूछ रहा हूँ" (व्याकरण) भी हो सकता है और "मैं क्रोधित हूँ" (भावना) भी। यह एक ट्रैफिक लाइट की तरह है जो संदर्भ के आधार पर कभी "रुकने" का संकेत देती है और कभी "बाएँ मुड़ने" का। मौजूदा कंप्यूटर इस ओवरलैप से भ्रमित हो जाते हैं।

2. समाधान: एक नया "स्क्रिप्ट" और डेटासेट

इसे ठीक करने के लिए, लेखकों ने eJSL Dialog नामक एक नया संसाधन बनाया।

  • उपमा: इसे "फ्लैशकार्ड" अध्ययन पद्धति से "पूर्ण नाटक" (full play) अध्ययन पद्धति की ओर बढ़ने के रूप में सोचें। अलग-थलग वाक्यों के बजाय, उन्होंने एक शिक्षक और एक छात्र के बीच 480 लघु बातचीत (एक छोटे नाटक की तरह) बनाई।
  • सामग्री: उन्होंने मौजूदा स्क्रिप्ट ली, पेशेवर बधिर कलाकारों से उन्हें जापानी सांकेतिक भाषा (JSL) में करवाया, और 1,920 वीडियो क्लिप रिकॉर्ड किए। प्रत्येक क्लिप को एक भावना (खुशी, दुख, क्रोध, या तटस्थ) के साथ टैग किया गया है।
  • लक्ष्य: यह डेटासेट कंप्यूटर को यह सीखने के लिए मजबूर करता है कि बातचीत के दौरान भावनाएं कैसे बदलती हैं, न कि केवल एक शून्य (vacuum) में।

3. प्रयोग: "छात्रों" का परीक्षण

शोधकर्ताओं ने इस नए डेटासेट को विभिन्न प्रकार के कंप्यूटर मॉडल (छात्रों) के लिए एक अंतिम परीक्षा की तरह इस्तेमाल किया:

  • "केवल दृश्य" (Visual Only) छात्र: यह मॉडल केवल वीडियो (हाथ और चेहरा) को देखता है। इसने ठीक प्रदर्शन किया, लेकिन इसे उदासी जैसी सूक्ष्म भावनाओं को समझने में कठिनाई हुई क्योंकि यह संदर्भ को नहीं सुन सका।
  • "केवल पाठ" (Text Only) छात्र: इस मॉडल ने केवल संकेतों के अनुवाद को पढ़ा। इसने समग्र रूप से सबसे अच्छा प्रदर्शन किया क्योंकि शब्द स्वयं अक्सर भावना को स्पष्ट कर देते हैं।
  • "सामान्य बहुविध" (Generic Multimodal) छात्र: ये फैंसी मॉडल हैं जिन्हें आमतौर पर बोली जाने वाली भाषाओं (जहाँ लोग बात करते हैं और चेहरे के भाव बनाते हैं) के लिए प्रशिक्षित किया जाता है। जब शोधकर्ताओं ने इन्हें सांकेतिक भाषा पर आज़माया, तो ये बुरी तरह विफल रहे।
    • क्यों? यह एक कुत्ते को फ्रेंच बोलने सिखाने जैसा है। मॉडल को मानवीय चेहरे के भावों (जैसे खुशी के लिए मुस्कान) की अपेक्षा थी, लेकिन सांकेतिक भाषा में, एक "मुस्कान" केवल एक व्याकरण संबंधी मार्कर हो सकती है। मॉडल भ्रमित हो गया और सरल मॉडलों की तुलना में खराब प्रदर्शन किया।

4. मुख्य निष्कर्ष

यह शोध पत्र दो मुख्य सबक प्रकट करता है:

  1. संदर्भ ही सर्वोपरि है (Context is King): आप बिना यह जाने कि पहले क्या कहा गया था, सांकेतिक भाषा की भावनाओं को नहीं समझ सकते। एक मॉडल को बातचीत के इतिहास को याद रखने की आवश्यकता है, ठीक वैसे ही जैसे एक इंसान करता है।
  2. एक आकार सबके लिए उपयुक्त नहीं है (One Size Does Not Fit All): आप केवल एक कंप्यूटर प्रोग्राम जिसे बोली जाने वाली भाषाओं के लिए बनाया गया है, उसे सांemic भाषा पर लागू नहीं कर सकते। सांकेतिक भाषा का दृश्य "व्याकरण" बहुत अलग है। हमें विशेष उपकरणों की आवश्यकता है जो विशेष रूप से सांकेतिक भाषा करने वालों द्वारा अपने चेहरे और हाथों के अनूठे उपयोग के लिए डिज़ाइन किए गए हों।

5. आगे क्या?

लेखक स्वीकार करते हैं कि उनका "नाटक" एक आदर्श, सफेद स्टूडियो में केवल दो अभिनेताओं के साथ फिल्माया गया था। वास्तविक जीवन अव्यवस्थित होता है, जिसमें खराब रोशनी और कई अलग-अलग लोग होते हैं।

  • भविष्य: वे डेटासेट को बड़ा बनाने, अधिक सहज (अस्पष्ट/unscripted) बातचीत शामिल करने और लंबी बातचीत के प्रवाह को बेहतर ढंग से समझने के लिए उन्नत एआई (AI) का उपयोग करने की योजना बना रहे हैं।

संक्षेप में: इस शोध पत्र ने सांकेतिक भाषा की भावनाओं के लिए पहली "बातचीत लाइब्रेरी" बनाई ताकि यह साबित किया जा सके कि वर्तमान कंप्यूटर बहुत "अल्पदर्शी" (short-sighted) हैं। सांकेतिक करने वाले की भावनाओं को वास्तव में समझने के लिए, कंप्यूटर को केवल एक फ्रेम नहीं, बल्कि पूरी फिल्म देखनी होगी।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →