← नवीनतम पेपर
🤖 machine learning

Faithful Action-unit Causal Reasoning for Counterfactually Faithful Emotion Explanations

यह शोध पत्र FACR को प्रस्तुत करता है, जो एक ऐसा ढांचा है जो मल्टीमॉडल इमोशन रीजनिंग में काउंटरफैक्चुअल फेथफुलनेस (counterfactual faithfulness) को लागू करता है, जिसमें मॉडलों को अपने एक्शन यूनिट (AU) स्पष्टीकरणों को एक स्ट्रक्चरल कॉज़ल ग्राफ के साथ संरेखित करने के लिए प्रशिक्षित किया जाता है, जिससे यह सुनिश्चित होता है कि आह्वान किए गए AU भविष्यवाणियों के लिए कारणतः आवश्यक हैं और उत्पन्न टेक्स्ट में सत्यापन योग्य रूप से प्रतिबिंबित होते हैं।

मूल लेखक: Van Thong Huynh, Hong Hai Nguyen, Thuy Pham, Trong Nghia Nguyen, Soo-Hyung Kim

प्रकाशित 2026-06-16
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Van Thong Huynh, Hong Hai Nguyen, Thuy Pham, Trong Nghia Nguyen, Soo-Hyung Kim

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक स्मार्ट कैमरा है जो किसी व्यक्ति के चेहरे को देखता है और कहता है, "वह व्यक्ति दर्द में है।" आमतौर पर, ये कैमरे आत्मविश्वासी लेकिन बेईमान छात्रों की तरह होते हैं: वे सही उत्तर (दर्द) तो दे देते हैं, लेकिन यदि आप उनसे पूछते हैं कि क्यों, तो वे एक ऐसी कहानी बना लेते हैं जो सुनने में अच्छी लगती है लेकिन वास्तव में वह नहीं होती जो वे सोच रहे थे। वे कह सकते हैं, "मुझे पता है कि यह दर्द है क्योंकि उनकी भौहें ऊपर उठी हुई हैं," भले ही कैमरा वास्तव में किसी और चीज़ पर प्रतिक्रिया दे रहा हो।

यह शोध पत्र एक नई प्रणाली पेश करता है जिसे FACR (फेथफुल एक्शन-यूनिट कॉज़ल रीजनिंग) कहा जाता है। इसका लक्ष्य कैमरे को यह बताने के लिए मजबूर करना है कि उसने अपना निर्णय क्यों लिया, न कि केवल एक विश्वसनीय कहानी सुनाना।

यह कैसे काम करता है, सरल उपमाओं का उपयोग करते हुए यहाँ दिया गया है:

1. समस्या: "विश्वसनीय झूठा" (The Plausible Liar)

अधिकांश AI सिस्टम उन छात्रों की तरह होते हैं जिन्होंने गणित समझने के बजाय उत्तर कुंजी (answer key) रट ली है। यदि आप गणित के सवाल में नंबर बदल देते हैं (एक "काउंटरफैक्चुअल" बदलाव), तो छात्र अभी भी वही गलत उत्तर और वही गलत स्पष्टीकरण देता है।

  • समस्या: वर्तमान AI उन चेहरे की मांसपेशियों (जिन्हें एक्शन यूनिट्स या AUs कहा जाता है) का नाम तो बता सकते हैं जो हमारी भावनाओं के साथ हिलती हैं। लेकिन वे अक्सर केवल यह अनुमान लगाते हैं कि किन मांसपेशियों ने भावना पैदा की, बजाय इसके कि वे वास्तव में उन मांसपेशियों का उपयोग निर्णय लेने के लिए करें।

2. समाधान: "सख्त नियम पुस्तिका" (The Strict Rulebook)

लेखकों ने एक कॉज़ल ग्राफ (Causal Graph) बनाया है। इसे एक सख्त नियम पुस्तिका या मानचित्र की तरह समझें।

  • मानचित्र: यह स्पष्ट रूप से विशिष्ट मांसपेशी गतिविधियों को विशिष्ट भावनाओं से जोड़ने वाली रेखाएं खींचता है। उदाहरण के लिए, यह कहता है, "यदि आप दर्द का पता लगाना चाहते हैं, तो आपको मांसपेशी A और मांसपेशी B को देखना ही होगा। यदि आप मांसपेशी C देखते हैं, तो दर्द के लिए उसका कोई महत्व नहीं है।"
  • ट्विस्ट: केवल इस मानचित्र का उपयोग करके भावना का अनुमान लगाने के बजाय, वे AI को खुद को समझाने के दौरान इस मानचित्र का पालन करने के लिए मजबूर करते हैं।

3. प्रशिक्षण: "हस्तक्षेप परीक्षण" (The Intervention Test)

AI को ईमानदार बनाने के लिए, वे काउंटरफैक्चुअल फेथफुलनेस (Counterfactual Faithfulness) नामक प्रशिक्षण पद्धति का उपयोग करते हैं। कल्पना कीजिए कि एक शिक्षक "क्या होगा अगर?" के खेल में छात्र के साथ खेल रहा है:

  • परिदृश्य A: "ठीक है, मैं कल्पना कर रहा हूँ कि मांसपेशी A (जिसके बारे में मानचित्र कहता है कि वह दर्द का कारण है) जम गई है और हिल नहीं सकती। यदि आपका सिस्टम ईमानदार है, तो आपका उत्तर 'दर्द' से बदलकर 'कोई दर्द नहीं' हो जाना चाहिए।"
  • परि сцена B: "अब, मैं कल्पना कर रहा हूँ कि मांसपेशी C (जिसका संबंध दर्द से नहीं है) जम गई है। आपका उत्तर बिल्कुल वैसा ही रहना चाहिए।"

यदि AI इस परीक्षण में विफल रहता है—यानी, यदि वह अभी भी "दर्द" कहता है जब महत्वपूर्ण मांसपेशी गायब होती है, या वह तब अपना मन बदल लेता है जब एक अप्रासंगिक मांसपेशी गायब होती है—तो उसे दंडित किया जाता है। यह AI को अपने मस्तिष्क को इस तरह से पुनर्गठित करने के लिए मजबूर करता है ताकि उसका निर्णय वास्तव में नियम पुस्तिका में सूचीबद्ध मांसपेशियों पर निर्भर हो।

4. परिणाम: एक "सत्यवादी" AI

उन्होंने दो चीजों पर इस पेपर का परीक्षण किया:

  1. दर्द का पता लगाना: उन्होंने एक ऐसा डेटासेट उपयोग किया जहाँ "सत्य" ज्ञात था (एक विशिष्ट सूत्र: मांसपेशियों का समूह = दर्द)।

    • पहले: AI का स्पष्टीकरण सत्य से केवल 8% बार मेल खाता था।
    • बाद में: इस नए प्रशिक्षण के साथ, स्पष्टीकरण 57% बार सत्य से मेल खाता था।
    • समझौता (Trade-off): AI केवल "दर्द" बनाम "कोई दर्द नहीं" का अनुमान लगाने में थोड़ा खराब हो गया (सटीकता में मामूली गिरावट), लेकिन वह यह समझाने में बहुत बेहतर हो गया कि क्यों। यह एक ऐसे डॉक्टर की तरह है जो निदान करने में थोड़ा धीमा हो सकता है लेकिन लक्षणों की बहुत सटीक व्याख्या देता है।
  2. क्रॉस-डेटासेट ट्रांसफर: उन्होंने एक अलग डेटासेट (सामान्य भावनाएं, न कि केवल दर्द) पर इसे आजमाया।

    • AI ने नए डेटा पर भी नियम पुस्तिका का पालन करना सीखा।
    • महत्वपूर्ण निष्कर्ष: AI उतना ही ईमानदार है जितना कि उसकी नियम पुस्तिका सही है। यदि नियम पुस्तिका में त्रुटियां हैं, तो AI वफादारी से गलत नियमों का पालन करेगा। लेकिन यदि नियम पुस्तिका सत्यापित और सही है, तो AI का स्पष्टीकरण वास्तविकता का एक सच्चा प्रतिबिंब बन जाता है।

5. "आवाज़" का अपग्रेड

अंत में, उन्होंने इस प्रणाली के साथ एक लैंग्वेज मॉडल जोड़ा।

  • सुधार के बिना: AI चेहरे को देखेगा, तय करेगा कि व्यक्ति खुश है, और फिर केवल एक वाक्य उत्पन्न करेगा जैसे, "व्यक्ति खुश है क्योंकि वह मुस्कुरा रहा है," भले ही उसने उस निर्णय के लिए "मुस्कान" वाली मांसपेशी का वास्तव में उपयोग न किया हो।
  • सुधार के साथ: AI "गेटेड" (नियंत्रित) है। वह वाक्य में किसी मांसपेशी का उल्लेख केवल तभी कर सकता है जब उस मांसपेशी ने वास्तव में निर्णय को ट्रिगर किया हो। यदि आप छवि से मांसपेशी को हटा देते हैं, तो AI को वाक्य से भी उस मांसपेशी को हटाना होगा। अब स्पष्टीकरण निर्माण के माध्यम से (by construction) सत्य के रूप में बनाया गया है।

सारांश

यह पेपर यह दावा नहीं करता कि यह AI को एक आदर्श डॉक्टर या मन पढ़ने वाला बनाता है। यह दावा करता है कि FACR एक ऐसी प्रणाली बनाता है जहाँ स्पष्टीकरण वफादार (faithful) है।

  • पुराना AI: "मुझे लगता है कि यह दर्द है क्योंकि... खैर, यह दर्द जैसा दिखता है।" (विश्वसनीय लेकिन शायद झूठ बोल रहा है)।
  • नया AI (FACR): "मुझे लगता है कि यह दर्द है क्योंकि मांसपेशी X और मांसपेशी Y सक्रिय हैं, और मेरी नियम पुस्तिका कहती है कि ये दो मांसपेशियां दर्द के बराबर हैं। यदि मैं उन्हें हटा दूँ, तो मैं इसे दर्द नहीं कहूँगा।" (वफादार और सत्यापन योग्य)।

यह पेपर सिद्ध करता है कि आप एक AI को उसके तर्क के बारे में "ईमानदार" होने के लिए प्रशिक्षित कर सकते हैं, भले ही इसका अर्थ यह हो कि वह केवल अनुमान लगाने के खेल में थोड़ा कम सटीक हो जाए। यह एक समझौता है: अधिक विश्वास और पारदर्शिता के लिए थोड़ी कम गति/सटीकता।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →