← नवीनतम पेपर
💻 computer science

Empathy as Predictive Misalignment Tolerance: A Co-Regulation Framework and the Regime Structure of Dialogue Repair

यह शोध पत्र सहानुभूति को भावनात्मक अनुनाद से बदलकर "अनुमानित विसंगति सहिष्णुता" के रूप में पुनर्गठित करता है, यह प्रस्तावित करते हुए कि प्रभावी संवाद विसंगति को समाप्त करने के बजाय समय के साथ व्याख्यात्मक विचलन को विनियमित करने पर निर्भर करता है, एक ऐसी अवधारणा जिसे उन निष्कर्षों द्वारा मान्य किया गया है जो दिखाते हैं कि मरम्मत तंत्र शोर के स्तर के आधार पर सटीकता का सार संरक्षण के लिए व्यापार करते हैं।

मूल लेखक: Molood Arman

प्रकाशित 2026-07-20
📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Molood Arman

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

बहुत करीब जाए बिना तालमेल बिठाने की कला

कल्पना कीजिए कि आप एक दोस्त के साथ गहरी बातचीत करने की कोशिश कर रहे हैं, लेकिन हर बार जब आप बोलते हैं, तो आपकी आवाज़ शोर (static) के कारण थोड़ी अस्पष्ट हो जाती है, या आपका दोस्त गलती से किसी शब्द का गलत अर्थ निकाल लेता है। विज्ञान की दुनिया में, विशेष रूप से इस क्षेत्र में कि हम कंप्यूटर को इंसानों से बात करना कैसे सिखाते हैं (जिसे 'ह्यूमन-कंप्यूटर इंटरैक्शन' कहा जाता है), इस बात पर एक बड़ी बहस चल रही है कि वास्तव में "सहानुभूति" (empathy) का क्या अर्थ है। लंबे समय तक, वैज्ञानिकों और इंजीनियरों ने सोचा कि सहानुभूति एक दर्पण की तरह है: यदि आप दुखी हैं, तो कंप्यूटर को भी दुखी दिखना चाहिए; यदि आप खुश हैं, तो उसे भी खुश दिखना चाहिए। उन्होंने इसे "अनुनाद" (resonance) कहा। यह बिल्कुल वैसा ही है जैसे दो लोग पूरी तरह से तालमेल में नृत्य कर रहे हों, और हर एक कदम को सटीक रूप से मिलाने की कोशिश कर रहे हों।

लेकिन वास्तविक जीवन कोई आदर्श नृत्य नहीं है। लोग अपनी सोच में अलग होते जाते हैं, वे अपने विचार बदलते हैं, और वे एक-दूसरे को गलत समझ लेते हैं। जिस शोध पत्र के बारे में आप सुनने वाले हैं, वह एक अलग सवाल पूछता है: क्या होगा अगर सहानुभूति का मतलब पूरी तरह से मेल खाना नहीं, बल्कि यह जानना है कि बातचीत टूटने से पहले कितना "विचलन" (drift) ठीक है? यह सुझाव देता है कि सहानुभूतिपूर्ण होना एक कुशल रस्सी पर चलने वाले (tightrope walker) जैसा है जो जानता है कि गिरने के बिना वह कितना डगमगा सकता है, न कि उस व्यक्ति जैसा जो बिल्कुल स्थिर खड़े रहने की कोशिश करता है। यह महत्वपूर्ण है क्योंकि यदि हम ऐसे कंप्यूटर बनाते हैं जो बहुत अधिक 'परफेक्ट' होने की कोशिश करते हैं, तो वे हमसे सहमत होने के चक्कर में हमारे अनूठे विचारों को अनदेखा कर सकते हैं। यदि हम उन्हें यह समझने के लिए बनाते हैं कि हम कैसे अलग होते हैं, तो वे वास्तव में बेहतर दोस्त बन सकते हैं।


शोध पत्र का बड़ा विचार: सहानुभूति एक सुरक्षा जाल है, दर्पण नहीं

यह शोध पत्र, जिसे एक स्वतंत्र शोधकर्ता मोलूड अरमान (Molood Arman) द्वारा लिखा गया है, इस पुराने विचार को चुनौती देता है कि सहानुभूति केवल किसी की भावनाओं की नकल करना है। इसके बजाय, अरमान इसके बारे में सोचने का एक नया तरीका प्रस्तावित करते हैं जिसे प्रेडिक्टिव मिसअलाइनमेंट टॉलरेंस (Predictive Misalignment Tolerance) कहा जाता है।

यहाँ मुख्य अवधारणा है: कल्पना कीजिए कि आप और एक दोस्त एक धुंधले जंगल में चल रहे हैं। आप दोनों के पास एक नक्शा है, लेकिन धुंध के कारण रास्ता स्पष्ट नहीं है। कभी आपको लगता है कि रास्ता बाईं ओर जाता है, और आपके दोस्त को लगता है कि वह दाईं ओर जाता है। सहानुभूति के पुराने "दर्पण" वाले दृष्टिकोण में, लक्ष्य यह होता कि आपके दोस्त को तुरंत आपसे सहमत होने के लिए मजबूर किया जाए ताकि आप पूरी तरह से एक समान हो सकें। लेकिन अरमान का तर्क है कि सच्ची सहानुभूति यह महसूस करना है कि आप कभी-कभी असहमत होंगे, और एक ऐसा "सुरक्षा बैंड" (safety band) होना जहाँ उस असहमति को दोस्ती टूटे बिना होने की अनुमति दी जा सके।

लेखक इसे इंटरप्रिटिव एरर टॉलरेंस (Interpretive Error Tolerance - IET) कहते हैं। यह यह अनुमान लगाने की क्षमता है कि आपका दोस्त आपके वाक्य का अलग अर्थ निकाल सकता है, और उस अंतर को प्रबंधित करना ताकि आप उसी बातचीत में बने रहें, भले ही आप बिल्कुल एक जैसा नहीं सोच रहे हों। यह आपके बीच के अंतर को खत्म करने के बारे में नहीं है; यह इस बारे में है कि वह अंतर इतना बड़ा न हो जाए कि आप एक-दूसरे को खो दें।

प्रयोग: "शोर भरी" बातचीत के साथ सिद्धांत का परीक्षण

यह देखने के लिए कि क्या यह विचार वास्तविक जीवन में (या कम से कम, कंप्यूटर सिमुलेशन में) काम करता है, लेखक ने दो प्रयोग किए। उन्होंने 'डेलीडायलॉग' (DailyDialog) नामक डेटाबेस से हजारों वास्तविक बातचीत लीं और उनमें "शोर" (noise) जोड़ दिया। इस शोर को रेडियो पर आने वाली खराश या एक ऐसे दोस्त की तरह समझें जो विचलित है और गलत शब्द टाइप कर रहा है।

कंप्यूटर को इस शोर को संभालने के तीन अलग-अलग तरीके दिए गए:

  1. कुछ न करना: बस बात जारी रखना, गलतियों को अनदेखा करना।
  2. निश्चित नियम (Fixed Rule): हमेशा बातचीत को ठीक करने की कोशिश करना यदि जो कहा गया और जिसका अर्थ निकाला गया, उनके बीच की "दूरी" बहुत बढ़ जाती है।
  3. "सहानुभूति" का नियम (IET): एक स्मार्ट सिस्टम जो इस शोर के स्तर को गतिशील रूप से समायोजित करने की कोशिश करता था, यानी जब चीजें अस्त-व्यस्त होती थीं तो सुरक्षा बैंड को चौड़ा कर देता था और जब चीजें शांत होती थीं तो उसे सिकोड़ देता था।

आश्चर्यजनक परिणाम: यह काम नहीं किया (लेकिन हमने कुछ सीखा)

यहाँ मोड़ आता है: "सहानुभूति" वाला नियम (IET) अन्य तरीकों से बेहतर साबित नहीं हुआ। वास्तव में, पहले प्रयोग में, वह कंप्यूटर जिसने बातचीत को "ठीक" करने की कोशिश की, उसने बहुत अधिक बातचीत को हटाकर स्थिति को और खराब कर दिया। स्मार्ट, अनुकूलन योग्य (adaptive) सिस्टम भी एक साधारण, अपरिवर्तनीय नियम से बेहतर प्रदर्शन नहीं कर सका।

हालाँकि, शोध पत्र यहीं नहीं रुका। लेखक ने महसूस किया कि भले ही उनकी "सहानुभूति" का फॉर्मूला नहीं जीता, लेकिन प्रयोगों ने यह खुलासा किया कि बातचीत कैसे टूटती और सुधरती है, इसमें एक छिपा हुआ पैटर्न है। यह इस शोध पत्र की सबसे महत्वपूर्ण खोज है: संवाद मरम्मत (Dialogue repair) की एक "रेजीम संरचना" (regiment structure) होती है।

इसे अलग-अलग मौसम में कार चलाने की तरह समझें।

  • हल्की बारिश में (कम शोर): यदि आप आक्रामक रूप से स्टीयरिंग घुमाकर सड़क को "ठीक" करने की कोशिश करते हैं, तो आप वास्तव में दुर्घटनाग्रस्त हो सकते हैं। प्रयोगों ने दिखाया कि जब शोर कम था, तो बातचीत को सुधारने की कोशिश करने से कंप्यूटर की विशिष्ट विवरणों को याद रखने की क्षमता कम हो गई। यह बिल्कुल वैसा ही था जैसे खिड़की पर लगे दाग को साफ करने की कोशिश करना लेकिन गलती से पूरी तस्वीर ही पोंछ देना।
  • बर्फ़ीले तूफान में (उच्च शोर): जब शोर बहुत अधिक था, तो "मरम्मत" (repair) की रणनीति अचानक उपयोगी हो गई। यह सूक्ष्म विवरणों (जैसे उपयोग किए गए सटीक शब्द) को तो नहीं बचा सकी, लेकिन इसने सार (gist)—मुख्य विचार या बातचीत के "भाव"—को बचा लिया।

शोध पत्र ने एक ट्रेड-ऑफ (समझौता) पाया। जब चीजें बहुत उलझ जाती हैं, तो मुख्य अर्थ को जीवित रखने के लिए आपको बारीक विवरणों का त्याग करना पड़ता है। जो कंप्यूटर चैट को "मरम्मत" करने की कोशिश कर रहा था, वह उच्च शोर के दौरान सार को बनाए रखने में बेहतर था, लेकिन कम शोर के दौरान विवरणों को बनाए रखने में वह खराब था।

भविष्य के लिए इसका क्या अर्थ है

शोध पत्र निष्कर्ष निकालता है कि हमें ऐसे कंप्यूटर बनाने की कोशिश नहीं करनी चाहिए जो पूर्ण सहमति के लिए मजबूर करें। इसके बजाय, हमें ऐसे सिस्टम डिजाइन करने चाहिए जो दो दिमागों के बीच की दूरी को प्रबंधित करना जानते हों।

  • सहानुभूति एक जैसा होने के बारे में नहीं है: यह अलग होने के बावजूद जुड़े रहने के बारे में है।
  • गलतियाँ डेटा हैं: जब कंप्यूटर आपको गलत समझता है, तो वह विफलता नहीं है; यह एक संकेत है कि "सुरक्षा बैंड" को समायोजित करने की आवश्यकता है।
  • संदर्भ मायने रखता है: एक सिस्टम जो सामान्य बातचीत के लिए काम करता है, वह संकट के समय विफल हो सकता है। "सही" मात्रा में सहनशीलता इस बात पर निर्भर करती है कि स्थिति कितनी कठिन है।

लेखक स्वीकार करते हैं कि उनके द्वारा परीक्षण किया गया विशिष्ट गणितीय सूत्र (IET अपडेट नियम) कोई जादुई समाधान नहीं था। लेकिन इसके पीछे का विचार—कि सहानुभूति लोगों के बीच के अंतर को नियंत्रित करने के बारे में है, न कि उसे मिटाने के बारे में—इंसानों और मशीनों को एक-दूसरे से कैसे बात करनी चाहिए, इस पर देखने का एक शक्तिशाली नया तरीका है। यह सुझाव देता है कि सर्वश्रेष्ठ AI मित्र वे नहीं होंगे जो हर समय हमसे 100% सहमत होंगे, बल्कि वे होंगे जो जानते हैं कि जब हम अलग होते हैं, तो बातचीत में कैसे बने रहना है, हमें एक-दूसरे से जोड़े रखने के लिए हमें एक जैसा बनने के लिए मजबूर किए बिना।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →