💻 computer science

Driving Plato's Chariot: A Dual-Objective Teacher-Student Prototype for Reason-Affect Allocation in Dialogue

यह शोध पत्र एक कॉम्पैक्ट टीचर-स्टूडेंट प्रोटोटाइप के लिए एक पारदर्शी प्रूफ-ऑफ-कॉन्सेप्ट प्रस्तुत करता है जो संवाद में तथ्यात्मक विश्वसनीयता और भावात्मक संवेदनशीलता के बीच के तनाव को स्पष्ट रूप से मॉडल करता है, जो सफल इन-सैंपल कंप्रेशन को प्रदर्शित करते हुए सिस्टम की सत्यनिष्ठा या सहानुभूति में सुधार करने में विफलता को रेखांकित करता है और भविष्य के मल्टी-ऑब्जेक्टिव अध्ययनों के लिए एक ठोस पुनर्गठन पथ प्रस्तावित करता है।

मूल लेखक: Nikesh Adhikari

प्रकाशित 2026-08-14

📖 4 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें

CC BY 4.0

मूल लेखक: Nikesh Adhikari

मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को एक आदर्श बातचीत करने वाला बनने के लिए सिखाने की कोशिश कर रहे हैं। आप चाहते हैं कि वह सच बोलने में इतना स्मार्ट हो (एक सख्त लाइब्रेरियन की तरह) लेकिन साथ ही एक रोते हुए दोस्त को सांत्वना देने के लिए इतना गर्मजोशी भरा भी हो (एक देखभाल करने वाले माता-पिता की तरह)। आर्टिफिशियल इंटेलिजेंस की दुनिया में, यह एक कठिन संतुलन बनाने जैसा है। वैज्ञानिक इसे "अफेक्टिव कंप्यूटिंग" (मशीनों को भावनाओं को समझना सिखाना) और "एआई अलाइनमेंट" (यह सुनिश्चित करना कि मशीनें वही करें जो हम वास्तव में चाहते हैं) कहते हैं। बड़ा सवाल यह है: क्या एक अकेला रोबोट मस्तिष्क तर्क करने वाली मशीन और सहानुभूति रखने वाली मशीन के बीच स्विच करना सीख सकता है बिना भ्रमित हुए? इसे समझने के लिए, हम अक्सर पुराने विचारों की ओर देखते हैं, जैसे प्लेटो की प्रसिद्ध कहानी जिसमें एक सारथी दो घोड़ों को चला रहा है—एक तर्क का प्रतिनिधित्व करता है और दूसरा भावना का। लक्ष्य यह देखना है कि क्या हम उस डिजिटल सारथी का एक संस्करण बना सकते हैं जिसे पता हो कि कब तर्क के लिए लगाम खींचनी है और कब भावनात्मक घोड़े को स्वतंत्र छोड़ना है।

यह शोध पत्र, जिसका शीर्षक "ड्राइविंग प्लेटोज़ चैरियट" है, उस डिजिटल सारथी को बनाने के एक छोटे, प्रयोगात्मक प्रयास की रिपोर्ट है। शोधकर्ता, निकेश अधिकारी ने एक बहुत छोटा "शिक्षक" कंप्यूटर प्रोग्राम और एक बहुत छोटा "छात्र" प्रोग्राम बनाया ताकि यह देखा जा सके कि क्या वे तथ्यों और भावनाओं के बीच अपना ध्यान विभाजित करना सीख सकते हैं। सेटअप सरल था: शिक्षक एक संदेश को देखता था और उसे यह तय करना होता था कि कितना "तर्क" और कितनी "भावना" उस पर आवंटित की जाए। फिर छात्र ने शिक्षक के निर्णयों की नकल करने की कोशिश की। इस प्रयोग में एक जनरेट किए गए संवाद लॉग से 11,936 संदेशों के डेटासेट का उपयोग किया गया। परिणाम सफलता और विफलता का मिश्रण थे। छात्र शिक्षक की नकल करने में अविश्वसनीय रूप से अच्छा था; वास्तव में, छात्र की शिक्षक के विकल्पों की नकल करने की क्षमता में महत्वपूर्ण सुधार हुआ, प्रशिक्षण के 10वें दौर तक त्रुटि दर 0.003040 से गिरकर 0.000719 हो गई।

हालाँकि, कहानी में मोड़ तब आता है जब हम स्वयं शिक्षक को देखते हैं। जबकि छात्र तेजी से सीख रहा था, शिक्षक वास्तव में अपने काम में खराब होता जा रहा था। शिक्षक को उसके निर्णयों के लिए प्राप्त "रिवॉर्ड" स्कोर -23,194.12 से गिरकर -29,219.67 हो गया, जिसका अर्थ है कि वह समय के साथ अधिक गलतियाँ कर रहा था। इसके अलावा, एक मीट्रिक जिसे लेखक ने "तथ्यात्मक सटीकता" कहा था (जो वास्तव में केवल इस आधार पर एक अनुमान था कि सिस्टम संदेश की लंबाई के साथ कितनी अच्छी तरह मेल खाता है, वास्तविक सत्य नहीं), 59.3% से गिरकर 50.9% हो गया। शोध पत्र स्पष्ट रूप से कहता है कि इस प्रयोग ने यह सिद्ध नहीं किया कि सिस्टम अधिक सत्यवादी, अधिक सहानुभूतिपूर्ण या पुरस्कारों से बेहतर सीखने में सक्षम हुआ। वास्तव में, लेखक का तर्क है कि जिस तरह से उन्होंने सिस्टम को सिखाने की कोशिश की वह त्रुटिपूर्ण था क्योंकि उन्होंने गलत चीजों को पुरस्कृत किया था।

तो, निष्कर्ष क्या है? यह पेपर एक "प्रूफ ऑफ कॉन्सेप्ट" है जो दिखाता है कि हम एक ऐसा सिस्टम बना सकते हैं जो दो लक्ष्यों के बीच अपना ध्यान विभाजित करता है, और हम उस सिस्टम को बहुत छोटा बना सकते हैं बिना बड़े वाले की नकल करने की क्षमता खोए। लेकिन यह एक चेतावनी के रूप में भी कार्य करता है: सिर्फ इसलिए कि छात्र शिक्षक की नकल कर सकता है, इसका मतलब यह नहीं है कि शिक्षक अच्छा काम कर रहा है। प्रयोग सुझाव देता है कि सत्य और सहानुभूति के बीच संतुलन बनाने वाले रोबोट को वास्तव में बनाने के लिए, हमें केवल इस उम्मीद में रहने के बजाय कि वर्तमान तरीके काम करेंगे, सफलता को मापने और मशीन को सिखाने के तरीके को फिर से डिजाइन करने की आवश्यकता है। यह समस्या को समझने की दिशा में एक कदम है, लेकिन समाधान नहीं।

तकनीकी सारांश: प्लेटो के रथ को चलाना (Driving Plato's Chariot)

समस्या विवरण (Problem Statement)
संवादात्मक AI सिस्टम (Conversational AI systems) तथ्यात्मक विश्वसनीयता बनाए रखने और भावनात्मक संदर्भ (affective context) के प्रति संवेदनशील प्रतिक्रिया देने के बीच एक मौलिक तनाव का सामना करते हैं। जबकि 'अफेक्टिव कंप्यूटिंग' भावनात्मक संकेतों को पहचानने पर जोर देती है और 'प्रेफरेंस-आधारित अलाइनमेंट' निर्देश पालन में सुधार करने का लक्ष्य रखता है, मानवीय प्राथमिकताएं सत्यनिष्ठा की गारंटी नहीं देती हैं (उदाहरण के लिए, सत्यपूर्ण प्रतिक्रियाओं के बजाय सहमत होने वाली प्रतिक्रियाएं अधिक पसंद की जा सकती हैं)। मौजूदा विधियां जैसे RLHF या DPO व्यापक व्यवहारिक प्राथमिकताओं को संबोधित करती हैं, लेकिन उनमें एक ही नियंत्रण ढांचे के भीतर "तर्क" (reason) और "भाव" (affect) जैसे प्रतिस्पर्धी उद्देश्यों को समन्वित करने के लिए स्पष्ट तंत्र की कमी होती है। यह शोध जांच करता है कि क्या एक संक्षिप्त, दोहरे-उद्देश्य वाले शिक्षक-छात्र (teacher-student) आर्किटेक्चर इन दो प्रतिस्पर्धी आउटपुट्स के बीच संसाधनों को स्पष्ट रूप से मॉडल और आवंटित कर सकता है, और साथ ही सफलता को मापने के लिए उपयोग किए जाने वाले मेट्रिक्स की वैधता का आलोचनात्मक ऑडिट कर सकता है।

कार्यप्रणाली (Methodology)
यह अध्ययन एक "प्लेटोनिक रथ" (Platonic chariot) रूपक का प्रस्ताव करता है, जहाँ एक साझा नियंत्रक (रथ चालक) दो अलग-अलग आउटपुट्स का प्रबंधन करता है: एक तर्क-आवंटन प्रॉक्सी ( $r_t$ ) और एक भाव-आवंटन प्रॉक्सी ( $e_t$ )।

डेटा और अवस्था प्रतिनिधित्व (Data and State Representation): प्रयोग एक जनरेटेड डायलॉग कॉर्पस (ychen/Generated-Empathetic-Dialogues-v0.1-Smol) से पहले 1,000 संवादों (11,936 संदेशों) का उपयोग करता है। प्रत्येक संदेश को एक त्रि-आयामी अवस्था वेक्टर $s_t$ $s_{t}$ में मैप किया गया है:
1. लंबाई घनत्व (Length Density): सामान्यीकृत वर्ण संख्या (Normalized character count)।
2. नकारात्मक-भावना संभाव्यता (Negative-Sentiment Probability): SST-2 पर फाइन-ट्यून किए गए DistilBERT मॉडल से प्राप्त कॉन्फिडेंस स्कोर (बाइनरी सेंटीमेंट)।
3. तत्परता ह्यूरिस्टिक (Urgency Heuristic): एक बाइनरी फ्लैग जो विस्मयादिबोधक चिह्नों (!), बड़े अक्षरों (ALL-CAPS), या छोटी लंबाई द्वारा ट्रिगर होता है।
आर्किटेक्चर (Architecture):
- शिक्षक (Teacher): एक डुअल-हेडेड न्यूरल नेटवर्क (3 इनपुट $\to$ 64 $\to$ 32 $\to$ दो स्वतंत्र सिग्मॉइड हेड्स) जिसमें 2,402 पैरामीटर हैं। यह तर्क और भाव आवंटन को आउटपुट करता है।
- छात्र (Student): एक काफी छोटा नेटवर्क (3 इनपुट $\to$ 32 $\to$ 2 सिग्मॉइड आउटपुट्स) जिसमें 194 पैरामीटर हैं, जिसे शिक्षक के आउटपुट्स की नकल करने के लिए मीन स्क्वेयर्ड एरर (MSE) के माध्यम से प्रशिक्षित किया गया है।
पुरस्कार और अनुकूलन (Reward and Optimization):
- शिक्षक को तीन पूर्ण त्रुटि पदों (absolute error terms) के आधार पर एक स्केलर रिवॉर्ड $R_t$ का उपयोग करके अपडेट किया जाता है: लंबाई घनत्व से $r_t$ का विचलन, नकारात्मक भावना से $e_t$ का विचलन, और एक सॉफ्ट पेनल्टी यदि $r_t + e_t \neq 1$ हो।
- महत्वपूर्ण सीमा (Crucial Limitation): अपडेट नियम शिक्षक के एक्शन में गॉसियन शोर (Gaussian noise) जोड़ता है और पॉलिसी तथा इस शोर वाले एक्शन के बीच MSE को न्यूनतम करता है, जिसे नकारात्मक रिवॉर्ड ( $-R_t$ ) द्वारा भारित (weighted) किया जाता है। शोध नोट करता है कि यह एक मानक पॉलिसी-ग्रेडिएंट एस्टीमेटर नहीं है; क्योंकि $R_t$ हमेशा गैर-धनात्मक (non-positive) होता है, लॉस फंक्शन पॉलिसी को सभी सैंपल किए गए एक्शन्स की ओर आकर्षित करता है, जहाँ खराब एक्शन्स को बड़ा वेट मिलता है, जिससे रिवॉर्ड मैक्सिमाइजेशन में बाधा आ सकती है।
- छात्र को शिक्षक के स्वच्छ (clean) आउटपुट्स के विरुद्ध मानक नॉलेज डिस्टिलेशन (MSE) के माध्यम से प्रशिक्षित किया जाता है।

मुख्य योगदान (Key Contributions)
यह शोध पत्र खुद को एक "पारदर्शी प्रूफ-ऑफ-कॉन्सेप्ट" और एक ऑडिट के रूप में प्रस्तुत करता है, न कि बेहतर AI अलाइनमेंट के प्रदर्शन के रूप में। इसके प्राथमिक योगदान हैं:

स्पष्ट विनिर्देश (Explicit Specification): प्रयोग में उपयोग किए गए डायलॉग फीचर्स, डुअल-हेडेड टीचर, स्केलर रिवॉर्ड और कॉम्पैक्ट स्टूडेंट का एक पूरी तरह से ऑडिट योग्य परिभाषा।
मात्रात्मक विश्लेषण (Quantitative Analysis): एक विस्तृत रिपोर्ट जो दिखाती है कि हालांकि एक छोटा छात्र शिक्षक के इन-सैंपल फिट के लिए मजबूत प्रदर्शन कर सकता है, फिर भी शिक्षक का अपना रिवॉर्ड प्रक्षेपवक्र (trajectory) समय के साथ बिगड़ता जाता है।
कंस्ट्रक्ट वैलिडिटी ऑडिट (Construct Validity Audit): मापे गए प्रॉक्सी (लंबाई, भावना संभाव्यता) और उन अवधारणाओं (तथ्यात्मक सत्यता, सहानुभूति) के बीच एक महत्वपूर्ण अलगाव जिन्हें अक्सर उनके साथ मिला दिया जाता है। शोध पत्र स्पष्ट रूप से तर्क देता है कि वर्तमान सेटअप सत्यनिष्ठा या सहानुभूति को नहीं मापता है।
पुनर्गठन पथ (Redesign Path): भविष्य के अध्ययनों के लिए ठोस सिफारिशें, जिसमें वैध भावना/तत्परता एनोटेशन, उचित पॉलिसी-ग्रेडिएंट एस्टीमेटर्स और जनरेटेड रिस्पॉन्स का स्वतंत्र मूल्यांकन शामिल है।

परिणाम (Results)
25 इपोक (epochs) के दौरान प्रयोगात्मक परिणाम मॉडल संपीड़न (compression) और पॉलिसी अनुकूलन के बीच विचलन प्रकट करते हैं:

छात्र-शिक्षक फिट (Student-Teacher Fit): छात्र ने शिक्षक के आउटपुट्स का अनुमान लगाने में सफलता प्राप्त की। प्रशिक्षण MSE इपोक 1 में 0.003040 से घटकर इपोक 10 में न्यूनतम 0.000719 हो गया, और इपोक 25 में 0.001481 पर समाप्त हुआ।
शिक्षक रिवॉर्ड (Teacher Reward): सफल सुदृढीकरण शिक्षण (reinforcement learning) के विपरीत, संचयी शिक्षक रिवॉर्ड लगातार खराब होता गया, जो -23,194.12 से -29,219.67 की ओर बढ़ा। यह इंगित करता है कि अपडेट नियम पॉलिसी को उच्च रिवॉर्ड की ओर अनुकूलित करने में विफल रहा।
तथ्यात्मक-सटीकता प्रॉक्सी (Factual-Accuracy Proxy): एक नोटबुक-परिभाषित प्रॉक्सी जिसे "तथ्यात्मक सटीकता" लेबल किया गया था, 59.3% से घटकर 50.9% हो गई। शोध पत्र स्पष्ट करता है कि यह मीट्रिक केवल लंबाई-व्युत्पन्न लक्ष्य के साथ संरेखण है, न कि वास्तविक सत्यनिष्ठा का माप, क्योंकि कोई तथ्यात्मक सत्यापन नहीं किया गया था।

महत्व और दावे (Significance and Claims)
शोध पत्र विनम्रतापूर्वक दावा करता है कि यह कार्यान्वयन और इन-सैंपल संपीड़न की व्यवहार्यता स्थापित करता है, लेकिन यह स्पष्ट रूप से बेहतर सत्यनिष्ठा, सहानुभूति, या सुदृढीकरण-शिक्षण अभिसरण (convergence) स्थापित करने से इनकार करता है।

आर्किटेक्चर यह प्रदर्शित करता है कि एक साझा नियंत्रक दो स्केलर आउटपुट्स को समन्वित कर सकता है और एक बहुत छोटा नेटवर्क इस व्यवहार को दोहरा सकता है।
हालांकि, प्रयोग यह सिद्ध करने में विफल रहा कि ऐसा सिस्टम जटिल मानवीय मूल्यों या तथ्यात्मक शुद्धता के लिए अनुकूलित हो सकता है। शिक्षक रिवॉर्ड का गिरना यह सुझाव देता है कि घोषित लक्ष्यों के लिए अनुकूलन एल्गोरिदम त्रुटिपूर्ण है।
प्राथमिक महत्व मापन के सुधारात्मक व्याख्या (corrected interpretation) में निहित है: शोध पत्र तर्क देता है कि समान कॉम्पैक्ट प्रोटोटाइप में "एम्पैथिक रेजोनेंस" या "अलाइनमेंट ट्रांसफर" के पिछले दावे डेटा द्वारा समर्थित नहीं हैं। यह एक "प्रूफ-ऑफ-कॉन्सेप्ट" से एक वैध मल्टी-ऑब्जेक्टिव डायलॉग-कंट्रोल अध्ययन की ओर बढ़ने के लिए वैध लक्ष्यों (जैसे, क्लेम वेरिफिकेशन, वैलिडेटेड इमोशन लेबल्स), उचित बेसलाइन्स और मानव मूल्यांकन सहित एक कठोर पुनर्गठन का आह्वान करता है।

इसी तरह के और पेपर