ValueGraph: Value-Signal Guided Graph Pre-training for Contextualized User Representation
यह शोध पत्र ValueGraph का प्रस्ताव करता है, जो एक ग्राफ प्री-ट्रेनिंग फ्रेमवर्क है जो संदर्भित उपयोगकर्ता निरूपणों (contextualized user representations) को बढ़ाने के लिए अनुमानित नैतिक-मूल्य संकेतों को सॉफ्ट कंस्ट्रेंट्स के रूप में उपयोग करता है, जो मौजूदा टेक्स्ट-आधारित, ग्राफ-आधारित और LLM बेसलाइनों पर स्टैंड डिटेक्शन और बॉट डिटेक्शन कार्यों में निरंतर प्रदर्शन सुधार प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
सोशल मीडिया के विशाल, शोर भरे परिदृश्य में, लोग जिस तरह से व्यवहार करते हैं उसके पीछे के कारणों को समझना ऑनलाइन जीवन को समझने की कोशिश करने वाले किसी भी व्यक्ति के लिए एक केंद्रीय चुनौती है। वर्षों से, कंप्यूटर वैज्ञानिक उपयोगकर्ताओं के डिजिटल प्रोफाइल बनाने के लिए उनके द्वारा कही गई बातों और वे किससे बात करते हैं, इस पर नज़र रखने का प्रयास करते रहे हैं। यदि दो लोग समान शब्दों को पोस्ट करते हैं या एक ही थ्रेड्स का उत्तर देते हैं, तो पारंपरिक प्रणालियाँ मान लेती हैं कि वे एक जैसे हैं। हालाँकि, यह दृष्टिकोण मानवीय व्यवहार की एक महत्वपूर्ण परत को छोड़ देता है: वे अंतर्निहित नैतिक मूल्य जो उन अंतःक्रियाओं को संचालित करते हैं। लोग पूरी तरह से अलग कारणों से एक ही विवादास्पद समाचार कहानी के साथ जुड़ सकते हैं—एक वास्तविक चिंता के कारण, दूसरा क्रोध के कारण, और तीसरा भ्रम फैलाने की इच्छा के कारण। ये छिपी हुई प्रेरणाएँ उपयोगकर्ताओं के व्यवहार को आकार देती हैं, फिर भी मानक कंप्यूटर मॉडल अक्सर उन्हें अदृश्य मानते हैं। किसी उपयोगकर्ता को वास्तव में समझने के लिए, शोधकर्ताओं को न केवल उनकी गतिविधि की सतह को, बल्कि उस नैतिक दिशा-निर्देश (मॉरल कंपास) को पकड़ने के तरीके की आवश्यकता है जो इसे निर्देशित करता है।
सिंगापुर मैनेजमेंट यूनिवर्सिटी और A*STAR के शोधकर्ताओं की एक टीम ने इस समस्या को हल करने के लिए 'वैल्यूग्राफ' (ValueGraph) नामक एक नई विधि विकसित की है। किसी व्यक्ति के वास्तविक आंतरिक विश्वासों का अनुमान लगाने के बजाय, जिसे निश्चित रूप से जानना असंभव है, यह प्रणाली उनके सार्वजनिक पोस्ट से एक "मूल्य संकेत" (वैल्यू सिग्नल) निकालने के लिए एक उपकरण का उपयोग करती है। यह संकेत 'मोरल फाउंडेशन थ्योरी' (Moral Foundations Theory) नामक एक प्रसिद्ध मनोवैज्ञानिक ढांचे पर आधारित है, जो नैतिक तर्क को दस विशिष्ट आयामों में विभाजित करता है, जैसे कि देखभाल (care), निष्पक्षता (fairness), वफादारी (loyalty) और अधिकार (authority)। शोधकर्ताओं ने एक कंप्यूटर प्रोग्राम को हजारों सोशल मीडिया पोस्ट पढ़ने और प्रत्येक पोस्ट को इन दस नैतिक विषयों के आधार पर एक स्कोर देने के लिए प्रशिक्षित किया। एक एकल उपयोगकर्ता द्वारा लिखे गए सभी पोस्टों के स्कोर का औसत निकालकर, प्रणाली उस उपयोगकर्ता के नैतिक ढांचे का एक मोटा, दस-बिंदु वाला प्रोफाइल तैयार करती है। शोधकर्ता सावधानीपूर्वक यह नोट करते हैं कि यह कोई सटीक मनोवैज्ञानिक निदान नहीं है; यह एक शोर युक्त, समग्र संकेत है जो उपयोगकर्ता की आत्मा के बजाय उनके नैतिक भाषाई लहजे को पकड़ता है।
वैल्यूग्राफ का मुख्य नवाचार यह है कि यह विभिन्न प्रकार के उपयोगकर्ताओं को पहचानने के लिए कंप्यूटर को सिखाने के लिए इन अनुमानित संकेतों का उपयोग कैसे करता है। यह प्रणाली दो मुख्य चरणों में कार्य करती है। सबसे पहले, यह लोगों के बीच होने वाली अंतःक्रियाओं का एक मानचित्र बनाती है, जिसमें प्रत्येक पोस्ट और उत्तर को एक विशाल वेब में एक संबंध के रूप में माना जाता है। यह बातचीत की संरचना और उसके भीतर के पाठ (टेक्स्ट) के अर्थ को समझने के लिए सीखती है, जिससे प्रत्येक उपयोगकर्ता के लिए एक बुनियादी डिजिटल फिंगरप्रिंट बनता है। दूसरे चरण में, यह अनुमानित नैतिक संकेतों को शामिल करती है। प्रणाली विभिन्न उपयोगकर्ताओं के नैतिक प्रोफाइल को देखती है और समान मूल्य संकेतों वाले लोगों को एक साथ समूहबद्ध करती है, जबकि बहुत अलग संकेतों वाले लोगों को एक-दूसरे से दूर धकेलती है। यह ऐसा इसलिए करती है क्योंकि वह नैतिक संकेतों को सीखने की प्रक्रिया के दौरान पूर्ण तथ्यों के बजाय, नरम नियमों या कोमल संकेतों के एक सेट के रूप में मानती है। यह कंप्यूटर को एक ऐसे उपयोगकर्ता का प्रतिनिधित्व सीखने की अनुमति देता है जो उनके द्वारा कही गई बातों, वे किससे बात करते हैं, और उनकी अभिव्यक्ति के नैतिक स्वर को जोड़ता है।
शोधकर्ताओं ने इस नई पद्धति का परीक्षण दो कठिन कार्यों पर किया: किसी राजनीतिक मुद्दे पर उपयोगकर्ता के रुख (stance) का निर्धारण करना और यह पता लगाना कि उपयोगकर्ता एक बॉट है, या एक स्वचालित खाता जिसे मानव की नकल करने के लिए डिज़ाइन किया गया है। पहले परीक्षण में, प्रणाली को यह पता लगाना था कि उपयोगकर्ता किसी विशिष्ट विषय का समर्थन करता है, विरोध करता है, या तटस्थ है। दूसरे कार्य में, इसे वास्तविक मनुष्यों और स्वचालित बॉट्स के बीच अंतर करना था। परिणामों ने दिखाया कि वैल्यूग्राफ ने मौजूदा विधियों को लगातार पछाड़ दिया। रुख का पता लगाने वाले कार्य में, इसने एक डेटासेट पर 63 प्रतिशत और दूसरे पर 77 प्रतिशत की सटीकता प्राप्त की, जो केवल टेक्स्ट या केवल नेटवर्क संरचना पर निर्भर मजबूत प्रतिस्पर्धियों से बेहतर थी। बॉट डिटेक्शन कार्य के लिए, प्रणाली ने स्वचालित खातों को पहचानने की क्षमता में सुधार किया, विशेष रूप से अन्य डेटा के साथ संयोजन में। एक विशिष्ट विन्यास में, बॉट्स को सही ढंग से पहचानने की प्रणाली की क्षमता में उल्लेखनीय सुधार हुआ, जहाँ "रिकॉल" दर—वहाँ मौजूद बॉट्स को खोजने की क्षमता—इस नई विधि का उपयोग करने पर 62.5 प्रतिशत से बढ़कर 81.0 प्रतिशत हो गई।
जो चीज़ इन परिणामों को विशेष रूप से दिलचस्प बनाती है वह यह है कि प्रणाली को अपने प्रारंभिक प्रशिक्षण के दौरान यह बताने की आवश्यकता नहीं होती कि कौन से उपयोगकर्ता बॉट हैं या कौन सा रुख सही है। यह नैतिक संकेतों और बातचीत की संरचना का अवलोकन करके स्वयं इन पैटर्न को सीखती है। शोधकर्ताओं ने पाया कि प्रणाली तब सबसे अच्छा काम करती है जब वह संरचनात्मक शिक्षण को नैतिक मूल्य मार्गदर्शन के साथ जोड़ती है। यदि वे नैतिक संकेतों को हटा देते हैं, तो प्रणाली का प्रदर्शन गिर जाता है। यदि वे बातचीत की संरचना के बिना केवल नैतिक संकेतों का उपयोग करते हैं, तो भी यह समान स्तर की सटीकता तक पहुँचने में विफल रहती है। यह सुझाव देता है कि नैतिक मूल्य संकेत एक उपयोगी मार्गदर्शक के रूप में कार्य करता है, जो कंप्यूटर को उन पैटर्न को देखने में मदद करता है जो केवल टेक्स्ट या कनेक्शन को देखने पर अदृश्य होते हैं। उदाहरण के लिए, डेटा को विज़ुअलाइज़ करते समय, शोधकर्ताओं ने देखा कि नई पद्धति ने पिछले तरीकों की तुलना में मानव उपयोगकर्ताओं और बॉट्स के बीच बहुत स्पष्ट अलगाव पैदा किया। बॉट्स अक्सर दोहराव वाली, ध्रुवीकृत नैतिक भाषा के साथ क्लस्टर (समूह) बनाते थे, जबकि मानव अधिक विविध और संदर्भ-संवेदनशील अभिव्यक्तियों को प्रदर्शित करते थे।
टीम इस बात पर जोर देती है कि उनकी विधि यह दावा नहीं करती कि वह किसी उपयोगकर्ता के वास्तविक मनोवैज्ञानिक मूल्यों को जानती है। नैतिक स्कोर पाठ से प्राप्त किए जाते हैं और उन्हें अपूर्ण, शोर युक्त डेटा के रूप में माना जाता है। प्रणाली इन खामियों का उपयोग एक सीखने के उपकरण के रूप में करती है, जो पूर्ण सत्य को पकड़ने के बजाय उपयोगकर्ताओं के बीच सापेक्ष अंतर को खोजती है। यह लोगों को निश्चित मनोवैज्ञानिक प्रोफाइल के साथ लेबल करने के जाल से बचता है, जो तकनीकी रूप से अविश्वसनीय और नैतिक रूप से विवादास्पद हो सकता है। इसके बजाय, यह उनके सार्वजनिक विमर्श के नैतिक ढांचे का उपयोग बेहतर, अधिक सूक्ष्म डिजिटल प्रतिनिधित्व बनाने के लिए एक व्यावहारिक उपकरण के रूप में करती है। वैल्यूग्राफ की सफलता यह सुझाव देती है कि सिद्धांत-आधारित मूल्य संकेतों को शामिल करना कंप्यूटर को मानवीय व्यवहार को समझने में बेहतर बनाने का एक शक्तिशाली तरीका प्रदान करता है, जो सामग्री मॉडरेशन से लेकर व्यक्तिगत अनुशंसाओं (पर्सनलाइज्ड रिकमेंडेशन) तक के कार्यों के लिए एक अधिक मजबूत आधार प्रदान करता है। यह स्वीकार करते हुए कि उपयोगकर्ता केवल इस बात से नहीं आकार लेते कि वे क्या कहते हैं, बल्कि उस नैतिक लेंस से भी आकार लेते हैं जिसके माध्यम से वे कहते हैं, शोधकर्ताओं ने इंटरनेट की जटिल सामाजिक दुनिया को समझने के लिए एक नया मार्ग खोल दिया है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।