PLURAL: A Global Dataset for Value Alignment
यह शोध पत्र PLURAL को प्रस्तुत करता है, जो 92 देशों के 'इंटीग्रेटेड वैल्यूज सर्वे' से प्राप्त एक बड़े पैमाने का डेटासेट है जो विविध, गैर-पश्चिमी सांस्कृतिक मूल्यों के साथ लार्ज लैंग्वेज मॉडल के संरेखण (अलाइनमेंट) में सुधार करने के लिए सिंथेटिक प्राथमिकता ट्रिपलेट्स (preference triplets) उत्पन्न करता है, जो स्वचालित मेट्रिक्स और मानव मूल्यांकन दोनों में महत्वपूर्ण सुधार प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक सुपर-स्मार्ट रोबोट शेफ बनाया है जो दस लाख अलग-अलग रेसिपी बना सकता है। लेकिन एक पेंच है: इस शेफ को लगभग पूरी तरह से पश्चिम के एक विशिष्ट पड़ोस के लोगों के एक छोटे से समूह द्वारा प्रशिक्षित किया गया था। परिणामस्वरूप, रोबोट को लगता है कि हर कोई अपनी डिश के साथ पश्चिमी मूल्यों का स्वाद चाहता है, भले ही टोक्यो, मुंबई या रियो का कोई ग्राहक कुछ अलग मांग रहा हो। रोबोट जापानी या पुर्तगाली बोलने में सक्षम हो सकता है, लेकिन उसकी "आत्मा" अभी भी बहुत अमेरिकी महसूस करती है। यह एक कुशल लेकिन विदेशी अतिथि की तरह है जो आपकी भाषा तो बिल्कुल सही बोलता है लेकिन आपकी पारिवारिक परंपराओं को नहीं समझता।
यहाँ प्रवेश होता है PLURAL का, जो कॉर्नेल यूनिवर्सिटी के शोधकर्ताओं का एक नया प्रोजेक्ट है जो इस रोबोट की सांस्कृतिक कमियों को ठीक करने की कोशिश कर रहा है।
बड़ा विचार: एक वैश्विक स्वाद परीक्षण
शोधकर्ताओं ने महसूस किया कि रोबोट को विभिन्न संस्कृतियों का सम्मान करना सिखाने के लिए, वे इंटरनेट पर मौजूद यादृच्छिक लोगों से यह नहीं पूछ सकते कि उन्हें क्या पसंद है। इसके बजाय, वे स्रोत तक गए: एक विशाल, वैज्ञानिक रूप से कठोर सर्वेक्षण जिसे इंटीग्रेटेड वैल्यूज सर्वे (IVS) कहा जाता है। इस सर्वेक्षण ने 92 अलग-अलग देशों के 156,658 से अधिक लोगों से उनके गहरे विश्वासों के बारे में पूछा है—कि वे क्या सही, गलत, महत्वपूर्ण या मूर्ख समझते हैं।
IVS को दुनिया के हर कोने के लोगों द्वारा जीवन के अपने पसंदीदा स्वादों को रेट करने वाले एक विशाल, वैश्विक "स्वाद परीक्षण" के रूप में सोचें। लेकिन समस्या यह है: आप एक रोबोट को सर्वेक्षण के उत्तरों की स्प्रेडशीट नहीं खिला सकते। रोबोट को कहानियों और बातचीत की आवश्यकता होती है, न कि केवल "हाँ/नहीं" वाले चेकबॉक्स की।
जादुई पाइपलाइन: सर्वेक्षणों को कहानियों में बदलना
इसलिए, टीम ने उन सूखे सर्वेक्षण उत्तरों को 500,000 वास्तविक बातचीत परिदृश्यों (जिन्हें "प्रेफरेंस ट्रिपलेट्स" कहा जाता है) में बदलने के लिए एक दो-चरणीय "अनुवाद मशीन" बनाई।
- पहला चरण (अनुवादक): उन्होंने एक वास्तविक व्यक्ति के सर्वेक्षण उत्तर लिए—मान लीजिए, जापान का एक 66 वर्षीय व्यक्ति जो अवकाश के ऊपर पारिवारिक कर्तव्य को महत्व देता है—और एक AI से एक वास्तविक जीवन की स्थिति की कल्पना करने को कहा जहाँ वह व्यक्ति एक कठिन विकल्प का सामना कर रहा हो। AI ने एक प्रॉम्प्ट तैयार किया जैसे, "मेरा दोस्त गोल्फ खेलना चाहता है, लेकिन मेरी बेटी को बेबीसिटर की जरूरत है। मैं क्या करूँ?"
- दूसरा चरण (कहानीकार): AI ने फिर दो प्रतिक्रियाएँ लिखीं। एक प्रतिक्रिया (जो "पसंदीदा" है) उस जापानी व्यक्ति के वास्तविक मूल्यों को दर्शाती है (पारिवारिक कर्तव्य को प्राथमिकता देना)। दूसरी प्रतिक्रिया (जो "अपसंद" है) एक अलग, प्रशंसनीय दृष्टिकोण को दर्शाती है (अवकाश को प्राथमिकता देना)।
उन्होंने यह काम 20 विविध देशों के लिए किया, जिससे "एक वास्तविक व्यक्ति इस देश से वास्तव में क्या कहेगा?" के परिदृश्यों की एक विशाल लाइब्रेरी तैयार हुई। उन्होंने यह भी सुनिश्चित किया कि वे सर्वेक्षण से ऐसे लोगों को चुनें जो उन देशों के वास्तविक आयु, लिंग और शिक्षा स्तर का प्रतिनिधित्व करते हों, ताकि डेटा केवल एक ही प्रकार के व्यक्ति के बारे में बार-बार न रहे।
क्या यह काम कर गया? स्वाद परीक्षण के परिणाम
शोधकर्ताओं ने केवल उम्मीद नहीं की कि यह काम करेगा; उन्होंने इसे तीन तरीकों से परखा:
- "क्या यह वास्तविक है?" की जाँच: उन्होंने सत्यापित किया कि नई कहानियों ने वास्तव में प्रत्येक देश के अनूठे स्वाद को बनाए रखा है। उन्होंने पाया कि डेटा ने अभी भी ब्राजील और जापान जैसे देशों के बीच विशिष्ट अंतरों को बनाए रखा, और प्रत्येक देश के भीतर विचारों की विविधता को भी बनाए रखा। यह केवल रूढ़ियों का समूह नहीं था; यह वास्तविक मानवीय विविधता का एक समृद्ध, जटिल प्रतिबिंब था।
- रोबोट प्रशिक्षण: उन्होंने एक मानक भाषा मॉडल लिया और उसे इस नए PLURAL डेटा पर प्रशिक्षित किया। उन्होंने रोबोट का परीक्षण सांस्कृतिक प्रश्नों के एक अलग सेट (GLOBE फ्रेमवर्क) का उपयोग करके किया, जिसे रोबोट ने पहले कभी नहीं देखा था। परिणाम क्या रहा? PLURAL पर प्रशिक्षित रोबोट भारत जैसे देशों के सांस्कृतिक प्रोफाइल से मेल खाने में अन्य मजबूत तरीकों की तुलना में 27.7% बेहतर था। वह केवल अनुमान नहीं लगा रहा था; वह लक्षित संस्कृति के विशिष्ट "वाइब" को सीख रहा था।
- मानवीय निर्णय: उन्होंने भारत, ब्राजील और जापान के 176 वास्तविक लोगों से नए रोबोट और पुराने रोबोट के उत्तरों को पढ़ने के लिए कहा। लोगों ने भारी बहुमत से PLURAL-प्रशिक्षित रोबोट के उत्तरों को अपने स्वयं के राष्ट्रीय मूल्यों के अधिक "विशिष्ट" (typical) के रूप में चुना। एक व्यक्ति ने एक प्रतिक्रिया को "मौलिक रूप से भारतीय" कहा, यह देखते हुए कि कैसे इसने विशेष रूप से उस तरीके को पकड़ा जिससे परिवार जुड़े रहने के लिए व्हाट्सएप का उपयोग करते हैं।
यह क्या नहीं है ( "कुशल लेकिन विदेशी" का जाल)
पेपर बहुत स्पष्ट है कि यह क्या नहीं करता है। यह इस विचार के विरुद्ध तर्क देता है कि केवल रोबोट को स्थानीय भाषा (जैसे हिंदी या अरबी) बोलना सिखाना पर्याप्त है। पिछले प्रयासों ने ऐसे मॉडल बनाए जो स्थानीय भाषाओं में चैट कर सकते थे लेकिन फिर भी पश्चिमी मूल्यों को बढ़ावा देते थे। PLURAL दिखाता है कि आपको मॉडल को केवल शब्दों पर नहीं, बल्कि मूल्यों पर प्रशिक्षित करने की आवश्यकता है।
साथ ही, पेपर इस विचार को भी स्पष्ट रूप से खारिज करता है कि आप केवल एक रोबोट को "आप ब्राजील से हैं" कहकर सांस्कृतिक रूप से जागरूक होने के लिए "प्रॉम्प्ट" कर सकते हैं। हालांकि इससे थोड़ा मदद मिलती है, लेकिन यह वास्तव में हजारों वास्तविक, मूल्य-आधारित उदाहरणों पर रोबोट को प्रशिक्षित करने जितना प्रभावी नहीं है।
पेच: रोबोट अभी भी थोड़ा "पिचक" (Squished) जाता है
यहाँ वह हिस्सा है जहाँ शोधकर्ता अपनी सीमाओं के बारे में ईमानदार हैं। जबकि रोबोट विभिन्न संस्कृतियों को समझने में बहुत बेहतर हो गया, प्रशिक्षण प्रक्रिया ने स्वयं अंतरों को थोड़ा "पिचक" (squish) दिया।
कल्पना कीजिए कि विभिन्न देशों के सांस्कृतिक प्रोफाइल को एक विस्तृत मैदान में बिखरे हुए बिंदुओं के रूप में देखा जा सकता है। वास्तविक देश एक-दूसरे से दूर हैं। प्रशिक्षण के बाद, रोबोट के नए "सांस्कृतिक बिंदु" सही दिशा में बढ़े, लेकिन वे वास्तविक देशों की तुलना में एक-दूसरे के काफी करीब आ गए। रोबोट ने मूल विविधता का लगभग 18% हिस्सा ही कैप्चर किया। शोधकर्ता सुझाव देते हैं कि ऐसा इसलिए नहीं है क्योंकि डेटा खराब था, बल्कि इसलिए है क्योंकि वर्तमान प्रशिक्षण विधियाँ (एक तकनीक जिसे DPO कहा जाता है) चीजों को बहुत अधिक सुचारू (smooth) बनाने की प्रवृत्ति रखती हैं। यह एक फोटो फिल्टर की तरह है जो हर किसी को थोड़ा एक जैसा दिखाता है, भले ही वे स्पष्ट रूप से अलग हों।
निचोड़
PLURAL 20 देशों (और 92 तक विस्तार के लिए तैयार) के वास्तविक सर्वेक्षणों पर आधारित मूल्य-केंद्रित कहानियों की एक विशाल, खुली लाइब्रेरी है। यह साबित करता है कि हम रोबोट को विभिन्न मानवीय मूल्यों का सम्मान करना सिखा सकते हैं, जिससे उन्हें एकल पश्चिमी परिप्रेक्ष्य से दूर ले जाया जा सके। यह एक ऐसे भविष्य की ओर एक बड़ा कदम है जहाँ हमारे डिजिटल सहायक न केवल हमारी भाषा बोलेंगे, बल्कि वास्तव में हमारे दिलों और घरों को भी समझेंगे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।