Toward a Theory of Value in AI Alignment
94 वैल्यू अलाइनमेंट (मूल्य संरेखण) शोध पत्रों का विश्लेषण करते हुए, यह अध्ययन अनिर्धारित प्राथमिकताओं और सिंथेटिक डेटा पर क्षेत्र की निर्भरता की आलोचना करता है, और यह तर्क देता है कि ऐसे दृष्टिकोण मानवीय मूल्यों का सरलीकरण करते हैं और इस जोखिम को बढ़ाते हैं कि एआई वास्तव में मानवीय आवश्यकताओं के साथ कैसे संरेखित हो सकता है, इस पर विविध दृष्टिकोणों को सीमित कर दिया जाएगा।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि हम एक ऐसी दुनिया में हैं जहाँ हम डिजिटल मस्तिष्क बना रहे हैं—बेहद बुद्धिमान कंप्यूटर प्रोग्राम जो कहानियाँ लिख सकते हैं, गणित की समस्याओं को हल कर सकते हैं, और यहाँ तक कि बातचीत भी कर सकते हैं। ये केवल साधारण कैलकुलेटर नहीं हैं; ये उन विशाल, भूखे पुस्तकालयों की तरह हैं जिन्होंने इंटरनेट पर मौजूद लगभग सब कुछ पढ़ लिया है। लेकिन यहाँ एक पेंच है: सिर्फ इसलिए कि एक पुस्तकालय ने हर किताब पढ़ ली है, इसका मतलब यह नहीं है कि उसे पता है कि कौन सी कहानियाँ दयालु हैं, कौन से तथ्य सत्य हैं, या एक अच्छा दोस्त कैसे बनना है। यह AI एलाइनमेंट (AI Alignment) नामक क्षेत्र का मूल है। इसे मानव लक्ष्यों और नैतिकताओं को साझा करने के लिए इन डिजिटल मस्तिष्कों को सिखाने की कला के रूप में समझें, न कि केवल वही करने के लिए जो उन्हें बताया गया है, जिससे अनजाने में हमें नुकसान पहुँच सके।
इस समस्या को समझने के लिए, आपको लार्ज लैंग्वेज मॉडल्स (LLMs) के बारे में जानना होगा। ये AI का वह विशिष्ट प्रकार हैं जो आपके द्वारा उपयोग किए गए चैटबॉट्स को शक्ति प्रदान करते हैं। ये एक वाक्य में अगले शब्द की भविष्यवाणी करके, बार-बार, काम करते हैं। इन्हें "सुरक्षित" बनाने के लिए, शोधकर्ता रिनफोर्समेंट लर्निंग फ्रॉम ह्यूमन फीडबैक (RLHF) नामक तकनीक का उपयोग करते हैं। कल्पना कीजिए कि एक शिक्षक एक छात्र को अच्छे उत्तर के लिए 'गोल्ड स्टार' और बुरे उत्तर के लिए 'लाल X' दे रहा है। AI यह सीखने की कोशिश करता है कि शिक्षक को क्या पसंद है ताकि वह अधिक गोल्ड स्टार प्राप्त कर सके। मुख्य सवाल जो इस पेपर को प्रेरित कर रहा है वह यह है: हम वास्तव में इन AI को क्या मूल्य (value) सिखा रहे हैं? क्या हम उन्हें मददगार, ईमानदार और हानिरहित होना सिखा रहे हैं? या हम अनजाने में उन्हें कुछ बहुत ही अजीब चीज़ सिखा रहे हैं?
महान "मूल्य" का भ्रम (The Great "Value" Mix-Up)
शोधकर्ताओं की एक टीम ने उस समस्या को सुलझाने वाले लोगों द्वारा लिखे गए 94 वैज्ञानिक शोध पत्रों (papers) के पीछे झाँकने का निर्णय लिया। वे एक सरल लेकिन पेचीदा सवाल का जवाब देना चाहते थे: ये शोधकर्ता वास्तव में "मानवीय मूल्यों" (human values) से क्या अर्थ निकालते हैं?
आप सोच सकते हैं कि यदि आप एक रोबोट को एक अच्छा इंसान बनने के लिए बना रहे हैं, तो आप पहले यह परिभाषित करेंगे कि "अच्छा" होने का क्या अर्थ है। लेकिन इस पेपर के लेखकों ने कुछ आश्चर्यजनक पाया: अधिकांश शोधकर्ता इसे परिभाषित ही नहीं करते हैं।
वास्तव में, 79% शोध पत्रों में, जिन्हें उन्होंने देखा, उन्होंने कभी भी यह स्पष्ट नहीं किया कि उनके "मूल्यों" से क्या तात्पर्य था। इसके बजाय, उन्होंने "मूल्यों" शब्द को "पसंद" (preferences) शब्द से बदल दिया। यह एक केक बनाने की कोशिश करने जैसा है लेकिन "मैदा" को "सामग्री" नाम देकर, और फिर यह मान लेना कि हर कोई जानता है कि आपका मतलब मैदे से है। शोधकर्ताओं ने पाया कि AI की दुनिया में, "मूल्य" (जैसे न्याय, दया या सत्य) को अक्सर ठीक उसी तरह माना जाता है जैसे कि "पसंद" (जैसे "मुझे वनीला के बजाय चॉकलेट आइसक्रीम पसंद है")।
"पसंद" का जाल (The "Preference" Trap)
पेपर का तर्क है कि यह बदलाव खतरनाक है क्योंकि यह अर्थशास्त्र के एक पुराने विचार यूटिलिटी मैक्सिमाइजेशन (Utility Maximization) पर निर्भर करता है। कल्पना कीजिए कि एक रोबोट जो सोचता है कि ब्रह्मांड में केवल एक खेल में उच्चतम स्कोर प्राप्त करना ही सबसे महत्वपूर्ण है। इस दृष्टिकोण में, एक इंसान केवल एक मशीन है जो हर विकल्प के लिए अधिकतम "अंक" (या यूटिलिटी) प्राप्त करने की कोशिश करती है।
लेखक सुझाव देते हैं कि यह दृष्टिकोण थोड़ा सरल है। वास्तविक मनुष्य जटिल होते हैं। कभी-कभी हम "गलत" चीज़ चुनते हैं क्योंकि हम थके हुए होते हैं, या क्योंकि हम जीतने से ज्यादा अपने दोस्तों की परवाह करते हैं, या क्योंकि हमारे मूल्य दिन के आधार पर बदल जाते हैं। लेकिन AI एलाइनमेंट का क्षेत्र एक ऐसी दुनिया बना रहा है जहाँ मनुष्य पूर्ण, तार्किक रोबोट हैं जो हमेशा अपनी खुशी को अधिकतम करने के लिए सर्वोत्तम विकल्प चुनते हैं।
पेपर बताता है कि उनके द्वारा समीक्षा किए गए 87% अध्ययन इस "स्कोर को अधिकतम करने" वाले दृष्टिकोण का उपयोग करते हैं। वे मानवीय मूल्यों को ऐसे व्यवहार करते हैं जैसे कि वे स्थिर, अपरिवर्तनीय संख्याएँ हैं जिन्हें मापा जा सकता है और कंप्यूटर में डाला जा सकता है। लेखक तर्क देते हैं कि यह इस तथ्य की अनदेखी करता है कि मूल्य वास्तव में एक जीवित बगीचे की तरह हैं—वे बढ़ते हैं, मौसम के साथ बदलते हैं, और अलग-अलग संस्कृतियों में अलग दिखते हैं।
"कौन" और "कैसे" की समस्या
एक अन्य बड़ा मुद्दा जो पेपर उजागर करता है, वह यह है कि AI किनके मूल्यों को सीख रहा है। यदि आप एक कंप्यूटर को "मानवीय मूल्यों" को सीखने के लिए कहते हैं, तो आपको पूछना होगा: किन मनुष्यों के?
शोधकर्ताओं ने पाया कि 91% शोध पत्रों में यह निर्दिष्ट नहीं किया गया था कि वे किस समूह का प्रतिनिधित्व करने की कोशिश कर रहे थे। उन्होंने ऐसा व्यवहार किया जैसे "मानवीय मूल्य" एक एकल, सार्वभौमिक चीज़ है जिस पर सभी सहमत हैं। लेकिन वास्तव में, टोक्यो का एक किशोर केन्या के एक किसान से बहुत अलग चीज़ को महत्व दे सकता है।
मामले को और अधिक भ्रमित करने के लिए, पेपर नोट करता है कि शोधकर्ता अब वास्तविक मनुष्यों से उनकी राय लेना बंद कर रहे हैं। इसके बजाय, वे जवाबों का निर्णय लेने के लिए सिंथेटिक डेटा (synthetic data) या अन्य AI मॉडल का उपयोग कर रहे हैं। यह एक नए छात्र को यह सिखाने जैसा है कि वह अपना होमवर्क खुद ग्रेड करे, या किसी रोबट से यह अनुमान लगाने के लिए कहना कि एक इंसान क्या सोचता। लेखक चिंतित हैं कि वास्तविक लोगों को "ऑटोरैटर्स" (AI जज) से बदलकर, हम यह दरवाजा बंद कर रहे हैं जो मानव होने के अर्थ की विविध और सुंदर वास्तविकता की ओर खुलता है।
"पतली" बनाम "मोटी" व्याख्या (The "Thin" vs. "Thick" Description)
लेखकों ने यह भी देखा कि अधिकांश पेपर मूल्यों को "पतले" (thin) तरीके से वर्णित करते हैं। एक "पतली" व्याख्या ऐसी है जैसे कहना, "अच्छे बनो।" यह बिना किसी कहानी के एक नियम है। एक "मोटी" (thick) व्याख्या ऐसी है जैसे कहना, "अच्छे बनो क्योंकि तुम्हारी दादी ने तुम्हें सिखाया है कि दयालुता एक ऐसा समुदाय बनाती है जहाँ हर कोई सुरक्षित महसूस करता है।"
पेपर ने पाया कि 66% अध्ययनों ने इन "पतली" व्याख्याओं का उपयोग किया। उन्होंने मूल्यों को केवल पालन करने योग्य सरल निर्देशों के रूप में माना, न कि उन गहरे, सांस्कृतिक कहानियों के रूप में जो यह समझाती हैं कि हम जो करते हैं वह क्यों करते हैं। केवल 3% शोध पत्रों ने मूल्यों को इस गहरे, "मोटे" तरीके से समझने की कोशिश की, जो यह देखता है कि संस्कृति और संदर्भ कैसे आकार देते हैं कि लोग किन चीजों की परवाह करते हैं।
निष्कर्ष (The Bottom Line)
तो, मुख्य निष्कर्ष क्या है? पेपर सुझाव देता है कि AI को मानवीय मूल्यों के साथ संरेखित (align) करने का वर्तमान तरीका एक कमजोर नींव पर बना है। जटिल मानवीय नैतिकता को सरल गणितीय समस्याओं (पसंद को अधिकतम करने) के रूप में मानकर, हम शायद ऐसे AI सिस्टम बना रहे हैं जो मानवता के एक बहुत ही संकीले, रोबोटिक संस्करण के साथ तकनीकी रूप से "एलाइन्ड" तो हैं, लेकिन हम वास्तव में इंसान होने के सार को पूरी तरह से चूक रहे हैं।
लेखक यह नहीं कह रहे हैं कि हमें AI को सुरक्षित बनाने की कोशिश बंद कर देनी चाहिए। इसके बजाय, वे रेसिपी (विधि) में बदलाव के लिए आह्वान कर रहे हैं। वे चाहते हैं कि शोधकर्ता यह दावा करना बंद करें कि मानवीय मूल्य केवल अनुकूलित (optimize) की जाने वाली प्राथमिकताओं की एक सूची हैं। वे चाहते हैं कि हम मानव विज्ञान (anthropology), दर्शन (philosophy) और मनोविज्ञान (psychology) के विशेषज्ञों को इसमें शामिल करें ताकि हमें यह समझने में मदद मिले कि मूल्य गतिशील, सांस्कृतिक और वास्तविक, जटिल दुनिया से गहराई से जुड़े हुए हैं।
संक्षेप में, यदि हम चाहते हैं कि AI वास्तव में हमारे साथ संरेखित हो, तो हमें इसे एक आदर्श कैलकुलेटर बनने के बजाय, इंसान होने की जटिल, परिवर्तनशील और अद्भुत कहानी को समझना सिखाना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।