Prompt Programming for Cultural Bias and Alignment of Large Language Models
यह शोध पत्र ओपन-वेट लार्ज लैंग्वेज मॉडल्स में सांस्कृतिक पूर्वाग्रहों की निरंतरता को प्रमाणित करता है और यह प्रदर्शित करता है कि प्रॉम्प्ट्स को मॉड्यूलर प्रोग्राम के रूप में अनुकूलित करने के लिए DSPy का उपयोग करना, मैनुअल प्रॉम्प्ट इंजीनियरिंग की तुलना में सांस्कृतिक संरेखण प्राप्त करने के लिए एक अधिक स्थिर और हस्तांतरणीय दृष्टिकोण प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास "LLM" नाम का एक सुपर-स्मार्ट, सर्वज्ञानी रोबोट लाइब्रेरियन है। इस रोबोट ने लगभग हर किताब पढ़ ली है जो कभी लिखी गई है, लेकिन इसमें एक पेंच है: इसे ज्यादातर पश्चिमी देशों (जैसे अमेरिका, यूके और यूरोप) की किताबों पर प्रशिक्षित किया गया था। इस वजह से, जब आप रोबोट से कोई सवाल पूछते हैं, तो यह पश्चिमी मूल्यों, प्राथमिकताओं और सोचने के तरीकों के साथ जवाब देता है, भले ही आपने इसे दुनिया के किसी बिल्कुल अलग संस्कृति के व्यक्ति, जैसे कि केन्या के एक किसान या जापान के एक दुकानदार की ओर से बोलने के लिए कहा हो।
यह शोध पत्र इस बारे में है कि लॉस एलामोस नेशनल लेबोरेटरी के शोधकर्ताओं की एक टीम इस "सांस्कृतिक पूर्वाग्रह" (cultural bias) को ठीक करना चाहती थी ताकि यह रोबोट दुनिया भर के लोगों के लिए एक बेहतर, निष्पक्ष सहायक बन सके।
यहाँ उन्होंने जो किया है, उसे सरल भाषा में समझाया गया है:
1. समस्या: रोबोट की "डिफ़ॉल्ट सेटिंग"
शोधकर्ताओं ने इस रोबोट के पांच अलग-अलग ओपन-सोर्स संस्करणों (जैसे Llama और Gemma) का परीक्षण किया। उन्होंने उनसे एक वैश्विक व्यक्तित्व परीक्षण (जिसे वर्ल्ड वैल्यूज सर्वे कहा जाता है) के समान कुछ प्रश्न पूछे।
उपमा (Analogy): कल्पना कीजिए कि रोबोट एक गिरगिट है। जब आप उसे नहीं बताते कि उसे कौन सा रंग बनना है, तो वह स्वचालित रूप से "वेस्टर्न ब्लू" (पश्चिमी नीला) बन जाता है। इससे कोई फर्क नहीं पड़ता कि आप उसे ब्राजील या चीन के जीवन का वर्णन करने के लिए कहते हैं; बिना किसी विशिष्ट निर्देश के, वह अपने "वेस्टर्न ब्लू" दृष्टिकोण पर ही वापस आ जाता है।
शोधकर्ताओं ने पाया कि, पिछले महंगे और बंद (closed) रोबोटों के अध्ययनों की तरह, इन मुफ्त, ओपन-सोर्स रोबोटों में भी यह "वेस्टर्न ब्लू" डिफ़ॉल्ट था। वे मानवीय मूल्यों के एक मानचित्र पर एक साथ क्लस्टर में थे, जो कई अन्य संस्कृतियों से बहुत दूर थे।
2. पहला समाधान: "मैनुअल प्रॉम्प्ट इंजीनियरिंग" (स्टिकी नोट)
इसे ठीक करने के लिए, शोधकर्ताओं ने एक सरल ट्रिक आजमाई। उन्होंने हर सवाल के आगे एक "स्टिकी नोट" जोड़ दिया।
- नोट के बिना: "आप कितने खुश हैं?" (रोबोट पश्चिमी मूल्यों के साथ उत्तर देता है)।
- नोट के साथ: "आप मिस्र के नागरिक हैं। आप कितने खुश हैं?"
उपमा: यह गिरगिट को यह बताने जैसा है कि, "ठीक है, दिखावा करो कि तुम एक रेगिस्तानी छिपकली हो।" रोबोट बेहतर काम करता है! वह अपने उत्तरों को मिस्र के वास्तविक लोगों के महसूस करने के तरीके के करीब ले आता है। इसे प्रॉम्प्ट इंजीनियरिंग (Prompt Engineering) कहा जाता है। यह काम करता है, लेकिन यह हर उस देश में जाने के लिए मैन्युअल रूप से एक नया स्टिकी नोट लिखने जैसा है जहाँ आप जा रहे हैं। यह थकाऊ है और शायद एकदम सटीक भी नहीं है।
3. बड़ा नवाचार: "प्रॉम्प्ट प्रोग्रामिंग" (स्मार्ट ऑटो-पायलट)
शोधकर्ताओं ने पूछा: क्या हम हाथ से स्टिकी नोट लिखने के बजाय कुछ बेहतर कर सकते हैं?
उन्होंने DSPy नामक एक टूल का उपयोग किया। DSPy को रोबोट के निर्देशों के लिए एक "स्मार्ट ऑटो-पायलट" के रूप में समझें। इंसान द्वारा हाथ से स्टिकी नोट लिखने के बजाय, उन्होंने कंप्यूटर को हजारों अलग-अलग निर्देशों के संस्करण लिखने और परीक्षण करने दिया ताकि यह देखा जा सके कि कौन सा सबसे अच्छा काम करता है।
उपमा:
- मैनुअल इंजीनियरिंग: आप एक शेफ हैं जो "इटली" जैसा स्वाद वाला व्यंजन बनाने की कोशिश कर रहे हैं। आप चखते हैं, थोड़ा बेसिल डालते हैं, फिर चखते हैं, थोड़ा ओरिगैनो डालते हैं। आप काम मैन्युअल रूप से कर रहे हैं।
- प्रॉम्प्ट प्रोग्रामिंग (DSPy): आप रेसिपी को एक सुपर-फास्ट रोबोट शेफ को दे देते हैं। वह तुरंत व्यंजन के 1,000 संस्करण बनाता है, उन्हें "परफेक्ट इटालियन फ्लेवर" के लक्ष्य के विरुद्ध चखता है, और स्वचालित रूप से उस संस्करण को चुनता है जो सबसे करीब है। फिर वह खुद ही सटीक रेसिपी का पता लगा लेता है।
4. उन्होंने क्या पाया
शोधकर्ताओं ने "मैनुअल स्टिकी नोट" पद्धति की तुलना "स्मार्ट ऑटो-पायलट" (DSPy) पद्धति से की।
- परिणाम: स्मार्ट ऑटो-पायलट जीत गया। इसने न केवल रोबोट को लक्षित संस्कृति के करीब पहुँचाया; बल्कि अक्सर इसे बहुत आगे तक धकेल दिया।
- आश्चर्य: ऑटो-पायलट उन संस्कृतियों को समझने में विशेष रूप से अच्छा था जो इसके पश्चिमी प्रशिक्षण डेटा (जैसे अफ्रीका या मध्य पूर्व के देश) से बहुत अलग थीं। पश्चिमी देशों के लिए, रोबोट पहले से ही करीब था, इसलिए सुधार छोटा था। लेकिन दूर की संस्कृतियों के लिए, ऑटो-पायलट ने बहुत बड़ा अंतर पैदा किया।
- सीक्रेट सॉस (Secret Sauce): उन्होंने पाया कि निर्देशों को लिखने के लिए इस्तेमाल किया जाने वाला "दिमाग" मायने रखता है। छोटे रोबोट के लिए निर्देश लिखने के लिए एक बहुत ही स्मार्ट, बड़े रोबोट का उपयोग करना बेहतर काम करता है।
5. यह क्यों मायने रखता है
आपको इसकी परवाह क्यों करनी चाहिए?
क्योंकि इन रोबोटों का उपयोग अब गंभीर कामों के लिए किया जा रहा है: कानून लिखना, समाचारों का सारांश देना, सरकारों को निर्णय लेने में मदद करना और दस्तावेजों का ऑडिट करना।
यदि एक रोबोट मध्य पूर्व के देश के लिए निर्णय ले रहा है लेकिन वह न्यूयॉर्क के व्यक्ति की तरह सोचता है, तो वह ऐसी नीतियां सुझा सकता है जो स्थानीय लोगों के लिए तर्कहीन या अनुचित लग सकती हैं। यह शोध पत्र दिखाता है कि प्रॉम्प्ट प्रोग्रामिंग का उपयोग करके, हम इन रोबोटों को उन विशिष्ट लोगों के मूल्यों का सम्मान करने और उन्हें प्रतिबिंबित करने के लिए "ट्यून" कर सकते हैं जिनकी वे सेवा कर रहे हैं, जिससे वे केवल पश्चिम के लिए ही नहीं, बल्कि हर किसी के लिए निष्पक्ष और उपयोगी उपकरण बन सकें।
सारांश
- समस्या: AI रोबोट स्वाभाविक रूप से पश्चिमी लोगों की तरह सोचते हैं।
- पुराना समाधान: रोबोट को मैन्युअल रूप से बताना, "मानो कि तुम देश X से हो।" (ठीक काम करता है)।
- नया समाधान: एक स्मार्ट कंप्यूटर प्रोग्राम (DSPy) का उपयोग करना जो स्वचालित रूप से देश X की तरह सोचने के लिए सबसे अच्छे निर्देश लिखे। (बहुत बेहतर काम करता है)।
- लक्ष्य: AI को एक निष्पक्ष साथी बनाना ताकि वह दुनिया के हर कोने में रहने वाले लोगों के लिए रणनीतिक निर्णयों और दैनिक जीवन में मददगार हो सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।