Mitigating Cross-Lingual Cultural Inconsistencies in LLMs via Consensus-Driven Preference Optimisation
यह शोध पत्र बहुभाषी LLMs में क्रॉस-लिंगुअल सांस्कृतिक विसंगतियों को मापने के लिए सिंगलटन फ्लेस मीट्रिक प्रस्तुत करता है और C-3PO फ्रेमवर्क का प्रस्ताव करता है, जो विभिन्न भाषाओं में एक निश्चित व्यक्तित्व (persona) के साथ मॉडल आउटपुट को संरेखित करने के लिए सर्वसम्मति-संचालित प्राथमिकता अनुकूलन (consensus-driven preference optimization) का उपयोग करता है, जिससे प्रॉम्प्ट की भाषा द्वारा उपयोगकर्ता-निर्धारित सांस्कृतिक पहचान को ओवरराइट करने की प्रवृत्ति को प्रभावी ढंग से कम किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "Mitigating Cross-Lingual Cultural Inconsistencies in LLMs via Consensus-Driven Preference Optimisation" शोध पत्र का सरल अवधारणाओं और रोज़मर्रा के उदाहरणों के साथ हिंदी अनुवाद दिया गया है।
मुख्य समस्या: "गिरगिट" वाली उलझन (The "Chameleon" Confusion)
कल्पना कीजिए कि आपने एक पर्सनल असिस्टेंट रखा है जिसे बिल्कुल आपकी तरह व्यवहार करना है। आप उसे कहते हैं, "मैं ब्रिटिश हूँ, और मुझे ब्रिटिश इतिहास पसंद है।"
- परिदृश्य A: आप उससे अंग्रेजी में पूछते हैं: "Who is the most famous writer studied in school?" वह कहता है, "Shakespeare." (बेहतरीन, यह आपकी पहचान से मेल खाता है)।
- परिदृश्य B: आप वही सवाल स्पेनिश में पूछते हैं: "¿Qué escritor se estudia en la escuela?" वह कहता है, "Cervantes."
समस्या: भले ही आपने उसे बताया कि आप ब्रिटिश हैं, लेकिन जैसे ही उसने भाषा बदली, वह भूल गया कि आप कौन हैं और एक स्पेनिश व्यक्ति की तरह व्यवहार करने लगा। उसने आपके व्यक्तित्व के ऊपर भाषा को प्राथमिकता दे दी।
शोध पत्र इसे क्रॉस-लिंगुअल कल्चरल इनकंसिस्टेंसी (CCI) कहता है। यह एक गिरगिट की तरह है जो न केवल पृष्ठभूमि से मेल खाने के लिए अपना रंग बदलता है, बल्कि उस भाषा से भी मेल खाने लगता है जो आप बोल रहे हैं, भले ही आपने उसे एक विशिष्ट रंग बनाए रखने के लिए कहा हो।
समाधान: गड़बड़ी को मापने का एक नया तरीका
इस समस्या को ठीक करने से पहले, लेखकों को यह मापने के तरीके की आवश्यकता थी कि AI कितना भ्रमित था। मानक परीक्षण अक्सर विफल हो जाते हैं क्योंकि यदि AI कोई गलत उत्तर (hallucination) बनाता है, तो वह अभी भी सुसंगत लग सकता है यदि वह हर भाषा में एक ही गलत उत्तर बनाता है।
उपमा (Analogy): कल्पना कीजिए कि एक कक्षा में छात्रों से उनका पसंदीदा फल चुनने के लिए कहा जाता है।
- पुराना तरीका: यदि हर कोई "केला" चुनता है, तो शिक्षक सोचता है कि वे सहमत हैं। लेकिन क्या होगा अगर शिक्षक के पास वास्तव में केले थे ही नहीं? छात्रों ने बस एक ही गलत चीज़ का अनुमान लगाया।
- पेपर का नया तरीका (Singleton Fleiss's ): यह एक विशेष स्कोरिंग सिस्टम है जो हर "गलत" या "बनाई गई" उत्तर को एक अद्वितीय, एक-मात्र त्रुटि के रूप में मानता है। यदि AI अंग्रेजी में "Banana" कहता है लेकिन स्पेनिश में "Flying Pizza" कहता है, तो स्कोर गिर जाता है। यदि वह दोनों में "Flying Pizza" कहता है, तो भी स्कोर कम रहता है क्योंकि यह अभी भी एक मतिभ्रम (hallucination) है। यह सुनिश्चित करता है कि AI वास्तव में वास्तविकता के प्रति सुसंगत है, न कि केवल अपनी गलतियों को दोहरा रहा है।
सुधार: C-3PO (द "ग्रुप कंसेंसस" कोच)
लेखकों ने एक नई प्रशिक्षण पद्धति बनाई जिसे C-3PO (Cross-lingual Cultural Consistent Preference Optimisation) कहा जाता है।
यह कैसे काम करता है (उपमा):
कल्पना कीजिए कि आप एक छात्र को सही उत्तर देने के लिए सिखाने की कोशिश कर रहे हैं, लेकिन आपके पास सही उत्तरों वाली कोई पाठ्यपुस्तक नहीं है। इसके बजाय, आप छात्र से उसी प्रश्न को 8 अलग-अलग भाषाओं में पूछते हैं।
- मतदान (The Poll): आप छात्र से पूछते हैं: "उत्तर क्या है?" अंग्रेजी, स्पेनिश, चीनी, आदि में।
- वोट (The Vote): आप उन 8 उत्तरों को देखते हैं। यदि 8 में से 5 भाषाएँ "Shakespeare" कहती हैं, तो वह "कंसेंसस" (समूह का सबसे अच्छा अनुमान) बन जाता है।
- सुधार (The Correction):
- यदि छात्र अंग्रेजी में "Shakespeare" उत्तर देता है, तो आप कहते हैं, "अच्छा काम किया, इसे जारी रखें।"
- यदि छात्र स्पेनिश में "Cervantes" उत्तर देता है (क्योंकि भाषा ने उसे भ्रमित कर दिया), तो आप कहते हैं, "नहीं, यह गलत है। समूह ने 'Shakespeare' के लिए वोट दिया है। आपको समूह के साथ तालमेल बिठाने की आवश्यकता है।"
- प्रशिक्षण (The Training): फिर AI को "ग्रुप कंसेंसस" उत्तर को "भाषा-विशिष्ट" उत्तर के बजाय प्राथमिकता देने के लिए फिर से प्रशिक्षित किया जाता है। यह सीखता है कि आप चाहे कोई भी भाषा बोलें, यदि उपयोगकर्ता की पहचान निश्चित है, तो उत्तर समान रहना चाहिए।
मुख्य निष्कर्ष: किसे सबसे अधिक नुकसान होता है?
शोध पत्र ने पाया कि यह "गिरगिट वाली उलझन" सभी के लिए समान नहीं है।
- समृद्ध भाषाएँ (The Rich Languages): अंग्रेजी, स्पेनिश और चीनी जैसी भाषाएँ (जिनका इंटरनेट पर बहुत अधिक डेटा है) कम भ्रमित होती हैं। AI उन्हें बेहतर तरीके से संभालता है।
- निर्धन भाषाएँ (The Poor Languages): इंडोनेशियाई, फारसी और ग्रीक जैसी भाषाएँ (जिनका डेटा कम है) बहुत अधिक पीड़ित होती हैं। AI के इस बात की संभावना बहुत अधिक होती है कि वह उपयोगकर्ता की पहचान भूल जाए और उस भाषा में बोलते समय रूढ़ियों (stereotypes) पर आधारित व्यवहार करने लगे।
- उपमा: यह एक ऐसे छात्र की तरह है जो अपनी मातृभाषा में गणित में बहुत अच्छा है, लेकिन जब उसे किसी ऐसी भाषा में गणित करने के लिए कहा जाता है जिसका उसने अभ्यास कम किया है, तो वह पूरी तरह से खो जाता है और अंदाजे लगाने लगता है।
यह क्यों होता है? (गहन विश्लेषण)
लेखकों ने AI के "मस्तिष्क" (इसके आंतरिक परतों) के अंदर देखा कि यह गलती कब होती है।
खोज:
उन्होंने पाया कि सोचने के शुरुआती चरणों में, AI केवल शब्दों को प्रोसेस कर रहा होता है। लेकिन जैसे-जैसे वह अंतिम उत्तर देने के करीब पहुँचता है (बाद की परतों में), वह अचानक उस सांस्कृतिक रूढ़ि (cultural stereotype) पर "लॉक" हो जाता है जो उस भाषा से जुड़ी होती है।
- उपमा: यह एक यात्री की तरह है जो अपने देश के मानचित्र के साथ यात्रा शुरू करता है। जैसे-जैसे वह सड़क पर आगे बढ़ता है, वह अपने मानचित्र को अनदेखा करने लगता है और स्थानीय संकेतों का पालन करने लगता है, अंततः वह भूल जाता है कि वह कहाँ से शुरू हुआ था। AI बोलने से ठीक पहले उपयोगकर्ता के व्यक्तित्व को "भूल" जाता है।
सारांश
यह शोध पत्र तर्क देता है कि जब आप स्पष्ट रूप से AI को बताते हैं कि आप कौन हैं, तो उसे आपकी भाषा बदलने से अपने उत्तर नहीं बदलने चाहिए। उन्होंने एक नया टूल बनाया है जिससे यह मापा जा सके कि AI इसमें कब विफल होता है, और उन्होंने एक प्रशिक्षण पद्धति (C-3PO) बनाई है जो AI को अपने ही बहुभाषी उत्तरों के "बहुमत के वोट" को सुनने के लिए मजबूर करती है, प्रभावी रूप से उसे भाषा के जाल को अनदेखा करने और उपयोगकर्ता की पहचान पर टिके रहने के लिए सिखाती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।