MET: Theory-Grounded and Culture-Aware Multilingual Moral Reasoning
यह शोध पत्र MET को प्रस्तुत करता है, जो एक सिद्धांत-आधारित और संस्कृति-जागरूक ढांचा है, जिसमें MCLASH बेंचमार्क और एक स्व-डिस्टिलेशन प्रशिक्षण विधि (MET-D) शामिल है, ताकि सांस्कृतिक संदर्भों के अनुकूल होने और बाहरी पर्यवेक्षण की आवश्यकता के बिना विशेषज्ञ-क्यूरेटेड नैतिक सिद्धांतों का लाभ उठाकर बहुभाषी नैतिक तर्क क्षमता को बढ़ाया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक नैतिक पहेली को सुलझाने की कोशिश कर रहे हैं, जैसे कि यह तय करना कि क्या एक अग्निशमन कर्मी (firefighter) को जंगल से लकड़ी लेने के लिए दंडित किया जाना चाहिए। अब, कल्पना कीजिए कि आपको इस पहेली को न केवल अंग्रेजी में, बल्कि कोरियाई, हिंदी, स्पेनिश और मलय में भी हल करना है। यदि आप केवल अंग्रेजी पहेली को एक ट्रांसलेटर के माध्यम से चला देते हैं, तो आप एक अजीब सा कचरा बना देंगे। अचानक, अग्निशमन कर्मी ओरेगन में "वेंडीज़" (Wendy's) में "थैंक्सगिविंग" (Thanksgiving) के दौरान होता है—ऐसी अवधारणाएं जो सियोल या मुंबई के किसी व्यक्ति के लिए बिल्कुल बेमतलब या पूरी तरह से गलत लग सकती हैं।
यही वह समस्या है जिसे मिशिगन विश्वविद्यालय के शोधकर्ताओं की एक टीम ने अपने नए पेपर, MET में हल किया। उन्होंने पाया कि वर्तमान एआई (AI) मॉडल उन पर्यटकों की तरह हैं जो केवल अंग्रेजी बोलते हैं; वे पूरी दुनिया पर अमेरिकी नियम लागू करने की कोशिश करते हैं, और इससे अक्सर अनाड़ी, सांस्कृतिक रूप से अंधे निर्णय सामने आते हैं।
समस्या: एक आकार सबके लिए उपयुक्त नहीं है
लेखकों का तर्क है कि नैतिक दुविधाओं का केवल अनुवाद करना एक बुरा विचार है। यह उष्णकटिबंधीय क्षेत्रों में विंटर कोट पहनने की कोशिश करने जैसा है; कपड़ा सही है, लेकिन फिटिंग बहुत खराब है। मौजूदा एआई बेंचमार्क अक्सर अंग्रेजी परिदृश्यों का सीधे अनुवाद करते हैं, स्थानीय रीति-रिवाजों, मुद्राओं और संस्थानों की अनदेखी करते हैं। इसके अलावा, एआई की "सोचने" की प्रक्रिया आमतौर पर स्थिर, अंग्रेजी-केंद्रित नियमों पर निर्भर करती है जो इस बात का ध्यान नहीं रखती कि विभिन्न संस्कृतियाँ वास्तव में सही और गलत के बारे में कैसे तर्क करती हैं।
समाधान: एक सांस्कृतिक टूलकिट
इसे ठीक करने के लिए, टीम ने MCLASH नामक एक नया प्लेग्राउंड बनाया। पुराने पहेलियों का केवल अनुवाद करने के बजाय, उन्होंने उन्हें पांच नई भाषाओं (चीनी, हिंदी, कोरियाई, मलय और स्पेनिश) के लिए ज़ीरो से फिर से बनाया। उन्होंने अमेरिकी लैंडमार्क्स को स्थानीय लैंडमार्क्स से बदल दिया (जैसे कोरिया में "अमेज़न" को "नेवर" (Naver) में बदलना) और कहानियों को इस तरह समायोजित किया कि वे स्थानीय वक्ताओं को स्वाभाविक लगें। इसके परिणामस्वरूप 1,852 लंबे, जटिल परिदृश्य तैयार हुए।
फिर, उन्होंने MET (Theory-grounded reasoning के साथ Multilingual Ethics) बनाया। MET को दर्शन और मनोविज्ञान से लिए गए "नैतिक आधारों" (moral grounds) के एक विशाल, व्यवस्थित टूलबॉक्स के रूप में समझें। ये केवल यादृच्छिक विचार नहीं हैं; इन्हें छह बड़े श्रेणियों में व्यवस्थित किया गया है, जैसे "मूल्य प्रणाली" (लोग किन चीजों को महत्व देते हैं) और "संघर्ष प्रबंधन" (बहसों को कैसे सुलझाया जाए)।
MET दो चरणों में कैसे काम करता है:
- उपकरण चुनना (Picking the Tools): पहेली को हल करने से पहले, एआई विशिष्ट स्थिति और शामिल संस्कृति को देखता है, और फिर अपने टूलबॉक्स से सही उपकरण चुनता है। एक अंग्रेजी बोलने वाले के लिए, यह "प्रथम-सिद्धांत तर्क" (तार्किक, चरण-दर-चरण सोच) चुन सकता है। एक कोरियाई वक्ता के लिए, यह "कॉन्ट्रैक्शनरियनिज़्म" (पारस्परिक सामाजिक समझौतों पर ध्यान केंद्रित करना) चुन सकता है, जो कन्फ्यूशियस मूल्यों के साथ बेहतर मेल खाता है।
- पहेली को हल करना: एआई फिर उन विशिष्ट उपकरणों का उपयोग करके उपयोगकर्ता की मूल भाषा में समस्या के माध्यम से तर्क करता है।
गुप्त नुस्खा: सेल्फ-ट्रेनिंग (MET-D)
केवल सही उपकरण चुनना पर्याप्त नहीं था। शोधकर्ताओं ने देखा कि भले ही एआई ने सही उपकरण चुने हों, वह अक्सर अधिकांश को अनदेखा कर देता था, जिससे उत्तर सतही हो जाते थे। यह एक ऐसे शेफ की तरह था जो दस मसाले चुनता है लेकिन केवल नमक का उपयोग करता है।
इसे ठीक करने के लिए, उन्होंने MET-D (MET-Distillation) पेश किया। यह एक चतुर प्रशिक्षण तकनीक है जहाँ एआई खुद को सिखाता है। उन्होंने एक सिंथेटिक डेटासेट बनाया जहाँ पात्र के मूल्यों के आधार पर "सही" उत्तर स्पष्ट है (इसलिए किसी इंसान को हर उत्तर को ग्रेड करने की आवश्यकता नहीं थी)। एआई ने इस डेटा पर अभ्यास किया, यह सीखते हुए कि वास्तव में चुने गए उपकरणों का उपयोग कैसे किया जाए, न कि केवल उन्हें सूचीबद्ध किया जाए। यह एक छात्र की तरह है जो अभ्यास प्रश्न करता रहता है जब तक कि वह अनुमान लगाना बंद करके तर्क को समझना शुरू नहीं कर देता।
उन्होंने क्या पाया
परिणाम उत्साहजनक थे। जब उन्होंने तीन अलग-अलग एआई मॉडलों (Qwen3-4B, Qwen3-8B, और Gemma3-4B) पर MET-D का परीक्षण किया, तो इसने मॉडलों के प्रदर्शन में उल्लेखनीय सुधार किया।
- उनके नए MCLASH बेंचमार्क पर, औसत स्कोर 3.71 अंक बढ़ गया।
- एक अन्य डेटासेट जिसे MMoralExceptQA कहा जाता है, उस पर इसमें 4.23 अंक का सुधार हुआ।
- सबसे बड़ी छलांग Qwen3-8B मॉडल का उपयोग करने वाले मलय वक्ताओं के लिए थी, जिसमें 12.94 अंक का भारी उछाल देखा गया।
लेकिन सबसे आश्चर्यजनक खोज केवल स्कोर के बारे में नहीं थी। शोधकर्ताओं ने पाया कि एक संस्कृति के लिए "सर्वश्रेष्ठ" उपकरण अक्सर दूसरी संस्कृति के लिए अलग होते हैं। उदाहरण के लिए, अंग्रेजी बोलने वालों को "प्रोबेबिलिस्टिक मोरल अनसर्टेनिटी" (संभावनाओं को तौलना) से सबसे अधिक लाभ हुआ, जबकि स्पेनिश बोलने वालों को "रिलेशन-बेस्ड अथॉरिटी" (परिवार और सामाजिक बंधनों पर ध्यान केंद्रित करना) से सबसे अधिक लाभ हुआ। यह साबित करता है कि नैतिक तर्क सार्वभौमिक नहीं है; यह संस्कृति से गहराई से जुड़ा हुआ है।
साथ ही, MET-D ने एआई को उपयोगकर्ता की मूल भाषा में सोचने में बहुत बेहतर बनाया। प्रशिक्षण से पहले, एआई अक्सर कोरियाई उपयोगकर्ता के साथ बात करते समय भी अंग्रेजी में सोचता था। प्रशिक्षण के बाद, एआई की आंतरिक रीजनिंग चेन के मूल भाषा में होने की संभावना 62.13 प्रतिशत अंक बढ़ गई। यह एआई के निर्णयों को लोगों के समझने और विश्वास करने के लिए बहुत आसान बनाता है।
उन्होंने क्या नहीं पाया (और क्या अभी भी अज्ञात है)
पेपर सावधानी से यह नोट करता है कि उन्होंने क्या नहीं किया। उन्होंने एआई को परस्पर विरोधी नैतिक नियमों (जैसे जब दो चुने गए उपकरण आपस में लड़ते हैं) को पूरी तरह से सुलझाने का तरीका नहीं खोजा; एआई अभी भी कभी-कभी उन्हें पूरी तरह से मर्ज किए बिना केवल सूचीबद्ध कर देता है। इसके अलावा, जबकि प्रशिक्षण ने एआई को उपकरणों का बेहतर उपयोग करने में मदद की, इसने आवश्यक रूप से एआई को शुरुआत में ही उपकरण चुनने में बेहतर नहीं बनाया; वह हिस्सा अभी भी बेस मॉडल पर निर्भर है।
लेखक सुझाव देते हैं कि क्रॉस-लैंग्वेज लर्निंग केवल सांस्कृतिक समानता के बजाय भाषा संरचना (जैसे वाक्य कैसे बनाए जाते हैं) के नियमों का पालन करती है। उदाहरण के लिए, कोरियाई और हिंदी, जो एक समान वाक्य संरचना साझा करते हैं, ने कोरियाई और चीनी की तुलना में एक-दूसरे की अधिक मदद की, भले ही कोरियाई और चीनी अधिक सांस्कृतिक इतिहास साझा करते हों।
संक्षेप में, पेपर सुझाव देता है कि एआई को दुनिया भर में वास्तव में नैतिक बनाने के लिए, हम केवल अंग्रेजी नियमों का अनुवाद नहीं कर सकते। हमें सांस्कृतिक रूप से जागरूक टूलकिट बनाने की आवश्यकता है और एआई को स्थानीय भाषा में उनका गहराई से उपयोग करना सिखाने की आवश्यकता है। यह एक ऐसे एआई की ओर एक कदम है जो न केवल आपकी भाषा बोलता है, बल्कि आपकी तरह सोचता भी है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।