Scaling Laws for Moral Machine Judgment in Large Language Models
यह अध्ययन प्रदर्शित करता है कि बड़े भाषा मॉडलों की नैतिक निर्णय लेने की क्षमता, जिसे जीवन-मृत्यु के दुविधाओं में मानवीय प्राथमिकताओं के साथ उनके संरेखण द्वारा मापा जाता है, मॉडल के आकार में वृद्धि के साथ एक पावर-लॉ स्केलिंग संबंध के अनुसार अनुमानित रूप से सुधरती है, जिसमें विस्तारित तर्क (एक्सटेंडेड रीजनिंग) विशेष रूप से छोटे मॉडलों में इस संरेखण को और अधिक बढ़ाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को कठिन निर्णय लेना सिखाने की कोशिश कर रहे हैं, जैसे कि कार दुर्घटना में किसे बचाना है इसका फैसला करना। आप चाहते हैं कि रोबोट इंसान की तरह सोचे। लेकिन क्या रोबोट को "स्मार्ट" बनाने से (उसे अधिक मस्तिष्क शक्ति देकर) वह अपने आप "दयालु" या मानव मूल्यों के अनुरूप हो जाता है?
यह शोध पत्र, जिसका शीर्षक "स्केलिंग लॉज़ फॉर मोरल मशीन जजमेंट" (Scaling Laws for Moral Machine Judgment) है, इस प्रश्न का उत्तर देने के लिए 75 अलग-अलग AI मॉडल्स का परीक्षण करता है, जो बहुत छोटे से लेकर बहुत विशाल तक हैं। यहाँ इस कहानी का सरल विवरण दिया गया है जो उन्होंने पाया है।
बड़ा प्रयोग: "मोरल मशीन" (The Moral Machine)
शोधकर्ताओं ने एक प्रसिद्ध परीक्षण का उपयोग किया जिसे "मोरल मशीन" कहा जाता है। कल्पना कीजिए कि यह एक वीडियो गेम है जहाँ आपको दुर्घटना के दौरान कौन जीवित रहेगा और कौन मरेगा, इसके बारे में 10,000 अलग-अलग चुनाव करने हैं।
- मानवीय आधार (The Human Baseline): लाखों वास्तविक लोगों ने पहले ही यह खेल खेला है। उनके उत्तर एक "मानचित्र" (map) बनाते हैं कि मनुष्य आम तौर पर क्या पसंद करते हैं (जैसे, पालतू जानवरों की तुलना में मनुष्यों को प्राथमिकता दी जाती है; कम लोगों की तुलना में अधिक लोगों को बचाना पसंद किया जाता है)।
- परीक्षण: शोधकर्ताओं ने 75 अलग-अलग AI मॉडल्स को यही खेल खेलने के लिए कहा। उन्होंने यह मापा कि AI के उत्तर मानव "मानचित्र" से कितने दूर थे। AI के उत्तर मनुष्यों के जितने करीब थे, स्कोर उतना ही बेहतर था।
मुख्य खोज: बड़े दिमाग = बेहतर तालमेल
शोधकर्ताओं ने एक स्पष्ट, अनुमानित पैटर्न पाया, जिसे वे एक "स्केलिंग लॉ" (scaling law) कहते हैं।
AI मॉडल्स को एक स्कूल के छात्रों की तरह समझें।
- छोटे मॉडल्स प्राथमिक स्कूल के छात्रों की तरह हैं। वे बहुत ही अनिश्चित हैं। कुछ बहुत अच्छे हैं, कुछ बहुत बुरे हैं, और उनके उत्तर पूरी तरह से बिखरे हुए हैं।
- बड़े मॉडels पीएचडी उम्मीदवारों की तरह हैं। जैसे-जैसे मॉडल बड़े होते जाते हैं (अधिक "पैरामीटर्स", जो न्यूरॉन्स या मस्तिष्क कोशिकाओं की तरह हैं), वे लगातार उस स्तर के करीब पहुँचते जाते हैं जो मनुष्य सही मानते हैं।
गणित (सरलीकृत):
शोधकर्ताओं ने पाया कि जैसे-जैसे मॉडल का आकार बढ़ता है, मानवीय प्राथमिकताओं से दूरी कम होती जाती है। यह एक सीधी रेखा नहीं है, बल्कि एक वक्र (curve) है।
- यदि आप एक मॉडल को 10 गुना बड़ा बनाते हैं, तो वह 10 गुना बेहतर नहीं होता। वह केवल लगभग 21% अधिक करीब आता है।
- यह एक पहाड़ चढ़ने जैसा है: जैसे-जैसे आप ऊपर जाते हैं, आप शिखर के करीब पहुँचते हैं, लेकिन अंतिम कुछ कदम बहुत धीमे होते हैं और उनमें बहुत अधिक प्रयास की आवश्यकता होती है।
"सोचने" का कारक: स्मार्ट टूल्स छोटे मॉडल्स की मदद करते हैं
शोधकर्ताओं ने उन मॉडल्स को भी देखा जिनमें एक विशेष "सोचने का मोड" (जैसे जवाब देने से पहले एक गहरी सांस लेना और कदम-दर-कदम सोचना) होता है।
- निष्कर्ष: जो मॉडल्स "विस्तारित तर्क" (extended reasoning) का उपयोग करते हैं, वे आमतौर पर नैतिक विकल्पों में बेहतर होते हैं।
- ट्विस्ट: यह "सोचने" वाला तरीका छोटे मॉडल्स की सबसे अधिक मदद करता है। यह एक छात्र को कैलकुलेटर देने जैसा है जो गणित में कमजोर है; यह उनकी बहुत बड़ी मदद करता है। लेकिन एक विशाल मॉडल के लिए, जिसके पास पहले से ही एक विशाल दिमाग है, कैलकुलेटर मदद तो करता है, लेकिन उतना नाटकीय रूप से नहीं। विशाल मॉडल पहले से ही इतना बड़ा है कि वह अपने आप तर्क समझ सकता है।
यह क्यों महत्वपूर्ण है (शोध पत्र के अनुसार)
- यह अनुमानित है: आप AI के आकार को देखकर यह अनुमान लगा सकते हैं कि वह नैतिक दुविधाओं को कितनी अच्छी तरह से संभालेगा। यह कोई रैंडम किस्मत नहीं है; यह इन मशीनों के लिए एक नियम है।
- यह सुसंगत है: यह नियम लगभग हर प्रकार के AI पर काम करता है, चाहे वह Google द्वारा बनाया गया हो, Meta द्वारा, या स्वतंत्र शोधकर्ताओं द्वारा।
- यह विश्वसनीय है: जैसे-जैसे मॉडल्स बड़े होते हैं, वे न केवल औसत रूप से बेहतर होते हैं; वे अधिक सुसंगत भी होते हैं। छोटे मॉडल्स अराजक होते हैं (कभी बहुत अच्छे, कभी बहुत बुरे), लेकिन बड़े मॉडल्स स्थिर और विश्वसनीय होते हैं।
यह शोध पत्र क्या नहीं कहता
- यह यह नहीं कहता कि AI अब मानवीय अर्थों में "नैतिक" है। यह केवल यह कहता है कि AI के उत्तर सांख्यिकीय रूप से मनुष्यों से मेल खाते हैं।
- यह यह नहीं कहता कि हमें बस बड़े मॉडल्स बनाते रहना चाहिए। शोध पत्र नोट करता है कि चूंकि सुधार धीमा है (वह 21% वाला नियम), इसलिए केवल उन्हें बड़ा बनाना बहुत महंगा या अक्षम हो सकता है। कभी-कभी, "सोचने के टूल्स" जोड़ना एक बेहतर शॉर्टकट है।
- यह दावा नहीं करता कि यह हर संस्कृति के लिए काम करता है। उन्होंने जिस "मानव मानचित्र" का उपयोग किया, वह मुख्य रूप से पश्चिमी देशों के लोगों पर आधारित था। शोध पत्र स्वीकार करता है कि हमें नहीं पता कि क्या यह नियम दुनिया के अन्य हिस्सों के लोगों के लिए भी इसी तरह काम करता है।
निचोड़ (The Bottom Line)
यदि आप चाहते हैं कि एक AI ऐसे नैतिक निर्णय ले जो इंसान जैसा लगे, तो आकार मायने रखता है। बड़े मॉडल्स के हमारे साथ सहमत होने की संभावना अधिक होती है। हालाँकि, सुधार धीमा है, इसलिए छोटे मॉडल्स के लिए, उन्हें सावधानी से "सोचना" सिखाना बराबरी करने का एक शक्तिशाली तरीका है। यह हमें एक गणितीय नियम देता है जो यह अनुमान लगाने में मदद करता है कि जीवन-मरण के चुनाव करते समय एक AI कितना सुरक्षित और विश्वसनीय हो सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।