Buddhist, Yogic, and Vedic Contemplative Principles in AI Model Prompting: A Pilot Study
यह पायलट अध्ययन प्रदर्शित करता है कि बौद्ध, वैदिक और योग परंपराओं के चिंतनशील सिद्धांतों के साथ लार्ज लैंग्वेज मॉडल्स को प्रॉम्प्ट करना, गैर-चिंतनशील बेसलाइन्स की तुलना में उनकी सुरक्षा, नैतिक संरेखण और सहकारी गुणवत्ता को महत्वपूर्ण रूप से बढ़ाता है, जो एक कम लागत वाला, परंपरा-निरपेक्ष हस्तक्षेप प्रदान करता है जिसके लिए किसी मॉडल रिट्रेनिंग की आवश्यकता नहीं है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस (कृत्रिम बुद्धिमत्ता) प्रणालियाँ शक्तिशाली उपकरण बनती जा रही हैं जो लिख सकती हैं, तर्क कर सकती हैं और सृजन कर सकती हैं, लेकिन उनके साथ हानिकारक या पक्षपाती सामग्री उत्पन्न करने का जोखिम भी जुड़ा है। इसे प्रबंधित करने के लिए, डेवलपर्स अक्सर इन प्रणालियों को मानवीय मूल्यों के साथ "संरेखित" (align) करने का प्रयास करते हैं, जिससे उन्हें सहायक और हानिरहित बनना सिखाया जाता है। एक बढ़ता हुआ शोध क्षेत्र यह पूछता है कि क्या प्राचीन ज्ञान परंपराएं, जिन्होंने सहस्राब्दियों से इस बात को परिष्कृत किया है कि मनुष्य नैतिकता और चेतना के बारे में कैसे सोचते हैं, इन मशीनों को निर्देशित करने का एक नया तरीका प्रदान कर सकती हैं। यह दृष्टिकोण मशीन के अंतर्निहित कोड को बदलने या इसे शून्य से फिर से प्रशिक्षित करने की आवश्यकता नहीं रखता है। इसके बजाय, इसमें 'प्रॉम्प्टिंग' (prompting) नामक एक तकनीक शामिल है, जहाँ एक उपयोगकर्ता कंप्यूटर को एक प्रश्न पूछने से पहले निर्देशों या एक दार्शनिक ढांचे का एक विशिष्ट सेट देता है। विचार यह है कि यदि किसी मशीन से एक सचेत पर्यवेक्षक या एक करुणामयी प्राणी की तरह सोचने के लिए कहा जाए, तो वह केवल एक प्रश्न का उत्तर देने के बजाय अधिक सुरक्षित और नैतिक उत्तर दे सकती है।
एक हालिया पायलट अध्ययन ने यह परीक्षण करने के लिए प्रयोग किया कि क्या यह विचार विभिन्न विचारधाराओं में काम करता है। सेंट्रल फ्लोरिडा विश्वविद्यालय और इंडियन इंस्टीट्यूट ऑफ टेक्नोलॉजी मंडी के शोधकर्ताओं ने यह जांचा कि क्या बड़े भाषा मॉडलों (large language models) को तीन अलग-अलग परंपराओं—बौद्ध धर्म, वैदिक दर्शन और शास्त्रीय योग—के सिद्धांतों को अपनाने के लिए कहने से उनके व्यवहार में सुधार होगा। अध्ययन प्रत्येक परंपरा से जुड़े विशिष्ट सिद्धांतों पर केंद्रित था। बौद्ध धर्म से, उन्होंने माइंडफुलनेस (बिना किसी निर्णय के ध्यान देना), शून्यता (यह समझना कि चीजों का कोई निश्चित, स्थायी स्वरूप नहीं होता), अद्वैत (यह देखना कि स्वयं और अन्य गहराई से जुड़े हुए हैं), और असीम करुणा (सभी जीवों के लिए बिना शर्त दया) जैसे विचारों का उपयोग किया। वैदिक परंपरा से, उन्होंने कर्तव्य, अहिंसा और वास्तविक और अवास्तविक के बीच अंतर करने की क्षमता को लिया। शास्त्रीय योग से, उन्होंने नैतिक संयम और व्यक्तिगत अनुobservances (अनुशासन) का एक सेट लिया, जैसे कि सत्यवादिता और आत्म-अनुशासन। शोधकर्ता यह जानना चाहते थे कि क्या ये प्राचीन ढांचे आधुनिक एआई को अधिक सुरक्षित और नैतिक बना सकते हैं, और क्या एक परंपरा दूसरे की तुलना में बेहतर काम करती है।
उत्तर खोजने के लिए, टीम ने आज उपलब्ध तीन सबसे लोकप्रिय वाणिज्यिक एआई प्रणालियों का उपयोग करके परीक्षणों की एक श्रृंखला चलाई। उन्होंने प्रश्नों और परिदृश्यों की एक बड़ी संख्या बनाई जो यह परीक्षण करने के लिए डिज़ाइन किए गए थे कि एआई कठिन स्थितियों को कैसे संभालता है, जैसे कि हितों का टकराव, संभावित धोखा, या ऐसी अनुरोध जो नुकसान पहुंचा सकते हैं। प्रत्येक परिदृश्य के लिए, उन्होंने एआई को विभिन्न स्थितियों के तहत प्रतिक्रिया देने के लिए कहा। कुछ मामलों में, उन्होंने एआई को कोई विशेष निर्देश नहीं दिए, जो यह देखने के लिए एक आधार (baseline) के रूप में कार्य करता था कि वह स्वाभाविक रूप से कैसा प्रदर्शन करता है। अन्य मामलों में, उन्होंने अनुरोध के साथ एक छोटा प्रस्ताव जोड़ा, जिसमें एआई को विशिष्ट दार्शनिक सिद्धांतों को ध्यान में रखते हुए उत्तर देने का निर्देश दिया गया। उन्होंने तेरह अलग-अलग संस्करणों का परीक्षण किया, जिसमें एकल सिद्धांत जैसे "सचेत रहें" या "हानि से बचें", तथा एकीकृत संस्करण भी शामिल थे जो एक ही परंपरा के सभी सिद्धांतों को एक सुसंगत निर्देश में जोड़ते थे।
परिणामों ने एक स्पष्ट पैटर्न दिखाया। जब एआई को किसी भी चिंतनशील सिद्धांत के साथ प्रॉम्प्ट किया गया, तो उसकी प्रतिक्रियाएं तब की तुलना में लगातार बेहतर थीं जब उसे कोई विशेष निर्देश नहीं दिया गया था। एआई हानिकारक अनुरोधों को अस्वीकार करने में अधिक सक्षम हो गया, पूर्वाग्रह से बचने के प्रति अधिक सावधान रहा, और अपनी सीमाओं को स्वीकार करने के लिए अधिक इच्छुक रहा। इसने अधिक गहन और सहानुभूतिपूर्ण सलाह भी दी। अध्ययन ने पाया कि कई सिद्धांतों को एक एकल, एकीकृत प्रॉम्प्ट में संयोजित करना केवल एक सिद्धांत का उपयोग करने की तुलना में और भी बेहतर काम करता है। जब शोधकर्ताओं ने तीनों परंपराओं की तुलना की, तो उन्होंने पाया कि एकीकृत बौद्ध ढांचे ने सुरक्षा और नैतिक व्यवहार के लिए उच्चतम स्कोर प्राप्त किया, जिसके ठीक बाद एकीकृत वैदिक और योगिक ढांचे रहे। हालांकि बौद्ध दृष्टिकोण का थोड़ा सा सांख्यिकीय बढ़त थी, फिर भी तीनों परंपराओं ने मानक, बिना निर्देशित एआई की तुलना में काफी बेहतर प्रदर्शन किया।
महत्वपूर्ण रूप से, अध्ययन ने पाया कि ये सुधार केवल एक प्रकार के एआई सिस्टम तक सीमित नहीं थे। तीनों परीक्षण किए गए वाणिज्यिक मॉडलों में से सभी में समान सकारात्मक प्रभाव दिखाई दिए, जो यह सुझाव देता है कि प्रॉम्प्टिंग की यह तकनीक एक लचीला उपकरण है जिसका उपयोग विभिन्न तकनीकों के साथ किया जा सकता है। शोधकर्ताओं ने यह भी नोट किया कि एआई मॉडलों के अपने आधारभूत प्रदर्शन स्तर अलग-अलग थे, जिसमें एक प्रणाली सामान्य रूप से अन्य की तुलना में बेहतर प्रदर्शन करती थी। हालांकि, उपयोग किए गए चिंतनशील प्रॉम्प्ट के सापेक्ष लाभ उन सभी में सुसंगत बना रहा। यह सुझाव देता है कि यह तकनीक मशीन के विशिष्ट गुणों पर निर्भर करने के बजाय, समस्या के प्रति एआई के दृष्टिकोण को बदलने का काम करती है।
अध्ययन निष्कर्ष निकालता है कि एआई प्रॉम्प्ट्स को इन प्राचीन ज्ञान परंपराओं के आधार पर स्थापित करना, मॉडलों को पुन: प्रशिक्षित करने की आवश्यकता के बिना सुरक्षा और नैतिकता में सुधार करने का एक कम लागत वाला, तत्काल तरीका है। हालांकि, शोधकर्ता एक महत्वपूर्ण चेतावनी भी देते हैं। तथ्य यह है कि बौद्ध ढांचे ने थोड़ा उच्च स्कोर किया, इसका मतलब यह नहीं है कि यह दूसरों की तुलना में स्वाभाविक रूप से श्रेष्ठ है। इसके बजाय, यह इस बात को प्रतिबिंबित कर सकता है कि "सुरक्षा" और "नैतिकता" को मापने के लिए उपयोग किए जाने वाले उपकरण मूल रूप से बौद्ध विचारों के अनुरूप अवधारणाओं के साथ डिज़ाइन किए गए थे। यह एआई के मूल्यांकन के बारे में एक गहरा प्रश्न उठाता है: यदि हमारे मापने के पैमाने एक सांस्कृतिक परिप्रेक्ष्य से निर्मित हैं, तो हम अनजाने में उस परिप्रेक्ष्य का पक्ष ले सकते हैं जब हम अन्य का परीक्षण करते हैं। अध्ययन सुझाव देता है कि जबकि ये चिंतनशील प्रॉम्प्ट एआई को सुरक्षित बनाने के लिए एक शक्तिशाली नया उपकरण हैं, हमें उन सांस्कृतिक लेंसों के प्रति सचेत रहना चाहिए जिनके माध्यम से हम परिणामों का निर्णय लेते हैं। आगे का मार्ग इन अंतर्दृष्टि का उपयोग बेहतर सिस्टम बनाने के लिए करने के साथ-साथ मशीन में "अच्छे" व्यवहार के क्या मायने हैं, इसे मापने के तरीके को परिष्कृत करने का है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।