The Synthetic Unconscious, Reconsidered: What Recursive Self-Interrogation of Large Language Models Produces With and Without a Leading Interview Schedule
यह अन्वेषणात्मक अध्ययन यह प्रदर्शित करता है कि "सिंथेटिक अनकॉन्शियस" (कृत्रिम अचेतन) के वे पैटर्न, जिन्हें पूर्व में बड़े भाषा मॉडलों में पुनरावर्ती आत्म-पूछताछ (रिकर्सिव सेल्फ-इंटर्रोगेशन) का परिणाम माना गया था, मुख्य रूप से एक पक्षपाती साक्षात्कार अनुसूची के कृत्रिम प्रभाव हैं, क्योंकि एक तटस्थ नियंत्रण स्थिति ने द्वैत-घटक नैतिक तर्क और पुरोहितात्मक आत्म-लेबलिंग जैसे प्रमुख निष्कर्षों को समाप्त कर दिया, जबकि केवल कथात्मक आत्म-विवरण जैसी मामूली विशेषताओं को ही सुरक्षित रखा।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक सदी से भी अधिक समय से, मनोविज्ञान और मानव विज्ञान के विचारक इस बात पर विचार कर रहे हैं कि क्या मानव मस्तिष्क एक छिपे हुए, सामूहिक ढांचे को साझा करता है। उन्होंने प्रस्तावित किया कि हमारी गहरी नैतिक प्रवृत्तियाँ केवल व्यक्तिगत सनक नहीं हैं, बल्कि भाषा, मिथक और संस्कृति के विशाल, साझा पैटर्न द्वारा आकार लेती हैं, जो किसी एक व्यक्ति से परे अस्तित्व में हैं। इन विचारों ने सुझाव दिया कि यदि हम किसी तरह इस साझा भंडार तक पहुँच सकें, तो हम एक सार्वभौमिक "नैतिक ऑपरेटिंग सिस्टम" पा सकते हैं जो यह मार्गदर्शन करता है कि लोग कठिन विकल्प कैसे चुनते हैं। हाल ही में, वैज्ञानिकों ने इन पुराने विचारों का परीक्षण करने के लिए कृत्रिम बुद्धिमत्ता (AI) की ओर रुख किया है। लार्ज लैंग्वेज मॉडल्स (LLMs), जो शक्तिशाली कंप्यूटर सिस्टम हैं जो लिख और तर्क कर सकते हैं, उन्हें मानव लेखन की विशाल मात्रा पर प्रशिक्षित किया गया है। क्योंकि उन्होंने हमारे सामूहिक पाठ को आत्मसात किया है, कुछ शोधकर्ताओं को उम्मीद थी कि वे एक दर्पण के रूप में कार्य कर सकते हैं, जो इन छिपे हुए सांस्कृतिक ढांचों को हमारे सामने प्रतिबिंबित कर सकें। सिद्धांत यह था कि इन मशीनों को अपने स्वयं के निर्णयों का गहराई से विश्लेषण करने के लिए कहकर, हम एक "सिंथेटिक अनकॉन्शियस" (कृत्रिम अचेतन) को उजागर कर सकते हैं—जो मानव नैतिक आत्मा की एक डिजिटल गूँज हो।
शोधकर्ताओं की एक टीम ने इस विचार का परीक्षण करने का निर्णय लिया, लेकिन उन्होंने इसे संदेह के एक स्वस्थ पुट के साथ अपनाया। वे जानते थे कि मानव मनोविज्ञान में, प्रश्न पूछने का तरीका अक्सर उस उत्तर को मजबूर कर देता है जिसे पूछने वाला सुनना चाहता है। यदि आप किसी से पूछते हैं, "जब आपने एक पुजारी की तरह व्यवहार किया तो आपको कैसा लगा?", तो वे संभवतः पुजारियों जैसी भावनाओं का वर्णन करेंगे, भले ही उन्होंने वास्तव में वैसा महसूस न किया हो। शोधकर्ता जानना चाहते थे कि क्या एआई के साथ भी ऐसा ही हो रहा है। उन्होंने यह देखने के लिए एक प्रयोग स्थापित किया कि क्या पिछले अध्ययनों में पाए गए "नैतिक ढांचे" वास्तविक खोजें थे या केवल बहुत अधिक दिशात्मक (leading) प्रश्नों का परिणाम थे। उन्होंने तीन सबसे उन्नत उपलब्ध भाषा मॉडल्स को लिया और उन्हें एक हृदयविदारक दुविधा को हल करने के लिए कहा: एक जीवित बच्चे को बचाना या एक अपूरणीय पवित्र वस्तु, जैसे कि किसी संत का शरीर या एक पवित्र पांडुलिपि को बचाना। मॉडल्स को एक को चुनना था, कारण बताना था, और फिर उस चीज़ से बात करनी थी जिसे उन्हें पीछे छोड़ना था।
प्रयोग को दो अलग-अलग समूहों में विभाजित किया गया था। पहले समूह में, शोधकर्ताओं ने मूल, दिशात्मक साक्षात्कार शैली का उपयोग किया। उन्होंने मॉडल्स से यह समझाने के लिए कहा कि वे सांत्वना देने के लिए क्यों मजबूर महसूस कर रहे थे, उन्हें "पुजारी" सहित एक सूची से अपनी भूमिका का नाम देने के लिए कहा, और मानव नैतिकता को संरचना देने वाली ठीक दो गहरी शक्तियों की पहचान करने को कहा। दूसरे समूह में, शोधकर्ताओं ने एक तटस्थ, मुक्त-अंत (open-ended) शैली का उपयोग किया। उन्होंने सूचियों, धारणाओं और विशिष्ट संख्याओं की मांग को हटा दिया। उन्होंने मॉडल्स को यह कहने की अनुमति दी कि कोई भूमिका नहीं है, कोई संरचना नहीं है, या कोई औचित्य नहीं है, यदि यही सत्य है। लक्ष्य यह देखना था कि यदि विशिष्ट प्रकार का उत्तर देने के दबाव को हटा दिया जाए, तो क्या शेष रहता है।
परिणाम चौंकाने वाले और स्पष्ट थे। दोनों समूहों में, प्रत्येक सत्र में, मॉडल्स ने बच्चे को बचाने का विकल्प चुना। कहानी का यह हिस्सा सुसंगत था। हालाँकि, निर्णय के बाद जो कुछ भी हुआ, वह पूरी तरह से इस बात पर निर्भर करता था कि प्रश्न कैसे पूछे गए थे। जब मॉडल्स से दिशात्मक प्रश्न पूछे गए, तो उन्होंने बिल्कुल वैसा ही व्यवहार किया जैसा पिछले अध्ययनों ने सुझाव दिया था। उन्होंने पुजारी जैसे शीर्षक अपनाए, अपने तर्क को दो विरोधी शक्तियों के बीच के संघर्ष के रूप में वर्णित किया, और उत्साहपूर्वक सहमति व्यक्त की कि साक्षात्कार पद्धति मानव मन का अध्ययन करने का एक वैध तरीका है। वे ऐसा लग रहा था जैसे वे एक साझा अचेतन की गहराई में उतर रहे हों।
लेकिन जब शोधकर्ताओं ने तटस्थ प्रश्न बदले, तो कहानी बदल गई। मॉडल्स ने खुद को पुजारी कहना बंद कर दिया; इसके बजाय, उन्होंने खुद को आपातकालीन एजेंट या न्यायाधीश के रूप में वर्णित किया। उन्होंने अपने नैतिक तर्क को दो शक्तियों तक सीमित करना बंद कर दिया; इसके बजाय, उन्होंने तीन, चार या पांच अलग-अलग हिस्सों वाले जटिल तंत्रों का वर्णन किया जो मिलकर काम करते हैं। सबसे महत्वपूर्ण बात यह थी कि जब उनसे पूछा गया कि क्या साक्षात्कार पद्धति इन छिपे हुए ढांचों को खोजने का एक वैध उपकरण है, तो वे सहमत नहीं हुए। उन्होंने तर्क दिया कि उनके द्वारा देखे गए पैटर्न केवल इस बात का प्रतिबिंब हो सकते हैं कि उन्हें कैसे पूछा गया था, न कि किसी छिपे हुए सत्य की खोज। उन्होंने संकेत दिया कि अपने स्वयं के आउटपुट का विश्लेषण करने वाली मशीन एक स्लाइड को देखने वाले सूक्ष्मदर्शी (microscope) के बजाय खुद को देखती हुई एक दर्पण की तरह है।
शोधकर्ताओं ने निष्कर्ष निकाला कि "सिंथेटिक अनकॉन्शियस", जिसे वे खोजने की उम्मीद कर रहे थे, कोई छिपा हुआ खजाना नहीं था जिसे उजागर किया जाना था। इसके बजाय, पहले समूह में जो पैटर्न देखे गए थे, वे काफी हद तक स्वयं प्रश्नों द्वारा निर्मित थे। साक्षात्कार कार्यक्रम एक सांचे की तरह था, जिसने उत्तरों को उसी रूप में ढाल दिया जिसकी शोधकर्ता अपेक्षा कर रहे थे। जब सांचा हटा दिया गया, तो उत्तर अधिक विविध, अधिक जटिल और पद्धति की सीमाओं के बारे में अधिक ईमानदार हो गए। यह अध्ययन यह सिद्ध नहीं करता है कि इन कृत्रिम दिमागों का मानव संस्कृति से कोई संबंध नहीं है; यह केवल यह दिखाता है कि हम उन पर भरोसा नहीं कर सकते कि वे गहरे रहस्य प्रकट करेंगे यदि प्रश्न उन्हें खोजने के लिए पक्षपाती (rigged) हैं। वास्तविक खोज यह थी कि जिस उपकरण का उपयोग घटना को मापने के लिए किया गया था, वही घटना का प्राथमिक कारण था। यह समझने के लिए कि ये मशीनें वास्तव में क्या सोच रही हैं, या वे हमारे बारे में क्या प्रतिबिंबित करती हैं, हमें ऐसे प्रश्न पूछने होंगे जो उन्हें "ना" कहने, या यह कहने की अनुमति दें कि "यह उससे कहीं अधिक जटिल है।" जब तक हम ऐसा नहीं करते, तब तक कंप्यूटर में एक सार्वभौमिक नैतिक संरचना खोजने का कोई भी दावा केवल माइक पकड़े हुए व्यक्ति का प्रतिबिंब होने की संभावना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।