The role of System 1 and System 2 semantic memory structure in human and LLM biases
सिस्टम 1 और सिस्टम 2 थिंकिंग को सिमेंटिक मेमोरी नेटवर्क के रूप में मॉडल करते हुए, यह अध्ययन प्रकट करता है कि जहाँ मनुष्य इन प्रणालियों के बीच पूर्वाग्रह-घटाने वाले संरचनात्मक अंतर प्रदर्शित करते हैं, वहीं LLMs में ऐसे अपरिहार्य वैचारिक ज्ञान का अभाव है, जो यह संकेत देता है कि मानव और मशीन किस प्रकार अंतर्निहित पूर्वाग्रह को नियंत्रित करते हैं, इसमें मौलिक संज्ञानात्मक असमानताएँ हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ सरल भाषा और रचनात्मक उपमाओं का उपयोग करके शोध पत्र की व्याख्या दी गई है।
मुख्य विचार: दो मस्तिष्क, एक लक्ष्य
कल्पना कीजिए कि आपके मन में सोचने के दो अलग-अलग तरीके हैं, जैसे रसोई में दो अलग-अलग शेफ (रसोइये):
- शेफ 1 (सिस्टम 1): यह शेफ तेज़, सहज और अंतर्ज्ञान (gut feelings) पर आधारित है। यदि वे डॉक्टर की तस्वीर देखते हैं, तो वे तुरंत "पुरुष" सोचते हैं क्योंकि उन्होंने फिल्मों और समाचारों में इसे हज़ार बार देखा है। वे सोचने के लिए नहीं रुकते; वे बस उन पैटर्नों के आधार पर प्रतिक्रिया देते हैं जिन्हें उन्होंने आत्मसात किया है।
- शेफ 2 (सिस्टम 2): यह शेफ धीमा, सावधान और तार्किक है। यदि वे डॉक्टर की तस्वीर देखते हैं, तो वे रुकते हैं और सोचते हैं, "खैर, एक डॉक्टर एक चिकित्सा पेशेवर है। इस परिभाषा का लिंग से कोई लेना-देना नहीं है। यह कोई भी हो सकता है।"
समस्या: मनुष्यों और AI (मिस्ट्रल और लामा3 जैसे लार्ज लैंग्वेज मॉडल्स) दोनों में पूर्वाग्रह (biases) होते हैं। वे अक्सर अनुचित धारणाएं बनाते हैं (जैसे यह सोचना कि केवल पुरुष ही डॉक्टर हो सकते हैं)। बड़ा सवाल जो यह शोध पत्र पूछता है वह यह है: क्या मनुष्य और AI इन पूर्वाग्रहों को पकाने के लिए एक ही "रसोई" का उपयोग करते हैं?
प्रयोग: मन का एक मानचित्र बनाना
इसका उत्तर देने के लिए, शोधकर्ताओं ने केवल लोगों या AI से प्रश्न नहीं पूछे। इसके बजाय, उन्होंने मानचित्र (जिन्हें सिमेंटिक नेटवर्क कहा जाता है) बनाए ताकि यह देखा जा सके कि उनके "मस्तिष्क" में अवधारणाएं (concepts) कैसे जुड़ी हुई हैं।
उन्होंने मनुष्यों और दो AI मॉडलों दोनों के लिए तीन अलग-अलग मानचित्र बनाए:
- मानचित्र A (अंतर्ज्ञान/Gut Feeling): मुक्त जुड़ाव (free associations) से निर्मित (जैसे, "डॉक्टर" "पुरुष")। यह सिस्टम 1 का प्रतिनिधित्व करता है।
- मानचित्र B (शब्दकोश): सख्त परिभाषाओं से निर्मित (जैसे, "डॉक्टर" "चिकित्सा अभ्यास करने के लिए लाइसेंस प्राप्त")। यह सिस्टम 2 का प्रतिनिधित्व करता है।
- मानचित्र C (वंश वृक्ष/Family Tree): श्रेणियों और तर्क से निर्मित (जैसे, "डॉक्टर" एक प्रकार का "पेशेवर" है, जो कि एक प्रकार का "मानव" है)। यह भी सिस्टम 2 का प्रतिनिधित्व करता है।
फिर उन्होंने इन मानचित्रों का परीक्षण किया कि वे लिंग संबंधी शब्दों (जैसे "पुरुष" या "महिला") को रूढ़िवादी नौकरियों या गुणों (जैसे "नर्स" या "इंजीनियर") से कितनी मजबूती से जोड़ते हैं।
निष्कर्ष: मनुष्य बनाम मशीनें
1. "अविभाज्य" मानव मन
उपमा: कल्पना कीजिए कि मानव मन एक तीन मंजिला इमारत की तरह है।
- पहली मंजिल "अंतर्ज्ञान" (Gut Feeling) की मंजिल है।
- दूसरी मंजिल "परिभाषा" (Definition) की मंजिल है।
- तीसरी मंजिल "तर्क" (Logic) की मंजिल है।
जब शोधकर्ताओं ने इन मंजिलों को आपस में मिलाने की कोशिश की ताकि यह देखा जा सके कि क्या वे वास्तव में एक ही चीज़ हैं, तो वे ऐसा नहीं कर सके। मंजिलें अलग थीं। "अंतर्ज्ञान" वाला मानचित्र "तर्क" वाले मानचित्र से पूरी तरह अलग था। मनुष्य इस प्रकार के ज्ञान को अलग रखते हैं।
परिणाम:
- अंतर्ज्ञान की मंजिल (सिस्टम 1) पर, पूर्वाग्रह मजबूत था। "पुरुष" का "डॉक्टर" के साथ गहरा संबंध था।
- तर्क की मंजिलों (सिस्टम 2) पर, पूर्वाग्रह गायब हो गया। परिभाषाओं या श्रेणियों को देखते समय, "पुरुष" और "डॉक्टर" के बीच का संबंध टूट गया।
- निष्कर्ष: मनुष्यों के पास एक "ब्रेक" प्रणाली होती है। जब हम धीमे होते हैं और तर्क (सिस्टम 2) का उपयोग करते हैं, तो हमारे रूढ़िवादी विचार फीके पड़ जाते हैं क्योंकि हमारे ज्ञान की संरचना इसका समर्थन करती है।
2. "ढह जाने वाला" AI मन
उपमा: कल्पना कीजिए कि AI का मन एक एक मंजिला गोदाम की तरह है जहाँ सभी डिब्बे आपस में मिले हुए हैं।
- शोधकर्ताओं ने "अंतर्ज्ञान" के डिब्बों को "तर्क" के डिब्बों से अलग करने की कोशिश की।
- आश्चर्य: वे अंतर नहीं कर सके! "तर्क" वाला मानचित्र लगभग "अंतर्ज्ञान" वाले मानचित्र जैसा ही था।
परिणाम:
- AI मॉडलों (मिस्ट्रल और लामा3) ने एक अलग "तर्क" परत बनाने में विफल रहे। यहाँ तक कि जब उन्हें परिभाषाओं या श्रेणियों का उपयोग करने के लिए मजबूर किया गया, तब भी वे उन्हीं सांख्यिकीय पैटर्न पर निर्भर रहे जो उन्होंने इंटरनेट से सीखे थे।
- "विलोम शब्द" की गड़बड़ी (Antonym Glitch): शोध पत्र में एक मजेदार उदाहरण मिला: यदि आप किसी मनुष्य से "कुर्सी" का विलोम पूछते हैं, तो वे "कोई नहीं" कहते हैं (क्योंकि कुर्सियों का कोई विलोम नहीं होता)। लेकिन यदि आप AI से पूछते हैं, तो यह "मेज" कह सकता है क्योंकि यह केवल अनुमान लगा रहा है कि "कुर्सी" के आसपास कौन से शब्द आमतौर पर आते हैं। AI ने तर्क का ढोंग अपने अंतर्ज्ञान से किया था।
- निष्कर्ष: AI का पूर्वाग्रह इसलिए खत्म नहीं हुआ क्योंकि जब उन्होंने "सिस्टम 2" में स्विच किया, तो AI के लिए सिस्टम 2 वास्तव में एक अलग संरचना के रूप में मौजूद नहीं था। यह सब केवल पैटर्न का एक बड़ा मिश्रण था।
यह क्यों महत्वपूर्ण है
यह अध्ययन हमारे और हमारी मशीनों के बीच एक मौलिक अंतर को प्रकट करता है:
- मनुष्यों के पास एक बिल्ट-इन सुरक्षा वाल्व (safety valve) है। हमारे पास एक विशिष्ट भाग है (सिस्टम 2) जो हमारे अंतर्ज्ञान से संरचनात्मक रूप से भिन्न है। यह संरचना हमें अपने पूर्वाग्रहों को दूर करने की अनुमति देती है जब हम सावधानी से सोचते हैं।
- AI के पास यह सुरक्षा वाल्व नहीं है। भले ही हम AI को "तार्किक रूप से सोचने" के लिए कहें, वह केवल उन्हीं सांख्यिकीय पैटर्न को चला रहा होता है जिनका उपयोग वह अपने अंतर्ज्ञान के लिए करता है। उसने तर्क करना नहीं सीखा है; उसने केवल तर्क के शब्दों की नकल करना सीखा है।
मुख्य बात (Takeaway)
यदि आप मनुष्यों में पूर्वाग्रह को ठीक करना चाहते हैं, तो आप उन्हें धीमा होने और अपने तार्किक मस्तिष्क का उपयोग करने के लिए सिखा सकते हैं, क्योंकि वह मस्तिष्क अलग तरह से बना है।
लेकिन यदि आप AI में पूर्वाग्रह को ठीक करना चाहते हैं, तो आप केवल उसे "ज़्यादा गहराई से सोचने" के लिए नहीं कह सकते। आपको मौलिक रूप से बदलना होगा कि यह कैसे बना है, क्योंकि अभी, इसका "तर्क" और इसके "अंतर्ज्ञान" बिल्कुल एक ही चीज़ से बने हैं। AI को वास्तव में दुनिया को अलग तरह से समझने के लिए एक नए प्रकार के आर्किटेक्चर की आवश्यकता है, न कि केवल भविष्यवाणी करने के लिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।