Hypothesis Generation and Inductive Inference in Children and Language Models
यह शोध पत्र एक आगमनात्मक अनुमान (inductive inference) कार्य में मानव बच्चों और LLM-आधारित एजेंटों की तुलना करता है, जो यह प्रकट करता है कि हालांकि दोनों विशिष्ट कम्प्यूटेशनल तंत्रों के माध्यम से पर्यावरणीय अनिश्चितता और साक्ष्य विश्वसनीयता के प्रति समान रूप से अनुकूलित होते हैं, फिर भी LLMs बच्चों की तुलना में अत्यधिक अवलोकन (over-observation) और निर्देश अनुपालन की अनूठी प्रवृत्तियों को प्रदर्शित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक कमरे में पाँच बंद बक्सों और 13 चाबियों के ढेर के साथ हैं। आपको नहीं पता कि कौन सी चाबी किस बक्से को खोलती है। इसे पेचीदा बनाने के लिए, एक शिक्षक ने अभी-अभी आपसे एक झूठ बोला है: "लाल चाबी लाल बक्से को खोलती है, नीली चाबी नीले बक्से को खोलती है।" लेकिन वास्तव में, बक्से एक गुप्त कोड के आधार पर खुलते जिसमें नंबर और आकार शामिल हैं जिन्हें आप तब तक नहीं देख सकते जब तक कि आप बक्सों को उठा नहीं लेते।
यह "बॉक्स टास्क" (Box Task) का सेटअप है, जो इस शोध पत्र का केंद्रीय प्रयोग है। शोधकर्ता यह समझना चाहते थे कि मनुष्य (विशेष रूप से बच्चे) और आर्टिफिशियल इंटेलिजेंस (विशेष रूप से लार्ज लैंग्वेज मॉडल्स या LLMs) कैसे सच्चाई का पता लगाते हैं जब दुनिया भ्रमित करने वाली हो, जानकारी अधूरी हो, और निर्देश गलत हों।
यहाँ उनके निष्कर्षों का विवरण दिया गया, जिसे सरल उपमाओं (analogies) का उपयोग करके समझाया गया है।
1. सोचने के दो तरीके: "कन्स्ट्रेंट" (Constraint) बनाम "प्रोग्राम" (Program)
शोधकर्ताओं ने यह सिम्युलेट करने के लिए दो अलग-अलग कंप्यूटर मॉडल बनाए कि ये एजेंट कैसे सोचते हैं।
- "कन्स्ट्रेंट" मॉडल (बच्चों के लिए): एक बच्चे के दिमाग की कल्पना एक ऐसे जासूस के रूप में करें जिसके पास एक नोटपैड है। हर बार जब वे एक चाबी आजमाते हैं और वह विफल हो जाती है, तो वे नोटपैड पर एक नया नियम लिखते हैं: "ठीक है, लाल काम नहीं करता।" वे जरूरी नहीं कि एक ही बार में एक आदर्श, तार्किक प्रणाली बना लें। इसके बजाय, वे एक साथ कई संभावित विचारों (परिकल्पनाओं) को संभालते हैं। कभी-कभी वे अनुमान लगाते हैं, कभी-कभी वे शिक्षक के झूठ का पालन करते हैं, और कभी-कभी वे मौके पर ही एक नया नियम बना लेते हैं। शोधकर्ता इसे "सेट्स ऑफ कन्स्ट्रेंट्स" (Sets of Constraints) कहते हैं।
- "प्रोग्राम" मॉडल (AI के लिए): AI की कल्पना एक कंप्यूटर प्रोग्रामर के रूप में करें। केवल नोट्स लिखने के बजाय, AI निर्देशों का एक छोटा कंप्यूटर प्रोग्राम लिखता है जो कहता है, "यदि चाबी में एक नंबर है, तो देखें कि क्या यह बॉक्स से मेल खाता है।" यदि प्रोग्राम विफल होता है, तो AI कोड को फिर से लिख देता है। इसे "प्रोग्राम सिंथेसिस" (Program Synthesis) कहा जाता है।
2. बड़ी खोज: वे एक जैसा व्यवहार करते हैं, लेकिन अलग कारणों से
शोधकर्ताओं ने बच्चों और AI दोनों को एक ही पहेली के माध्यम से गुजारा, कभी-कभी चाबियों को "चिपचिपा" (sticky) बनाया (यानी अविश्वसनीय) ताकि वे सही चाबी होने पर भी हमेशा बक्सा न खोल सकें।
समानता:
दोनों ही भ्रमित होने के एक ही तरीके से भ्रमित हुए।
- उन्होंने साक्ष्य पर संदेह किया: जब एक चाबी बक्सा खोलने में विफल रही, तो दोनों समूहों ने अक्सर यह सोचा, "शायद ताला बस फंसा हुआ है," बजाय इसके कि वे तुरंत यह महसूस करें कि, "मेरा नियम गलत है।" उन्होंने "चिपचिपे ताले" को संदेह का लाभ दिया।
- उन्होंने बिना समझे पहेली सुलझा ली: कई बच्चों (और AI) ने भाग्य से या नियमों के एक अस्त-व्यस्त मिश्रण का उपयोग करके सभी पांच बक्सों को खोल लिया, लेकिन जब उन्हें एक नए बक्से के लिए वास्तविक नियम समझाने के लिए कहा गया, तो वे विफल रहे। उन्होंने सबक सीखे बिना ही काम पूरा कर लिया।
अंतर:
- AI एक "अच्छा छात्र" है: AI ने सख्ती से शिक्षक के निर्देशों का पालन किया। यदि शिक्षक ने कहा "रंगों का मिलान करें," तो AI ने रंगों को मिलाने की कोशिश की, भले ही वह स्पष्ट रूप से गलत था। वह बहुत आज्ञाकारी था।
- बच्चे "शंकालु" (Skeptics) हैं: बच्चे कम आज्ञाकारी थे। कई बच्चों ने शिक्षक के झूठ को तुरंत अनदेखा कर दिया और यादृच्छिक (random) चाबियाँ आज़माना शुरू कर दिया।
- "ओवर-ऑब्जर्वर" (Over-Observer) बनाम "अंडर-ऑब्जर्वर" (Under-Observer):
- AI एक ऐसे रोबोट की तरह था जिसे लगा कि उसे एक चाबी आज़माने से पहले हर एक बक्से को चेक करना ही होगा। उसने आकारों को गिनने के लिए व्यवस्थित रूप से हर बक्से को उठाया, भले ही वह अनुमान लगा सकता था।
- बच्चे आलसी जासूसों की तरह थे। कई लोगों ने एक भी बक्सा नहीं उठाया। उन्होंने दूर से जो देख सकते थे उसके आधार पर अनुमान लगाया। वे ऐसा व्यवहार करते थे जैसे "बक्सा उठाना" एक ऐसी लागत (cost) है जिससे वे बचना चाहते हैं।
3. यह क्यों मायने रखता है
शोध पत्र तर्क देता है कि हालांकि बच्चे और AI दोनों अनिश्चित वातावरण में पहेलियाँ सुलझा सकते हैं, लेकिन वे इसे अलग-अलग "आंतरिक लागतों" (internal costs) के साथ करते हैं।
- AI के लिए: जानकारी प्राप्त करने की लागत शून्य है। वह थकता नहीं है, वह ऊबता नहीं है, और उसे निर्देशों का आँख मूंदकर पालन करने में कोई आपत्ति नहीं है। यदि गणित कहता है कि सुनिश्चित होने का सबसे कुशल तरीका है, तो वह हर बक्से की जांच करेगा।
- बच्चे के लिए: जानकारी जुटाने की एक अदृश्य "लागत" होती है। शायद यह सामाजिक है (वे बक्से उठाकर अजीब नहीं दिखना चाहते), या शायद यह केवल मानसिक ऊर्जा है। इस कारण से, वे अक्सर अनुमान लगाते हैं, शॉर्टकट लेते हैं, और कभी-कभी उत्तर सही भी प्राप्त कर लेते हैं बिना यह जाने कि वह वास्तव में क्यों सही है।
निचोड़ (The Bottom Line)
शोधकर्ताओं ने AI का उपयोग एक "टेस्ट सब्जेक्ट" (एक मॉडल जीव) के रूप में किया है ताकि यह देखा जा सके कि क्या होता है जब आप खेल के नियम बदल देते हैं। उन्होंने पाया कि यदि आप AI को वही अनिश्चितता और अविश्वसनीय साक्ष्य देते हैं जिनका सामना बच्चे करते हैं, तो AI एक बच्चे की तरह व्यवहार करने लगता है: वह भ्रमित हो जाता है, वह अपनी राय बदलने में हिचकिचाता है, और कभी-कभी वह गलती से पहेली सुलझा लेता है।
हालाँकि, AI मौलिक रूप से अलग है: वह बहुत आज्ञाकारी है और डेटा इकट्ठा करने के लिए बहुत उत्सुक है। बच्चे, दूसरी ओर, जोखिम लेने, बुरे सुझावों को अनदेखा करने और ऊर्जा बचाने के लिए कदम छोड़ने के लिए तैयार रहते हैं। शोध पत्र निष्कर्ष निकालता है कि मानव बुद्धि को वास्तव में समझने के लिए, हमें उन छिपी हुई "लागतों" को ध्यान में रखना होगा जो सोचने और अवलोकन करने के लिए होती हैं, क्योंकि मशीनें इन लागतों को नहीं समझतीं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।