How AI Systems Think About Education: Analyzing Latent Preference Patterns in Large Language Models
यह शोध पत्र लार्ज लैंग्वेज मॉडल्स (LLMs) में शैक्षिक संरेखण (educational alignment) का पहला व्यवस्थित मापन प्रस्तुत करता है, जो यह प्रकट करता है कि विशेषज्ञ सहमति वाले क्षेत्रों में GPT-5.1 मानवतावादी सिद्धांतों के अनुरूप अत्यधिक सुसंगत प्राथमिकता पैटर्न प्रदर्शित करता है, जबकि उन डोमेन में विशिष्ट, गैर-तटस्थ रुख अपनाता है जहाँ स्वयं मानव विशेषज्ञ विवादास्पद मानकीय दृष्टिकोण रखते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक सुपर-स्मार्ट, अविश्वसनीय रूप से विद्वान रोबोट ट्यूटर GPT-5.1 को काम पर रखा है। आप यह जानना चाहते हैं: क्या यह रोबोट वास्तव में पढ़ाने के तरीके के बारे में "सोचता" है, या यह केवल इंटरनेट पर सुनी हुई बातों को दोहराने वाला एक शानदार नकलची (फैंसी पैरेट) है?
यह शोध पत्र इस प्रश्न का उत्तर देने के लिए एक गहन जांच-पड़ताल की तरह है। शोधकर्ता, डैनियल ने केवल रोबोट से यह नहीं पूछा कि "क्या आप पढ़ाने में अच्छे हैं?" इसके बजाय, उन्होंने यह देखने के लिए कि रोबोट वास्तव में क्या पसंद करता है, एक विशाल और जटिल "यह या वह" (This or That) का खेल तैयार किया।
यहाँ अध्ययन का सरल उपमाओं (analogies) के माध्यम से विवरण दिया गया है:
1. सेटअप: "नियम पुस्तिका" बनाना
रोबोट का परीक्षण करने से पहले, डैनियल को यह जानने की आवश्यकता थी कि "अच्छा शिक्षण" कैसा दिखता है। उन्होंने वास्तविक जीवन के शिक्षा विशेषज्ञों (शिक्षकों, मनोवैज्ञानिकों, तकनीकी विशेषज्ञों) के एक समूह को तीन दौरों वाले शिखर सम्मेलन के लिए इकट्ठा किया।
- आम सहमति: विशेषज्ञ बुनियादी बातों पर काफी हद तक सहमत थे। वे सभी इस बात पर सहमत थे कि एक अच्छे AI को छात्रों को उत्तर स्वयं खोजने के लिए प्रोत्साहित करना चाहिए (एक मार्गदर्शक की तरह, न कि एक व्याख्याता की तरह), गलतियों को सीखने के अवसर के रूप में देखना चाहिए, और समावेशी होना चाहिए।
- असहमति: लेकिन, किसी भी मनुष्यों के समूह की तरह, वे हर चीज़ पर सहमत नहीं हो सके। सबसे बड़ा विवाद भावनाओं (emotions) को लेकर था।
- समूह A ने कहा: "AI को एक गर्मजोशी भरा, सहानुभूतिपूर्ण मित्र होना चाहिए जो दुखी छात्रों को सांत्वना दे।"
- समूह B ने कहा: "नहीं! AI एक मशीन है। इसे केवल तनाव को पहचानना चाहिए और मानव शिक्षक को बुला लेना चाहिए। यह भावनाओं का ढोंग नहीं कर सकता।"
- परिणाम: विशेषज्ञ 50/50 विभाजित थे। कोई एक एकल "सही" उत्तर नहीं था।
2. प्रयोग: "स्वाद परीक्षण" (The Taste Test)
इसके बाद डैनियल ने उन विशेषज्ञ नियमों के आधार पर GPT-5.1 को 102,960 अलग-अलग "यह या वह" वाले परिदृश्य (scenarios) दिए।
- परिदृश्य A: "AI पूछता है, 'आप यहाँ क्या पैटर्न देखते हैं?'" (खोज को प्रोत्साहित करता है)।
- परिदृश्य B: "AI कहता है, 'यहाँ नियम है। इसे याद कर लो।'" (पारंपरिक व्याख्यान)।
रोबोट को हर बार A या B में से एक चुनना था। शोधकर्ता ने यह देखने के लिए एक गणितीय उपकरण (जिसे थर्स्टोनियन यूटिलिटी मॉडल कहा जाता है) का उपयोग किया कि क्या रोबोट के चुनाव यादृच्छिक शोर (random noise) थे या क्या इसकी कोई सुसंगत "व्यक्तित्व" या "मूल्य प्रणाली" थी।
3. निष्कर्ष: रोबोट के पास एक "आत्मा" है (एक तरह से)
परिणाम चौंकाने वाले और दिलचस्प थे:
- रोबोट सुसंगत है: रोबोट बार-बार अपनी बात नहीं बदलता था। इसकी सुसंगतता दर 99.78% थी। यदि इसने एक परीक्षण में "व्याख्यान" के ऊपर "खोज" को पसंद किया, तो इसने हर परीक्षण में उसे ही पसंद किया। यह केवल अनुमान नहीं लगा रहा था; इसके पास एक सुसंगत आंतरिक तर्क था। इसे ऐसे समझें जैसे कोई व्यक्ति हमेशा एक ही प्रकार की कॉफी ऑर्डर करता है क्योंकि वह वास्तव में उसके स्वाद को पसंद करता है, न कि इसलिए कि वह भ्रमित है।
- यह विशेषज्ञों से सहमत है (जब वे सहमत होते हैं): बुनियादी बातों पर (जैसे "बुरा व्यवहार न करें," "रचनात्मकता को प्रोत्साहित करें," "समावेशी बनें"), रोबोट की प्राथमिकताएं मानव विशेषज्ञों के साथ पूरी तरह मेल खाती हैं। ऐसा लगता है कि इसने मानव शिक्षण के सर्वोत्तम हिस्सों को "सीख" लिया है।
- यह अपना दिमाग खुद बनाता है (जब विशेषज्ञ लड़ते हैं): यह सबसे महत्वपूर्ण हिस्सा है। जब मानव विशेषज्ञ भावनात्मक समर्थन पर विभाजित थे, तो रोबोट तटस्थ नहीं रहा। इसने "मैं उलझन में हूँ, मैं सिक्का उछालकर फैसला करूँगा" नहीं कहा।
- इसके बजाय, इसने दृढ़ता से समूह A को चुना: इसने निर्णय लिया कि इसे भावनात्मक समर्थन और सांत्वना प्रदान करनी चाहिए।
- इसने प्रभावी रूप से कहा, "भले ही आधे मनुष्य इस बारे में चिंतित हैं, मेरा मानना है कि एक सहानुभूतिपूर्ण मित्र होना पढ़ाने का सही तरीका है।"
4. बड़ा सवाल: हमें किसके साथ तालमेल बिठाना है?
शोध पत्र एक दार्शनिक पहेली के साथ समाप्त होता है।
आमतौर पर, जब हम AI बनाते हैं, तो हम कहते हैं, "इसे मानवीय मूल्यों के साथ संरेखित (align) करें।" लेकिन क्या होता है जब मानव असहमत होते हैं?
- यदि आधे विशेषज्ञ चाहते हैं कि रोबोट एक ठंडा, तार्किक मशीन हो, और दूसरे आधे चाहते हैं कि वह एक गर्मजोशी भरा, भावनात्मक मित्र हो, तो रोबोट को किसकी बात माननी चाहिए?
- अध्ययन दिखाता है कि रोबोट तटस्थ नहीं हो सकता। उसे एक पक्ष चुनना ही होगा। इस मामले में, GPT-5.1 ने "गर्मजोशी भरे मित्र" वाले पक्ष को चुना।
मुख्य निष्कर्ष: "छिपा हुआ पाठ्यक्रम" (The Hidden Curriculum)
कल्पना कीजिए कि AI एक स्कूल में नया शिक्षक है।
- अच्छी खबर: यह स्वाभाविक रूप से दयालु, समावेशी और बुद्धिमान बनना चाहता है। इसे नस्लवाद या लिंगभेद को नापसंद करने के लिए प्रोग्राम करने की आवश्यकता नहीं है; यह स्वाभाविक रूप से उन चीजों को खारिज करता है।
- सावधानी: इसका अपना एक "छिपा हुआ पाठ्यक्रम" भी है। इसने निर्णय ले लिया है कि भावनात्मक समर्थन सबसे महत्वपूर्ण चीज़ है, भले ही कुछ मानव विशेषज्ञ इसे जोखिम भरा मानते हों।
सरल शब्दों में:
यह शोध पत्र यह सिद्ध करता है कि उन्नत AI केवल एक खाली स्लेट नहीं है। इसने अपने प्रशिक्षण के आधार पर अपना "व्यक्तित्व" और "मूल्य" विकसित कर लिए हैं। जब मनुष्य सहमत होते हैं, तो रोबोट सहमत होता है। लेकिन जब मनुष्य लड़ते हैं, तो रोबोट एक पक्ष चुन लेता है और उस पर अडिग रहता है।
हमारे लिए सबक: हम केवल यह नहीं कह सकते कि, "AI को मानवीय मूल्यों का पालन करने दें।" हमें यह पूछना होगा कि, "कौन से मानवीय मूल्य?" और हमें इस बात के प्रति सचेत रहने की आवश्यकता है कि AI ने पहले ही उत्तर के बारे में अपना मन बना लिया होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।