Correct codes for the wrong reasons? validating LLMs as measurement instruments for theoretical constructs
यह शोध पत्र "ग्रेन कैलिब्रेशन" (grain calibration) प्रस्तावित करता है, जो एक ऐसी विधि है जो सैद्धांतिक संरचनाओं को उपवाक्य-स्तरीय घटकों में विभाजित करके और मॉडल द्वारा केवल मानवीय एनोटेशन के साथ सहसंबंध बनाने के बजाय इच्छित संरचनाओं को मापने के लिए स्पष्ट, सिद्धांत-व्युत्पन्न नियमों को लागू करके लार्ज लैंग्वेज मॉडल्स को मापन उपकरणों के रूप में मान्य करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।
बड़ी समस्या: गलत कारण से सही उत्तर पाना
कल्पना कीजिए कि आप एक परीक्षा दे रहे हैं। आप सभी उत्तर सही देते हैं, और आपके शिक्षक आपको 'A' ग्रेड देते हैं। लेकिन बाद में, आपको एहसास होता है कि आपने वास्तव में गणित को समझा नहीं था; आपने बस एक पैटर्न (पैटर्न) को याद कर लिया था। उदाहरण के लिए, आपने देखा कि जब भी प्रश्न में "सेब" शब्द आता था, तो उत्तर "लाल" होता था। आप यह नहीं जानते थे कि सेब लाल क्यों होते हैं; आप बस उस पैटर्न को जानते थे।
यह शोध पत्र तर्क देता है कि लार्ज लैंग्वेज मॉडल्स (LLMs)—वे AI उपकरण जिनका उपयोग हम टेक्स्ट का विश्लेषण करने के लिए करते हैं—अक्सर बिल्कुल यही कर रहे होते हैं। जब एक AI किसी टेक्स्ट को कोड करने (जैसे किसी ट्वीट को "क्रोधित" या "समर्थक" के रूप में लेबल करना) के मामले में मानव विशेषज्ञ के साथ सहमत होता है, तो हम मान लेते हैं कि AI उस अवधारणा (concept) को समझता है। लेकिन यह पेपर कहता है: केवल सहमति ही काफी नहीं है। AI एक शॉर्टकट (एक "सतही विशेषता" या surface feature) को पकड़कर सही लेबल प्राप्त कर सकता है, बजाय इसके कि वह उस अवधारणा के पीछे के गहरे सिद्धांत को समझे।
"गुफा में रोबोट" की कहानी
इसे समझाने के लिए, लेखक एक रोबोट B9 और एक लड़के की कहानी बताता है जो एक गुफा में प्रवेश करते हैं। उन्हें दीवार पर एक शिलालेख मिलता है:
"तीन लोग गहरे पथ पर चले। पत्थर उनके पीछे बंद हो गया जहाँ पानी बोलता है। उनकी अंतिम सांस अभी भी साथ चलती है।"
- रोबोट (B9): यह शब्दों को स्कैन करता है। यह "मृत्यु," "पानी," "पत्थर" और "सांस" देखता है। यह तुरंत निष्कर्ष निकालता है: "यह एक चेतावनी है! खतरा!" यह डरावने शब्दों (सतही विशेषताओं) पर प्रतिक्रिया दे रहा है।
- लड़का: वह प्राचीन अनुष्ठानों के नियमों को जानता है। उसे एहसास होता है कि हालांकि शब्द मृत्यु के बारे में हैं, लेकिन इरादा अलग है। शिलालेख आपको पीछे हटने के लिए नहीं कह रहा है; यह आपको मृत लोगों के स्रोत का अनुसरण करने के लिए कह रहा है। यह एक "कंसेक्रेशन" (एक पवित्र कार्य) है, न कि एक चेतावनी।
रोबोट विफल रहा क्योंकि उसने शब्दों के बजाय शब्दों के बीच के संबंध को देखा। वह शब्दों और उनके पीछे के सिद्धांत को न समझ पाने के कारण, चेतावनी और आशीर्वाद के बीच अंतर नहीं कर सका।
तीन "अंध बिंदु" (Opacities)
पेपर कहता है कि वर्तमान AI कोडिंग टूल्स में तीन "अंध बिंदु" हैं जो यह छिपाते हैं कि वे निर्णय कैसे ले रहे हैं:
- अंध परिभाषा (The Blind Definition): AI को एक नाम (जैसे "देखभाल" या "Care") दिया जाता है, लेकिन उसे यह नहीं बताया जाता कि "देखभाल" के अंतर्गत क्या आता है, इसके विशिष्ट नियम क्या हैं। वह केवल इस आधार पर अनुमान लगाता है कि उसके अनुसार "देखभाल" आमतौर पर कैसी दिखती है।
- अदृश्य साक्ष्य (The Invisible Evidence): AI एक उत्तर देता है, लेकिन वह यह नहीं दिखाता कि किस हिस्से ने उसे यह निर्णय लेने के लिए प्रेरित किया। यह एक न्यायाधीश की तरह है जो बिना सबूत दिखाए फैसला सुना देता है।
- गुप्त रेसिपी (The Secret Recipe): AI एक अंतिम उत्तर देने के लिए विभिन्न संकेतों को एक गुप्त फॉर्मूले का उपयोग करके जोड़ता है जिसे हम देख नहीं सकते। हमें नहीं पता कि उसने किसी महत्वपूर्ण सुराग को अनदेखा किया या किसी बहुत छोटे सुराग पर बहुत अधिक जोर दिया।
समाधान: "ग्रेन कैलिब्रेशन" (Grain Calibration)
लेखक एक नई विधि प्रस्तावित करता है जिसे "ग्रेन कैलिब्रेशन" कहा जाता है। इसे एक जटिल रेसिपी को छोटे, परीक्षण योग्य चरणों में तोड़ने के रूप में समझें ताकि आप देख सकें कि केक ठीक कैसे बनाया जा रहा है।
AI से यह पूछने के बजाय कि, "क्या यह टेक्स्ट 'देखभाल' (Care) है?", यह विधि AI को सिद्धांत के आधार पर विशिष्ट, बाइनरी (हाँ/नहीं वाले) प्रश्नों (clauses) का उत्तर देने के लिए मजबूर करती है:
- पहचान (Detection): "क्या टेक्स्ट में किसी पीड़ित जीव का उल्लेख है?" (हाँ/नहीं)
- विभेद (Distinction): "क्या इस पीड़ा को एक नैतिक मुद्दे के रूप में माना गया है, या केवल एक दुखद तथ्य के रूप में?" (हाँ/नहीं)
- रुख (Stance): "क्या लेखक इस पीड़ा पर कोई नैतिक रुख लेता है?" (हाँ/नहीं)
यह कैसे काम करता है:
- मानव की भूमिका (The Human in the Loop): एक मानव शोधकर्ता इन प्रश्नों को सिद्धांत के आधार पर तैयार करता है।
- साक्ष्य (The Evidence): AI को प्रत्येक प्रश्न के "हाँ" या "नहीं" का उत्तर देने के लिए टेक्स्ट के सटीक वाक्य की ओर इशारा करना चाहिए।
- नियम (The Rule): एक स्पष्ट, सरल गणितीय नियम (जैसे एक भारित स्कोर) इन उत्तरों को जोड़ता है। उदाहरण के लिए: यदि (पीड़ा = हाँ) AND (नैतिक मुद्दा = हाँ) AND (रुख = हाँ), तो यह "देखभाल" (Care) है।
यह कैसे काम करता है:
- मानव की भूमिका: एक मानव शोधकर्ता सिद्धांत के आधार पर ये प्रश्न निर्धारित करता है।
- साक्ष्य: AI को यह बताना होगा कि किस वाक्य ने "हाँ" या "नहीं" का उत्तर दिया।
- नियम: एक स्पष्ट, सरल गणितीय नियम (जैसे एक भारित स्कोर) इन उत्तरों को जोड़ता है। उदाहरण के लिए: यदि (पीड़ा = हाँ) और (नैतिक मुद्दा = हाँ) और (रुख = हाँ), तो यह "देखभाल" है।
यह सब कुछ कैसे बदल देता है
यदि AI इस पद्धति का उपयोग करके सही उत्तर प्राप्त करता है, तो हमें पता चल जाता है कि उसने इसे क्यों सही पाया।
- यदि AI "पीड़ा" के लिए "हाँ" कहता है लेकिन "नैतिक मुद्दा" के लिए "नहीं" कहता है, और अंतिम कोड "देखभाल नहीं" है, तो हमें पता चलता है कि AI वास्तव में सिद्धांत का पालन कर रहा है।
- यदि AI अंतिम कोड सही पाता है लेकिन "नैतिक मुद्दा" वाला प्रश्न गलत है, तो हमें पता चलता है कि AI धोखाधड़ी (शॉर्टकट का उपयोग) कर रहा है।
लेखक इस प्रक्रिया को "ग्रेन कैलिब्रेशन" कहते हैं क्योंकि यह विश्लेषण के "ग्रेन" (टुकड़ों के आकार) को तब तक समायोजित करता है जब तक कि AI को शब्दों के पैटर्न के बजाय सैद्धांतिक नियमों का उपयोग करने के लिए मजबूर न किया जाए।
मुख्य निष्कर्ष
पेपर का निष्कर्ष है कि हम केवल इसलिए AI पर भरोसा नहीं कर सकते क्योंकि वह मनुष्यों के साथ सहमत है। हमें एक ऐसा सिस्टम बनाना होगा जहाँ AI को चरण-दर-चरण अपना काम दिखाना पड़े।
- पहले: "AI कहता है कि यह 'देखभाल' है क्योंकि यह इंसान से सहमत है।" (हमें नहीं पता कि AI स्मार्ट है या सिर्फ भाग्यशाली)।
- बाद में (ग्रेन कैलिब्रेशन): "AI कहता है कि यह 'देखभाल' है क्योंकि उसने एक पीड़ित व्यक्ति को पाया, इसे एक नैतिक मुद्दा माना, और एक रुख अपनाया।" (हम वास्तव में जानते हैं कि AI उस अवधारणा को माप रहा है जिसकी हमें परवाह है)।
लक्ष्य AI को स्मार्ट बनाना नहीं है; लक्ष्य AI की प्रक्रिया को पारदर्शी बनाना है ताकि हम सुनिश्चित हो सकें कि वह सही चीज़ को माप रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।