Computational Hermeneutics: Evaluating generative AI as a cultural technology
यह शोध पत्र जनरेटिव एआई (generative AI) के मूल्यांकन के लिए एक नए ढांचे के रूप में "कंप्यूटेशनल हर्मेन्यूटिक्स" (computational hermeneutics) का प्रस्ताव करता है, जो मानकीकृत सटीकता मेट्रिक्स से हटकर एक व्याख्यात्मक दृष्टिकोण अपनाता है जो संस्कृति को मौलिक मानता है और स्थितिकता (situatedness), बहुलता एवं अस्पष्टता की चुनौतियों को पुनरावृत्तीय, मानव-केंद्रित और संदर्भ-जागरूक बेंचमार्क के माध्यम से संबोधित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: AI एक कैलकुलेटर नहीं है; यह एक कहानीकार है
कल्पना कीजिए कि आप एक नए शेफ (रसोइए) का परीक्षण कर रहे हैं।
- पुराना तरीका (वर्तमान AI परीक्षण): आप शेफ को एक परफेक्ट चॉकलेट केक की रेसिपी देते हैं। आप देखते हैं कि क्या केक बिल्कुल तस्वीर जैसा दिखता है। यदि वह वैसा ही है, तो उसे 'A' ग्रेड मिलता है। यदि वह थोड़ा सा जल गया है, तो उसे 'F' मिलता है। यह गणित या कोडिंग के लिए बहुत अच्छा काम करता है, जहाँ केवल एक ही "सही" उत्तर होता है।
- समस्या: जनरेटिव AI (जैसे ChatGPT या इमेज जेनरेटर) सिर्फ केक नहीं बना रहे हैं। वे कविता लिख रहे हैं, सलाह दे रहे हैं, चित्र बना रहे हैं और बातचीत कर रहे हैं। इन क्षेत्रों में, कोई एक अकेला "सही" उत्तर नहीं होता। एक कविता उदास भी हो सकती है और खुश भी, और दोनों ही मान्य हैं। एक पेंटिंग एब्स्ट्रैक्ट (अमूर्त) भी हो सकती है और रियलिस्टिक (यथार्थवादी) भी।
लेखक तर्क देते हैं कि हम वर्तमान में इन "कहानीकार" AI सिस्टमों को "कैलकुलेटर" के नियमों से परख रहे हैं। हम संस्कृति (अर्थ, इतिहास और भावना की जटिल मानवीय चीजें) को केवल मापने वाले एक छोटे से घटक के रूप में देख रहे हैं, जबकि यह मुख्य व्यंजन होना चाहिए।
नया दृष्टिकोण: "कंप्यूटेशनल हर्मेन्यूटिक्स" (Computational Hermeneutics)
यह पेपर AI को देखने के एक नए तरीके का सुझाव देता है जिसे कंप्यूटेशनल हर्मेन्यूटिक्स कहा जाता है।
- हर्मेन्यूटिक्स (Hermeneutics): यह मानविकी (जैसे साहित्य और इतिहास) से जुड़ा एक भारी शब्द है जिसका अर्थ है "व्याख्या करने की कला।" यह वह तरीका है जिससे हम समझते हैं कि किसी विशेष स्थिति में एक किताब, एक कानून या एक पेंटिंग का अर्थ क्या है।
- बदलाव: यह पूछने के बजाय कि "क्या यह AI उत्तर तथ्यात्मक रूप से सही है?" हमें यह पूछना चाहिए कि "यह AI उत्तर इस विशिष्ट संदर्भ (context) में कितना सार्थक है?"
लेखक कहते हैं कि AI सिस्टम वास्तव में "संदर्भ मशीनें" (Context Machines) हैं। वे केवल तथ्य नहीं उगलते; वे स्थिति, इतिहास और बातचीत के मिजाज (vibe) के आधार पर यह अनुमान लगाने की कोशिश करते हैं कि आपका मतलब क्या है।
तीन बड़ी चुनौतियाँ (The "Three S's")
पेपर कहता है कि चूंकि AI मानव संस्कृति के साथ काम कर रहा है, इसलिए इसे तीन विशिष्ट बाधाओं का सामना करना पड़ता है जो गणित की समस्याओं में नहीं होतीं:
1. स्थितीयता (Situatedness - "कहाँ और कब" की समस्या)
- उपमा: कल्पना कीजिए कि किसी ने एक चुटकुला सुनाया। यदि वे इसे किसी अंतिम संस्कार में सुनाते हैं, तो यह एक आपदा है। यदि वे इसे कॉमेडी क्लब में सुनाते हैं, तो यह सुपरहिट है। चुटकुला नहीं बदला, लेकिन संदर्भ बदल गया।
- AI की समस्या: वर्तमान AI अक्सर ऐसा व्यवहार करता है जैसे उसके पास "ईश्वर जैसी दृष्टि" (God's eye view) हो, यह दिखाने की कोशिश करता है कि वह हर चीज़ का एक एकमात्र सत्य अर्थ जानता है। लेकिन अर्थ केवल एक विशिष्ट समय और स्थान में ही अस्तित्व में होता है। पेपर का तर्क है कि हमें AI से तटस्थ होने की उम्मीद करना छोड़ देना चाहिए और यह स्वीकार करना चाहिए कि हर उत्तर एक विशिष्ट दृष्टिकोण से आता है।
2. बहुलता (Plurality - "कई सत्यों" की समस्या)
- उपमा: एक गाने के बारे में सोचें। एक संगीत समीक्षक के लिए, यह "अभिनव" (innovative) हो सकता है। एक माता-पिता के लिए, यह "बहुत शोर वाला" हो सकता है। एक किशोर के लिए, यह एक "एंथम" (anthem) हो सकता है। ये तीनों लोग सही हैं।
- AI की समस्या: AI पूरे इंटरनेट पर प्रशिक्षित है, जो विरोधाभासों से भरा है। वर्तमान परीक्षण AI को एक "सही" उत्तर चुनने के लिए मजबूर करते हैं। पेपर कहता है कि हमें यह स्वीकार करने की आवश्यकता है कि एक ही चीज़ की कई वैध व्याख्याएं हो सकती हैं, और AI को बिना बिगड़े उस विविधता को संभालने में सक्षम होना चाहिए।
3. अस्पष्टता (Ambiguity - "धुंधले किनारे" की समस्या)
- उपमा: महान कला अक्सर व्याख्या के लिए खुला छोड़ देती है। यदि कोई फिल्म हर विवरण को स्पष्ट कर देती है और कोई रहस्य नहीं छोड़ती, तो वह उबाऊ लगती है। "रहस्य" ही हमें सोचने पर मजबूर करता है।
- AI की समस्या: अभी, AI डेवलपर्स अस्पष्टता को "ठीक" करने की कोशिश करते हैं। वे चाहते हैं कि AI 100% स्पष्ट हो। लेकिन रचनात्मक कार्यों के लिए, अस्पष्टता एक दोष (bug) नहीं, बल्कि एक विशेषता (feature) है। पेपर का तर्क है कि हमें AI का मूल्यांकन इस आधार पर करना चाहिए कि वह ग्रे एरिया (अनिश्चित क्षेत्रों) को कितनी अच्छी तरह नेविगेट करता है, न कि इस आधार पर कि वह उन्हें कैसे मिटाता है।
बेहतर परीक्षण के लिए तीन नियम
यदि हम इन "संदर्भ मशीनों" का सही ढंग से परीक्षण करना चाहते हैं, तो लेखक हमारे परीक्षण (benchmarks) बनाने के लिए तीन नए नियम प्रस्तावित करते हैं:
1. परीक्षण को पुनरावृत्ति वाला बनाएं (The "Conversation" Rule - "बातचीत" का नियम)
- पुराना तरीका: एक प्रश्न पूछें, एक उत्तर प्राप्त करें, स्कोर दें।
- नया तरीका: एक बातचीत करें। अर्थ बातचीत के साथ बदलता है। एक अच्छा AI टेस्ट एक दो-तरफा संवाद होना चाहिए, न कि एक बहुविकल्पीय क्विज़। आपको यह देखना होगा कि संदर्भ विकसित होने के साथ AI कैसे अनुकूलित होता है।
2. लोगों को शामिल करें (The "Human-in-the-Loop" Rule - "मानव-केंद्रित" नियम)
- पुराना तरीका: AI के आउटपुट को डेटाबेस के विरुद्ध ग्रेड करने के लिए कंप्यूटर का उपयोग करें।
- नया तरीका: वास्तविक मनुष्यों को परीक्षण का हिस्सा होना चाहिए। चूंकि संस्कृति मानवीय भावनाओं और मूल्यों के बारे में है, इसलिए केवल मनुष्य ही वास्तव में यह तय कर सकते हैं कि एक AI प्रतिक्रिया एक विशिष्ट स्थिति में "सही" या "उपयुक्त" महसूस होती है या नहीं। हमें केवल AI का नहीं, बल्कि इंसान और AI के बीच के संबंध का परीक्षण करने की आवश्यकता है।
3. केवल आउटपुट नहीं, संदर्भ को मापें (The "Setting the Scene" Rule - "दृश्य सेट करने" का नियम)
- पुराना तरीका: क्या AI ने सही व्याकरण के साथ एक वाक्य लिखा?
- नया तरीका: क्या AI समझ पाया कि वह किससे बात कर रहा था, वह कहाँ था, और उसने क्यों पूछा? हमें AI का परीक्षण उन अस्त-व्यस्त, वास्तविक दुनिया की स्थितियों में करना चाहिए जहाँ इसका वास्तव में उपयोग किया जाएगा, न कि किसी स्टेरिल लैब (प्रयोगशाला) में।
निष्कर्ष
यह पेपर AI जगत के लिए एक आह्वान है। यह कहता है: "संस्कृति को ठीक किए जाने वाले 'बग' की तरह देखना बंद करें। इसे मुख्य 'फीचर' की तरह देखना शुरू करें।"
कंप्यूटेशनल हर्मेन्यूटिक्स का उपयोग करके, हम "क्या यह AI बुद्धिमान है?" पूछने से हटकर "क्या यह AI समझदार (wise) है?" पूछने की ओर बढ़ सकते हैं। हम ऐसे सिस्टम बना सकते हैं जो यह समझ सकें कि अर्थ जटिल होता है, दुनिया को देखने के कई तरीके होते हैं, और सबसे अच्छे उत्तर अक्सर उस कहानी पर निर्भर करते हैं जो हम मिलकर बना रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।