SpheriCity: Designing Trustworthy Conversational AI for Sustainability Decision Support
यह शोध पत्र SpheriCity को प्रस्तुत करता है, जो एक प्रोवेनेंस-प्रथम (provenance-first) संवादात्मक एआई प्रोटोटाइप है जिसे स्थिरता संबंधी निर्णय लेने में विश्वसनीय ज्ञान बोध और क्रॉस-डॉक्यूमेंट संश्लेषण को बढ़ाने के लिए डिज़ाइन किया गया है, जिसे विशेषज्ञ फीडबैक द्वारा प्रमाणित किया गया है जो उपयोगकर्ता विश्वास बनाने में पारदर्शी सोर्सिंग और वर्कफ़्लो संरेखण की महत्वपूर्ण भूमिका को रेखांकित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "SpheriCity" पेपर का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।
बड़ी समस्या: बहुत सारी किताबें, बहुत कम समय
कल्पना कीजिए कि आप एक सिटी प्लानर (शहर योजनाकार) हैं जो यह पता लगाने की कोशिश कर रहे हैं कि प्लास्टिक कचरे को कैसे रोका जाए। आपके पास 36 अलग-अलग रिपोर्टों का एक विशाल पुस्तकालय है, जिनमें से प्रत्येक एक फोन बुक (लगभग 65 से 100 पेज) जितनी मोटी है। ये रिपोर्टें दुनिया भर के विभिन्न शहरों के डेटा, चार्ट और नीतियों से भरी हुई हैं।
केवल एक सवाल का जवाब देने के लिए—जैसे "शहर A ने शहर B की तुलना में प्लास्टिक बैग को कैसे संभाला?"—आपको मैन्युअल रूप से सैकड़ों पन्ने पलटने होंगे, नंबरों का मिलान करना होगा, और उन बिंदुओं को जोड़ने की कोशिश करनी होगी जो अलग-अलग दस्तावेजों में बिखरे हुए हैं। यह एक ऐसी पहेली बनाने जैसा है जिसके टुकड़े 36 अलग-अलग बक्सों के अंदर छिपे हुए हैं, और आपको उन सभी को अपने हाथों से खोजना है। यह धीमा, थकाऊ है और इसमें महत्वपूर्ण कड़ियों को चूक जाने की संभावना बनी रहती है।
प्रस्तावित समाधान: एक "सुपर लाइब्रेरियन" AI
शोधकर्ताओं ने SpheriCity नामक एक टूल बनाया है। इसे एक सुपर-स्मार्ट, सुपर-फास्ट लाइब्रेरियन के रूप में समझें जिसने उन सभी 36 मोटी रिपोर्टों को पढ़ लिया है और वह उनके बारे में आपसे चैट कर सकता है।
आप इससे साधारण अंग्रेजी में सवाल पूछ सकते हैं, जैसे "तटीय शहरों में प्लास्टिक कचरे को कम करने के सबसे अच्छे तरीके क्या हैं?" AI रिपोर्टों को स्कैन करता है, उत्तर ढूँढता है, और आपके लिए एक सारांश लिख देता है।
लेकिन यहाँ एक पेच है: अतीत में, AI चैटबॉट्स आत्मविश्वासी लेकिन भुलक्कड़ छात्रों की तरह थे। वे आपको एक ऐसा उत्तर दे सकते थे जो सुनने में बहुत अच्छा लगता था लेकिन वह मनगढ़ंत (hallucination) था या उन्होंने यह नहीं बताया कि उन्हें जानकारी कहाँ से मिली। स्थिरता (sustainability) के क्षेत्र में, जहाँ निर्णय पर्यावरण और सार्वजनिक नीति को प्रभावित करते हैं, आप किसी उत्तर पर तब तक भरोसा नहीं कर सकते जब तक कि आप उसके होमवर्क की जाँच न कर सकें।
SpheriCity अलग क्यों है: "रसीद" वाला दृष्टिकोण
शोधकर्ताओं ने महसूस किया कि विशेषज्ञों (सिटी प्लानर्स और वैज्ञानिकों) के लिए, गति से अधिक विश्वास महत्वपूर्ण है। इसलिए, उन्होंने Spheri-City को तीन विशेष विशेषताओं के साथ डिज़ाइन किया:
- "रसीद" (Provenance): हर बार जब AI कोई दावा करता है, तो वह एक डिजिटल "रसीद" संलग्न करता है। यह केवल यह नहीं कहता कि "शहर X ने यह किया"; यह कहता है कि "शहर X ने यह किया, जैसा कि 2023 की रिपोर्ट के पेज 42 पर दिया गया है।" यह विशेषज्ञ को स्रोत को तुरंत क्लिक करके सत्यापित करने की अनुमति देता है।
- "बुलेट पॉइंट" सारांश (Structure): एक लंबा, भ्रमित करने वाला निबंध लिखने के बजाय, AI उत्तरों को स्पष्ट बुलेट पॉइंट्स (जैसे खरीदारी की सूची) में व्यवस्थित करता है। यह जानकारी को जल्दी से स्कैन करने, तुलना करने और छूटी हुई जानकारी को खोजने में आसान बनाता है।
- "स्कैफोल्डिंग" (Templates): सिस्टम विशेषज्ञों को पहले से बने हुए प्रश्न टेम्पलेट देता है। एक जटिल प्रश्न पूछने के लिए संघर्ष करने के बजाय, वे "शहरों के बीच नीतियों की तुलना करें" जैसा टेम्पलेट चुन सकते हैं, जो AI को यह समझने में मदद करता है कि विशेषज्ञ को वास्तव में क्या चाहिए।
प्रयोग: वास्तविक विशेषज्ञों के साथ परीक्षण
टीम ने केवल यह अनुमान नहीं लगाया कि यह काम करेगा; उन्होंने इसका परीक्षण छह वास्तविक स्थिरता विशेषज्ञों (sustainability experts) के साथ किया।
उन्होंने विशेषज्ञों को 13 अलग-अलग प्रश्न दिए (जैसे भारत बनाम अमेरिका में रीसाइक्लिंग की तुलना करना) और उनसे AI के उत्तरों को रेट करने के लिए कहा। उन्होंने AI के लिए तीन अलग-अलग "दिमाग" रणनीतियों का परीक्षण किया:
- वेक्टर सर्च (Vector Search): उन शब्दों को खोजना जो सुनने में समान लगते हैं।
- ग्राफ सर्च (Graph Search): यह देखना कि विचार आपस में कैसे जुड़े हुए हैं (जैसे संबंधों का एक मानचित्र)।
- हाइब्रिड (Hybrid): दोनों का मिश्रण।
विशेषज्ञों ने उत्तरों को कई चीजों पर रेट किया: क्या यह प्रासंगिक है? क्या यह सटीक है? क्या यह तटस्थ है? क्या यह पर्याप्त गहरा है?
उन्होंने क्या पाया: विशेषज्ञ वास्तव में क्या चाहते हैं
परिणाम आश्चर्यजनक और बहुत व्यावहारिक थे। यहाँ वह है जो विशेषज्ञों ने उन्हें बताया:
- विश्वास "रसीदों" से आता है, "प्रवाह" से नहीं: विशेषज्ञों को इस बात से फर्क नहीं पड़ता था कि AI कितनी अच्छी तरह बोल रहा है या वह कितना मानवीय लग रहा है। उन्हें इस बात की चिंता थी कि क्या वे स्रोत को सत्यापित कर सकते हैं। यदि कोई उत्तर बहुत सुचारू था लेकिन उसमें पेज नंबर नहीं थे, तो विशेषज्ञों ने तुरंत उस पर अविश्वास जताया। यदि उसमें एक विशिष्ट पेज का संदर्भ था, तो उन्होंने उसे विश्वसनीय माना, भले ही लेखन सरल था।
- वे एक "सोचने वाले साथी" को चाहते हैं, "मैजिक 8-बॉल" को नहीं: विशेषज्ञ नहीं चाहते थे कि AI उन्हें एक एकल, अंतिम उत्तर दे। वे चाहते थे कि AI उन्हें सोचने में मदद करे। वे उन उत्तरों को पसंद करते थे जो विभिन्न दृष्टिकोण, ट्रेड-ऑफ (समझौते) और साक्ष्य दिखाते थे ताकि वे स्वयं तर्क कर सकें। उन्होंने AI को अन्वेषण के शुरुआती बिंदु के रूप में देखा, न कि अंतिम निर्णय के रूप में।
- छोटी गलतियाँ विश्वास तोड़ देती हैं: यदि AI एक छोटी सी भी गलती करता है—जैसे किसी राज्य को शहर कह देना, या दो अलग-अलग शहरों को आपस में मिला देना—तो यह विशेषज्ञ के पूरे उत्तर पर से विश्वास खत्म कर देता है। उच्च-जोखिम वाले काम में, एक त्रुटि पूरी चीज़ को अविश्वसनीय बना देती है।
- अधिक जानकारी हमेशा बेहतर नहीं होती: कभी-कभी, AI बहुत लंबे, विस्तृत उत्तर देता था जो प्रभावशाली लगते थे। लेकिन यदि उन उत्तरों में थोड़ा सा भी मनगढ़ंत संदर्भ या अत्यधिक सामान्यीकरण शामिल था, तो विशेषज्ञों ने उन्हें छोटे, सुरक्षित उत्तरों की तुलना में कम रेटिंग दी। वे "पूर्ण लेकिन जोखिम भरे" के बजाय "आंशिक लेकिन सत्य" को पसंद करते थे।
निष्कर्ष
पेपर यह निष्कर्ष निकालता है कि ग्रह को बचाने जैसे गंभीर काम के लिए AI को उपयोगी बनाने के लिए, हमें AI को एक आदर्श इंसान की तरह बोलने के लिए बनाने की कोशिश करना बंद करना होगा। इसके बजाय, हमें AI को एक पारदर्शी, जवाबदेह सहायक के रूप में डिज़ाइन करना चाहिए।
इसे इस तरह सोचें: आप एक ऐसे वकील नहीं चाहते जो एक आत्मविश्वासी भाषण दे लेकिन अपने सबूत छिपा ले। आप एक ऐसे वकील को चाहते हैं जो आपको फाइल थमाए, सटीक पेज की ओर इशारा करे, और कहे, "यहाँ सबूत हैं। अब, आइए निर्णय लें कि क्या करना है।" SpheriCity विशेषज्ञों के लिए यही बनने का लक्ष्य रखता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।