Who Anchors AI Overviews in Health? Baidu, Google, and the Geography of Authority
यह अध्ययन 12 देशों और चार भाषाओं में गूगल और बायडू के एआई ओवरव्यू (AI Overviews) का ऑडिट करता है, जो यह प्रकट करता है कि दोनों प्लेटफॉर्म विविध स्रोतों के बजाय अपने स्वयं के पारिस्थितिकी तंत्र को प्राथमिकता देते हैं, स्थानीय उद्धरणों में भौगोलिक और भाषाई पूर्वाग्रह प्रदर्शित करते हैं, और स्वास्थ्य संबंधी डिस्क्लेमर को असंगत रूप से लागू करते हैं, जिससे स्वास्थ्य संदर्भों में जनरेटिव सर्च के लिए सांस्कृतिक रूप से जागरूक निगरानी की तत्काल आवश्यकता रेखांकित होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
हर दिन, अरबों लोग उत्तर खोजने के लिए सर्च इंजन की ओर मुड़ते हैं, लेकिन जब वे उत्तर स्वास्थ्य से संबंधित होते हैं, तो दांव जीवन और मृत्यु का होता है। दशकों से, खोज परिणाम लिंक्स की एक सूची की तरह दिखते रहे हैं, जिसमें सच्चाई खोजने के लिए उपयोगकर्ता को क्लिक करने की आवश्यकता होती थी। हालाँकि, हाल ही में, आर्टिफिशियल इंटेलिजेंस द्वारा संचालित एक नए प्रकार की खोज उभरी है। एक सूची के बजाय, ये सिस्टम स्क्रीन के बिल्कुल ऊपर एक एकल, संश्लेषित उत्तर उत्पन्न करते हैं, जो किसी विषय को समझाने के लिए पूरे वेब से जानकारी खींचते हैं और उसे सरल भाषा में प्रस्तुत करते हैं। यह बदलाव समय बचाने का वादा करता है, लेकिन यह उन कंपनियों के हाथों में अत्यधिक शक्ति भी केंद्रित करता है जो इन उपकरणों का निर्माण करती हैं। यदि कोई आर्टिफिशियल इंटेलिजेंस यह तय करता है कि किन तथ्यों को उजागर करना है और किन्हें अनदेखा करना है, तो यह सूक्ष्म रूप से इस बात को आकार दे सकता है कि लोग अपने शरीर, अपने उपचार और अपने विकल्पों को कैसे समझते हैं। सवाल अब केवल जानकारी खोजने के बारे में नहीं है, बल्कि इस बारे में है कि यह तय कौन करता है कि वह जानकारी कैसी दिखेगी।
डार्टमाउथ कॉलेज के शोधकर्ताओं की एक टीम ने यह जांचने के लिए काम शुरू किया कि ये नए एआई (AI) सारांश स्वास्थ्य संबंधी प्रश्नों को कैसे संभालते हैं, विशेष रूप से इंटरनेट के दो दिग्गजों को देखते हुए: गूगल, जो दुनिया के अधिकांश हिस्से पर हावी है, और बायडू (Baidu), जो चीन का प्राथमिक सर्च इंजन है। वे यह देखना चाहते थे कि किसी व्यक्ति को मिलने वाले उत्तर इस पर निर्भर करते हैं या नहीं कि वे किस कंपनी का उपयोग कर रहे हैं, वे कहाँ रहते हैं, या वे कौन सी भाषा बोलते हैं। ऐसा करने के लिए, उन्होंने बारह अलग-अलग देशों और चार भाषाओं में लगभग दो हजार स्वास्थ्य संबंधी प्रश्न चलाए। उन्होंने मधुमेह जैसी सामान्य स्थितियों से लेकर पारंपरिक चीनी चिकित्सा जैसे अधिक जटिल या सांस्कृतिक रूप से विशिष्ट विषयों तक के बारे में प्रश्न पूछे। परिणामों की आमने-सामने तुलना करके, उन्होंने मानचित्रित किया कि जानकारी कहाँ से आई और इन प्रणालियों ने क्या दिखाने का निर्णय लिया।
शोधकर्ताओं ने पाया कि गूगल और बायडू दोनों उपयोगकर्ताओं को विविध स्वतंत्र स्रोतों के बजाय अपने स्वयं के कॉर्पोरेट पारिस्थितिकी तंत्र (ecosystems) की ओर निर्देशित करने की प्रवृत्ति रखते हैं। गूगल पर, स्वास्थ्य उत्तरों के लिए सबसे अधिक उद्धृत किया जाने वाला स्रोत यूट्यूब था, जो गूगल की मूल कंपनी का एक वीडियो प्लेटफॉर्म है। यह आश्चर्यजनक था क्योंकि मेयो क्लिनिक या विश्व स्वास्थ्य संगठन जैसे स्थापित चिकित्सा प्राधिकरण इन सारांशों में कम बार दिखाई दिए। बायडू पर, इसके अपने विश्वकोश और स्वास्थ्य प्लेटफॉर्म, साथ ही बोहे (Bohe) नामक एक विशिष्ट स्वतंत्र चिकित्सा साइट शीर्ष स्रोत थे। दोनों मामलों में, एआई इंटरनेट के सर्वोत्तम चिकित्सा परामर्श के व्यापक, तटस्थ पूल से जानकारी नहीं निकाल रहा था। इसके बजाय, यह भारी रूप से उस सामग्री की ओर झुका हुआ था जो कंपनी की अपनी डिजिटल दीवारों के भीतर मौजूद थी। यह एक ऐसी स्थिति पैदा करता है जहाँ उत्तर का अधिकार स्रोत की चिकित्सा योग्यता पर कम और उन एल्गोरिदम पर अधिक निर्भर करता है जो यह तय करते हैं कि किन वीडियो या लेखों को सामने लाया जाए।
भूगोल ने इस बात में बड़ी भूमिका निभाई कि लोगों को क्या जानकारी प्राप्त हुई। जब शोधकर्ताओं ने विभिन्न देशों से अंग्रेजी में एक ही स्वास्थ्य प्रश्न पूछे, तो स्थान के आधार पर परिणाम बहुत भिन्न थे। संयुक्त राज्य अमेरिका, यूनाइटेड किंगडम, ऑस्ट्रेलिया और कनाडा जैसे बड़े, स्थापित बाजारों के उपयोगकर्ताओं को ऐसे उत्तर मिले जिन्होंने स्थानीय स्वास्थ्य संस्थानों का हवाला दिया। हालाँकि, नाइजीरिया, भारत या सिंगापुर जैसे छोटे या कम स्थानीयकृत बाजारों के लोगों को अमेरिकी या अंतर्राष्ट्रीय संगठनों का हवाला देने वाले उत्तर मिलने की संभावना बहुत अधिक थी, भले ही वे स्थानीय स्वास्थ्य मुद्दों के बारे में पूछ रहे हों। अध्ययन से पता चला कि छोटे देशों को उनके अपने घरेलू स्वास्थ्य प्रणालियों से काफी कम संदर्भ मिले। ऐसा प्रतीत होता है कि इन क्षेत्रों के लिए, एआई एक वैश्विक मानक को अपना लेता है, जिससे संभावित रूप से उन स्थानीय विशेषज्ञों, नियमों या सांस्कृतिक बारीकियों की अनदेखी होती है जो वहां रहने वाले लोगों के लिए महत्वपूर्ण हैं।
भाषा भूगोल की तुलना में एक और भी मजबूत स्विच साबित हुई। जब शोधकर्ताओं ने किसी देश की आधिकारिक भाषा में एक ही प्रश्न पूछे, तो उत्तर नाटकीय रूप से बदल गए। जापान, दक्षिण कोरिया और मलेशिया जैसे देशों में, अंग्रेजी के बजाय स्थानीय भाषा में स्विच करने से स्थानीय स्रोतों के उद्धरणों के हिस्से में तीन से तेरह गुना की वृद्धि हुई। इसका अर्थ यह है कि अपनी मातृभाषा में स्वास्थ्य सलाह खोजने वाले व्यक्ति के लिए अपने देश की स्वास्थ्य प्रणाली से जानकारी प्राप्त करने की संभावना बहुत अधिक होती है, जबकि अंग्रेजी में खोजने पर उन्हें अक्सर स्थानीय संसाधनों से दूर ले जाया जाता है। यह सुझाव देता है कि व्यक्ति द्वारा चुनी गई भाषा अनजाने में यह निर्धारित कर सकती है कि वे अपने स्थानीय डॉक्टर से सलाह देखेंगे या एक दूरस्थ अंतर्राष्ट्रीय प्राधिकरण से।
अध्ययन ने यह भी देखा कि ये प्रणालियाँ संवेदनशील या सांस्कृतिक रूप से विशिष्ट विषयों को कैसे संभालती हैं, जिसके लिए पारंपरिक चीनी चिकित्सा को एक परीक्षण मामले के रूप में उपयोग किया गया। यहाँ, दोनों प्लेटफॉर्मों के दृष्टिकोण में अंतर था। गूगल इन प्रश्नों के लिए एआई सारांश उत्पन्न करने की संभावना कम रखता था, शायद उन विषयों के बारे में सावधानी बरतते हुए जहाँ चिकित्सा सहमति विवादास्पद है। जब इसने उत्तर दिया, तो इसने अधिक उद्धरण प्रदान किए। दूसरी ओर, बायडू इन सांस्कृतिक प्रथाओं के लिए उत्तर उत्पन्न करने में अधिक इच्छुक था और पारंपरिक चीनी चिकित्सा प्रथाओं का अधिक समर्थन करने वाला था, फिर भी इसमें स्पष्ट सुरक्षा चेतावनियाँ भी शामिल थीं। यह इंगित करता है कि एआई की "सावधानी" एक एकल सेटिंग नहीं है, बल्कि स्वर, उद्धृत स्रोतों की संख्या और उत्तर उत्पन्न करने की इच्छा का एक जटिल मिश्रण है। शोधकर्ताओं ने नोट किया कि हालांकि बायडू इन सांस्कृतिक प्रथाओं के प्रति अधिक सहायक था, लेकिन इसने उपयोगकर्ताओं को सुरक्षा के बारे में चेतावनी देने के लिए भी समय लिया, जो दर्शाता है कि समर्थन और सावधानी इन प्रणालियों में सह-अस्तित्व में रह सकते हैं।
अंततः, यह शोध प्रकट करता है कि हमारे स्वास्थ्य निर्णयों का मार्गदर्शन करने वाला आर्टिफिशियल इंटेलिजेंस एक तटस्थ पर्यवेक्षक नहीं है। यह उस कंपनी द्वारा आकार दिया जाता है जिसने इसे बनाया है, उस देश द्वारा जिसका यह सेवा कर रहा है, और उस भाषा द्वारा जिसका उपयोग प्रश्न पूछने के लिए किया जाता है। जिन स्रोतों पर यह भरोसा करता है, वे अक्सर वे होते हैं जिन्हें यह स्वयं स्वामित्व में रखता है या जो अंग्रेजी में सबसे अधिक दृश्यमान हैं। लाखों लोगों के लिए, इसका अर्थ यह है कि स्वास्थ्य सूचना का मार्ग सभी के लिए एक समान नहीं है। जैसे-जैसे ये उपकरण अधिक सामान्य होते जा रहे हैं, अध्ययन सुझाव देता है कि हमें इन छिपे हुए पूर्वाग्रहों के प्रति जागरूक होने की आवश्यकता है। एक सर्च इंजन कैसे बनाया गया है, यह निर्धारित कर सकता है कि कोई व्यक्ति स्थानीय विशेषज्ञ को देखेगा या एक दूरस्थ निगम को, और स्वास्थ्य के मामलों में, यह अंतर गहरा हो सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।