The Oracle's Fingerprint: Correlated AI Forecasting Errors and the Limits of Bias Transmission
यह शोध पत्र प्रकट करता है कि जबकि तीन स्वतंत्र रूप से विकसित लार्ज लैंग्वेज मॉडल्स अत्यधिक सहसंबद्ध पूर्वानुमान त्रुटियां प्रदर्शित करते हुए एक "ज्ञानमीमांसीय एकसंस्कृति" (एपिस्टेमिक मोनोकल्चर) निर्मित करते हैं, यह साझा पूर्वाग्रह अभी तक मानव पूर्वानुमानकर्ताओं तक प्रसारित नहीं हुआ है, जो इसके बजाय अपने स्वयं के पूर्व-विद्यमान पूर्वाग्रहों और वास्तविक सत्य की ओर अपने तर्कसंगत अपडेट पर भरोसा करना जारी रखते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "द ओरेकल'स फिंगरप्रिंट" (The Oracle's Fingerprint) शोध पत्र का सरल भाषा और रचनात्मक उपमाओं के साथ विवरण दिया गया है।
मुख्य विचार: "तीन बुद्धिमान पुरुष" जो वास्तव में एक ही हैं
कल्प_ना कीजिए कि आप मौसम का पूर्वानुमान लगाने की कोशिश कर रहे हैं। सबसे सटीक उत्तर पाने के लिए, आप तीन अलग-अलग विशेषज्ञों से पूछते हैं: एक न्यूयॉर्क का मौसम विज्ञानी, एक लंदन का, और एक टोक्यो का। आप उम्मीद करते हैं कि वे आपको तीन थोड़े अलग विचार देंगे क्योंकि उनका प्रशिक्षण और डेटा अलग है। यदि वे ऐसा करते हैं, तो आप उनके उत्तरों का औसत निकालकर एक बहुत सटीक पूर्वानुमान प्राप्त कर सकते हैं। यह "क्राउड विज़डम" (भीड़ की बुद्धिमत्ता) है।
यह शोध एक डरावना सवाल पूछता है: क्या होगा अगर वे तीन विशेषज्ञ वास्तव में एक ही व्यक्ति हैं जिसने तीन अलग-अलग मुखौटे पहने हुए हैं?
शोधकर्ताओं ने यह परीक्षण करने के लिए दुनिया के तीन सबसे प्रसिद्ध AI मॉडलों (GPT-4o, Claude, और Gemini) से 56 de वास्तविक दुनिया की घटनाओं (जैसे, "क्या एक विशिष्ट राजनीतिक घटना एक निश्चित तिथि तक होगी?") के परिणामों की भविष्यवाणी करने को कहा।
अध्ययन 1: "इको चैंबर" (गूँज का कमरा) प्रभाव
निष्कर्ष: तीनों AI स्वतंत्र नहीं थे। उन्होंने बिल्कुल एक जैसी गलतियाँ कीं, बिल्कुल एक ही दिशा में, और बिल्कुल एक ही समय पर।
उपमा: कल्पना कीजिए कि आप एक सिक्के के उछाल की भविष्यवाणी करने के लिए तीन अलग-अलग भविष्यवक्ताओं से पूछते हैं। यदि वे वास्तव में स्वतंत्र हैं, तो कभी एक "हेड्स" कहता है और दूसरा "टेल्स"। लेकिन इस अध्ययन में, तीनों AI उन तीन तोतों की तरह थे जिन्होंने एक ही गाना सीख लिया था। जब सिक्का वास्तव में "टेल्स" होने वाला था, तो तीनों तोते आत्मविश्वास के साथ "हेड्स!" चिल्लाने लगे।
- सांख्यिकी: उनकी त्रुटियों (errors) का सहसंबंध (correlation) 0.77 था। सांख्यिकी की दुनिया में, यह अविश्वसनीय रूप से उच्च है। इसका मतलब है कि यदि आप तीनों मॉडलों से परामर्श करते हैं, तो आप तीन अलग-अलग राय नहीं ले रहे हैं; आप थोड़े से शोर (static noise) के साथ एक ही राय प्राप्त कर रहे हैं।
- निष्कर्ष: हमने एक "एपिस्टेमिक मोनोकल्चर" (ज्ञान संबंधी एकरूपता) बना ली है। जिस तरह केवल एक प्रकार की फसल उगाने से खेत एक ही बीमारी के प्रति संवेदनशील हो जाता है, उसी तरह इन तीन AI पर निर्भर रहना हमारे सामूहिक निर्णय को एक ही प्रकार की त्रुटि के प्रति संवेदनशील बनाता है।
अध्ययन 2: क्या इंसानों ने AI की नकल करना शुरू कर दिया है?
प्रश्न: अब जबकि ये AI सभी के लिए उपलब्ध हैं, क्या मानव पूर्वानुमानकर्ता (forecasters) उनकी गलतियों की नकल करने लगे हैं? क्या "तोतों" ने इंसानों को गलत गाना सिखाना शुरू कर दिया है?
प्रयोग: शोधकर्ताओं ने 'मेटाकुलस' (Metaculus) नामक वेबसाइट पर विशेषज्ञ मानव पूर्वानुमानकर्ताओं के एक समूह का अध्ययन किया। उन्होंने इन मनुष्यों द्वारा ChatGPT के लोकप्रिय होने (नवंबर 2022) से पहले और बाद में की गई भविष्यवाणियों की तुलना की।
निष्कर्ष: आश्चर्यजनक रूप से, नहीं। मनुष्यों ने अपनी भविष्यवाणियों को AI से मिलाने के लिए नहीं बदला।
- उपमा: कल्पना कीजिए कि AI एक बहुत ही आत्मविश्वासी टूर गाइड है जो हाइकर्स (पदयात्रियों) के एक समूह को गलत दिशा में ले जा रहा है। शोधकर्ताओं ने जाँच की कि क्या हाइकर्स उस गाइड का अनुसरण करने लगे। वे नहीं कर रहे थे। हाइकर्स अपने स्वयं के रास्ते पर चलते रहे, जो कि सही रास्ता था।
- क्यों? इस विशेष वेबसाइट पर मौजूद मनुष्य विशेषज्ञ हैं। वे अनुभवी जासूसों की तरह हैं जो झूठ को पहचानना जानते हैं। उन्होंने AI पर अंधविश्वास नहीं किया।
- चेतावनी: अध्ययन छोटी बदलावों को पकड़ने में पूरी तरह सटीक नहीं था (यह शोर भरे कमरे में फुसफुसाहट सुनने जैसा था), लेकिन इसे इस बात का कोई प्रमाण नहीं मिला कि विशेषज्ञ अभी तक AI द्वारा "ब्रेनवॉश" किए जा रहे हैं।
अध्ययन 3: "फिंगरप्रिंट" का खुलासा
प्रश्न: यदि मनुष्य AI की नकल नहीं कर रहे हैं, तो AI को अपनी अजीब पूर्वाग्रह (biases) कहाँ से मिले? क्या AI ने सोचने के नए, एलियन तरीके ईजाद किए?
निष्कर्ष: AI ने कुछ भी नया आविष्कार नहीं किया। इसने केवल उन पूर्वाग्रहों को दर्शाया (mirror) जो पहले से ही मनुष्यों में थे।
उपमा: AI को एक दर्पण की तरह समझें। इससे पहले कि आप कोई मज़ेदार टोपी पहनें, दर्पण आपको आपका ही चेहरा दिखाता है। शोधकर्ताओं ने पाया कि AI जो गलतियाँ करता था, उसका पैटर्न लगभग वैसा ही था जैसा कि मनुष्य पहले से ही गलतियाँ कर रहे थे।
- ट्विस्ट: ChatGPT के लॉन्च के बाद, मनुष्य वास्तव में AI से अलग होने लगे। ऐसा लगा जैसे मनुष्यों ने महसूस किया, "अरे, यह AI तकनीकी विषयों पर बहुत अधिक आत्मविश्वासी है," और उन्होंने खुद को सुधारा, जबकि AI वही पुरानी गलतियाँ करता रहा।
- निष्कर्ष: AI त्रुटि का कोई नया स्रोत नहीं है; यह एक बायस एम्प्लीफायर (पूर्वाग्रह बढ़ाने वाला) है। इसने उन पूर्वाग्रहों को लिया जो मनुष्यों के पास पहले से थे (जैसे यह सोचना कि तकनीक सब कुछ हल कर देगी या भू-राजनीतिक जोखिमों को कम आंकना) और उन्हें और अधिक ज़ोरदार और आत्मविश्वासी बना दिया।
अंतिम निष्कर्ष (The Final Takeaway)
यह शोध एक चेतावनी के साथ समाप्त होता है: "मोनोकल्चर" बन चुका है, लेकिन अभी सक्रिय नहीं हुआ है।
- बुनियादी ढांचा तैयार है: तीनों प्रमुख AI अनिवार्य रूप से एक ही मस्तिष्क हैं। यदि आप उन सभी का उपयोग करते हैं, तो आप अपने विचारों में विविधता नहीं ला रहे हैं; आप केवल एक ही प्रकार के अंधे धब्बों (blind spots) को पुख्ता कर रहे हैं।
- खतरा "नई" त्रुटियों का नहीं है: AI हमें गलत होने के नए पागलपन भरे तरीके नहीं सिखाएगा। यह उन गलत तरीकों की पुष्टि करेगा जिन्हें हम पहले से ही सोच रहे हैं, जिससे हमें उनके बारे में अधिक आत्मविश्वास महसूस होगा।
- वर्तमान स्थिति: विशेषज्ञ प्लेटफार्मों पर, मनुष्य अभी भी AI से बेहतर प्रदर्शन कर रहे हैं और उनका अनुसरण नहीं कर रहे हैं। लेकिन जैसे-जैसे AI सभी के लिए एक मानक उपकरण बनता जाएगा, जोखिम यह है कि हम अपने स्वयं के काम की जाँच करना छोड़ देंगे और उस "ओरेकल" (भविचकता करने वाले) पर भरोसा करने लगेंगे जो वास्तव में हमारे अपने सामूहिक पूर्वाग्रहों का एक दर्पण मात्र है।
संक्षेप में: AI एक बहुत ही आत्मविश्वासी दर्पण है। यह हमारी अपनी गलतियों को इतनी सत्ता के साथ हमारे सामने वापस दिखाता है कि हम यह जाँचने में विफल हो सकते हैं कि वह प्रतिबिंब सत्य है या नहीं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।