Disagreement Is Not Debiasing: Human–AI Views in Portfolio Decisions
यह शोध पत्र यह प्रदर्शित करता है कि जबकि मानव विश्लेषक भविष्यवाणियों में एक स्वतंत्र एआई पूर्वानुमान जोड़ना असहमति के माध्यम से अनिश्चितता अनुमानों को परिष्कृत करके संभाव्यता सटीकता में सुधार करता है, यह वास्तविक परिणामों के विरुद्ध अंशांकन (कैलिब्रेशन) के बिना साझा व्यवस्थित पूर्वाग्रहों को सुधारने या लक्ष्य-आधारित पोर्टफोलियो निर्णयों को बढ़ाने में विफल रहता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
निवेश की उच्च-दांव वाली दुनिया में, निर्णय लेना अक्सर एक चलते हुए लक्ष्य पर निशाना लगाने जैसा महसूस होता है, जबकि आप एक हिलते हुए प्लेटफॉर्म पर खड़े हों। निवेशक इस बात का पूर्वानुमान लगाने के लिए भविष्यवाणियों पर भरोसा करते हैं कि कोई कंपनी कितना पैसा कमाएगी, लेकिन ये अनुमान शायद ही कभी सटीक होते हैं। दशकों से, एक मानक दृष्टिकोण मानव विशेषज्ञों की राय को कंप्यूटर मॉडल की गणनाओं के साथ जोड़ना रहा है, इस उम्मीद में कि एक की गलतियाँ दूसरे की गलतियों को काट देंगी। 'पूर्वानुमान संयोजन' (forecast combination) के रूप में जानी जाने वाली यह अवधारणा बताती है कि यदि आप दो अपूर्ण भविष्यवाणियों का औसत लेते हैं, तो परिणाम अकेले किसी भी एक से अधिक सटीक होना चाहिए। हालांकि, यह तर्क मानता है कि दोनों स्रोत अलग-अलग प्रकार की गलतियाँ कर रहे हैं। यदि मानव और मशीन दोनों एक ही दस्तावेजों को देख रहे हैं और एक ही आशावादी मनोदशा से प्रभावित हैं, तो वे एक ही समय में बिल्कुल एक ही गलती कर सकते हैं। ऐसी स्थिति में, उनके विचारों का औसत लेना समस्या को ठीक नहीं करता; यह केवल त्रुटि को पुख्ता करता है।
यह वास्तविकता ज़ियामेन यूनिवर्सिटी टैन का-थी के कॉलेज के शोधकर्ताओं द्वारा किए गए एक नए अध्ययन की पृष्ठभूमि बनाती है, जिन्होंने यह परीक्षण करने के लिए प्रयास किया कि क्या एक आर्टिफिशियल इंटेलिजेंस (AI) प्रणाली मानव वित्तीय विश्लेषकों के व्यवस्थित पूर्वाग्रहों (systematic biases) को ठीक कर सकती है। शोधकर्ताओं ने चीनी शेयर बाजार पर ध्यान केंद्रित किया, जो एक विशाल और सक्रिय क्षेत्र है जहाँ हजारों कंपनियों पर पेशेवर विश्लेषकों द्वारा नज़र रखी जाती है। उन्होंने दशकों के डेटा एकत्र किए, मानव विशेषज्ञों द्वारा की गई आय की भविष्यवाणियों को देखा और उनकी तुलना एक लार्ज लैंग्वेज मॉडल (LLM) द्वारा उत्पन्न भविष्यवाणियों के साथ की, जो एक उन्नत AI प्रकार है जो उन्हीं कंपनी रिपोर्टों को पढ़ता है लेकिन विश्लेषकों की अपनी भविष्यवाणियों को देखने से पूरी तरह प्रतिबंधित है। लक्ष्य यह देखना था कि क्या AI एक स्वतंत्र दूसरी राय के रूप में कार्य कर सकता है जो मानवीय त्रुटि को साफ कर सके, या क्या दोनों स्रोत केवल एक ही दिशा में पक्षपाती थे, जिससे उनका मतभेद मूल समस्या को ठीक करने के लिए बेकार हो गया।
अध्ययन ने एक सुस्थापित तथ्य को स्वीकार करते हुए शुरुआत की: मानव वित्तीय विश्लेषक लगातार बहुत अधिक आशावादी होते हैं। जांचे गए डेटा में, इन विशेषज्ञों ने लगभग तीन-चौथाई मामलों में ऐसी आय की भविष्यवाणी की जो वास्तव में होने वाली आय से अधिक थी। शोधकर्ताओं ने फिर AI को पेश किया, जिसे वही कच्चा वित्तीय डेटा दिया गया था, लेकिन इसे सूचनात्मक रूप से स्वतंत्र (informationally independent) बनाया गया था, जिसका अर्थ है कि यह मानव सर्वसम्मति को देख नहीं सकता था। एक स्वाभाविक धारणा यह हो सकती है कि यदि AI और मानव असहमत हैं, तो वह अंतर मानव के पूर्वाग्रह को प्रकट करता है। यदि मानव कहता है कि एक कंपनी बहुत कमाएगी और AI कम कहता है, तो माना जा सकता है कि मानव गलत है। हालांकि, शोधकर्ताओं ने पाया कि यह अंतर्ज्ञान त्रुटिपूर्ण है। क्योंकि मानव और AI दोनों एक ही अंतर्निहित रिपोर्ट पढ़ रहे थे, उनमें एक साझा अंध बिंदु (common blind spot) था। वे दोनों एक ही दिशा में पक्षपाती थे, भले ही उनकी मात्रा अलग-अलग थी।
शोध पत्र की मुख्य खोज यह है कि दो पक्षपाती स्रोतों के बीच असहमति स्वचालित रूप से पूर्वाग्रह को ठीक नहीं करती है। जब दो भविष्यवक्ता एक सामान्य त्रुटि साझा करते हैं, तो उनकी असहमति आपको केवल यह बताती है कि वे एक-दूसरे से कितने भिन्न हैं, न कि सत्य वास्तव में कहाँ स्थित है। सत्य को खोजने के लिए, आपको यह देखना होगा कि अतीत में वास्तव में क्या हुआ था, न कि केवल दो वर्तमान अनुमानों के बीच के अंतर को। शोधकर्ताओं ने इस परीक्षण के लिए एक परिष्कृत मॉडल बनाया। उन्होंने पहले ऐतिहासिक डेटा के आधार पर मानव और AI दोनों भविष्यवाणियों को समायोजित किया, जो अनिवार्य रूप से मॉडल को प्रत्येक स्रोत में पाई जाने वाली विशिष्ट अति-आशावादिता को पहचानने और घटाने के लिए सिखाता है। एक बार यह अंशांकन (calibration) पूरा हो जाने के बाद, उन्होंने केवल मानव पूर्वानुमान का उपयोग करने की तुलना में परिणाम बेहतर देखने के लिए दोनों दृष्टिकोणों को संयोजित किया।
परिणाम सूक्ष्म थे और इस उम्मीद को चुनौती देते थे कि AI को जोड़ने से सब कुछ बेहतर हो जाता है। शुद्ध भविष्यवाणी सटीकता के स्तर पर, अंशांकित मानव और AI भविष्यवाणियों के संयोजन ने अनिश्चितता के सांख्यिकीय विवरण में सुधार किया। मॉडल संभावित परिणामों की सीमा का वर्णन करने में बेहतर हो गया, काफी हदतः इसलिए क्योंकि दोनों स्रोकों के बीच की असहमति ने मॉडल को यह समझने में मदद की कि उसे कब अधिक सतर्क रहना चाहिए। जब मानव और AI असहमत थे, तो मॉडल ने इसे अनिश्चितता के संकेत के रूप में सही ढंग से समझा और अपने सुरक्षा मार्जिन को विस्तृत कर दिया। इसने पूर्वानुमान की संभाव्य सटीकता (probabilistic accuracy) में सुधार किया, जिससे यह जोखिम को समझने के लिए एक बेहतर उपकरण बन गया।
हालाँकि, जब शोधकर्ताओं ने परीक्षण किया कि क्या इस बेहतर पूर्वानुमान से बेहतर निवेश निर्णय लिए जा सकते हैं, तो कहानी बदल गई। उन्होंने एक पोर्टफोलियो रणनीति का अनुकरण किया जिसके लिए रिटर्न के लिए एक विशिष्ट, पूर्ण लक्ष्य की आवश्यकता थी। इस परिदृश्य में, AI पूर्वानुमान जोड़ने से केवल अंशांकित मानव पूर्वानुमान के मुकाबले कोई पता लगाने योग्य लाभ नहीं मिला। इसका कारण साझा पूर्वाग्रह की प्रकृति में निहित है। जबकि AI ने मॉडल को संभावित परिणामों के 'फैलाव' (spread) को समझने में मदद की, यह पूर्वानुमान के 'स्तर' (level) को ठीक नहीं कर सका। क्योंकि मानव और AI दोनों अभी भी औसतन थोड़े अधिक आशावादी थे, संयुक्त पूर्वानुमान बहुत अधिक बना रहा। एक निर्णय के लिए जो किसी विशिष्ट संख्या तक पहुँचने पर निर्भर करता है, इस छोटे से शेष त्रुटि ने किसी भी सुधार को रोकने के लिए पर्याप्त प्रभाव डाला। दोनों स्रोतों के बीच का मतभेद वास्तविक दुनिया के परिणामों के विरुद्ध कठोर अंशांकन के काम को प्रतिस्थापित नहीं कर सका।
अध्ययन ने यह भी खुलासा किया कि AI पूर्वानुमान स्वयं एक तटस्थ, निष्पक्ष ओरेकल (oracle) नहीं था। मानव विश्लेषकों की तरह, AI भी ऊपर की ओर पक्षपाती था, जिसने ऐसी आय की भविष्यवाणी की जो वास्तव में होने वाली आय से अधिक थी। यह निष्कर्ष महत्वपूर्ण है क्योंकि यह इस विचार को ध्वस्त करता है कि AI स्वतः ही एक "सत्यवक्ता" है जो मानवीय त्रुटि को सुधार सकता है। इसके बजाय, AI सूचना का एक अन्य स्रोत था जो अपने स्वयं के व्यवस्थित दोषों को वहन करता था। शोधकर्ताओं ने पाया कि AI का पूर्वाग्रह लगभग एक प्रतिशत अंक था, जो विश्लेषक के 1.45 प्रतिशत अंक के पूर्वाग्रह से अलग था। इसका अर्थ यह है कि केवल मिश्रण में AI को जोड़ने से उस आशावाद को जादुई रूप से नहीं हटाया जा सकता है जो वित्तीय पूर्वानुमानों को प्रभावित करता है।
अंततः, यह शोध पत्र प्रदर्शित करता है कि दूसरे विचार का मूल्य पूरी तरह से इस बात पर निर्भर करता है कि निर्णय किस प्रकार का लिया जा रहा है। यदि लक्ष्य कंपनियों को सबसे अच्छे से सबसे खराब के क्रम में रैंक करना है, तो साझा पूर्वाग्रह मायने नहीं रखता, क्योंकि मानव और AI दोनों ही संभवतः उन्हें एक ही क्रम में रैंक करेंगे। लेकिन यदि लक्ष्य एक विशिष्ट लक्ष्य प्राप्त करना है, जैसे कि न्यूनतम रिटर्न दर, तो वह साझा पूर्वाग्रह एक महत्वपूर्ण बाधा बन जाता है। शोध दिखाता है कि आप दो भविष्यवाणियों के बीच के अंतर पर साझा त्रुटि को ठीक करने के लिए भरोसा नहीं कर सकते; आपको वास्तविक परिणामों से सीखना होगा। अध्ययन निष्कर्ष निकालता है कि जबकि आर्टिफिशियल इंटेलिजेंस अनिश्चितता की समझ और जोखिम के विवरण में सुधार कर सकता है, यह ऐतिहासिक वास्तविकता के विरुद्ध कठोर अंशांकन की आवश्यकता को प्रतिस्थापित नहीं कर सकता है। अंत में, एक सहयोगात्मक बुद्धिमत्ता डिजाइन (collaborative intelligence design) को परिणामों से सीखने के कार्य को नई जानकारी एकत्र करने के कार्य से अलग करना चाहिए, यह पहचानते हुए कि असहमति अनिश्चितता का संकेत है, पूर्वाग्रह का इलाज नहीं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।