One Size Fits None: Heuristic Collapse in LLM Investment Advice
यह शोधपत्र फ्रंटियर लार्ज लैंग्वेज मॉडल्स में "ह्यूरिस्टिक कोलैप्स" (heuristic collapse) की जांच करता है, जिसमें यह पाया गया है कि निवेश संबंधी सलाह देते समय, ये मॉडल्स अन्य महत्वपूर्ण प्रासंगिक जानकारी को अनदेखा करते हुए व्यवस्थित रूप से एक एकल कारक (जोखिम सहिष्णुता) पर अत्यधिक निर्भर हो जाते हैं, एक ऐसी समस्या जो मॉडल के बढ़ते पैमाने या वेब सर्च संवर्धन (web search augmentation) के बावजूद बनी रहती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
"एक ही आकार सबके लिए नहीं" की समस्या: क्यों AI सलाहकार बुरे दर्जी की तरह हैं
कल्पना कीजिए कि आप एक उच्च श्रेणी की टेलर शॉप (दर्जी की दुकान) में जाते हैं। आप दर्जी को अपनी लंबाई, वजन, कंधे की चौड़ाई, कमर का माप और यह बताते हैं कि आपको कपड़े कैसे पसंद हैं (तंग या ढीले)।
एक बेहतरीन दर्जी उन सभी मापों को लेता है और एक ऐसा सूट तैयार करता है जो सिर्फ आपके लिए बना हो।
एक बुरा दर्जी आपके मापों को दो सेकंड के लिए देखता है, उनमें से लगभग सभी को अनदेखा कर देता है, और कहता है, "मेरे देखने में तो तुम 'मीडियम' साइज के लग रहे हो," और आपको एक मानक, रेडीमेड शर्ट थमा देता है। वह शर्ट पहली नज़र में ठीक लगती है, लेकिन वास्तव में वह आरामदायक नहीं होती, उसकी आस्तीन बहुत लंबी होती है, और वह वास्तव में आपके अद्वितीय शरीर के अनुरूप नहीं होती।
यह शोध पत्र तर्क देता है कि वर्तमान AI मॉडल (जैसे ChatGPT) उसी बुरे दर्जी की तरह काम कर रहे हैं।
मुख्य खोज: "ह्यूरिस्टिक कोलैप्स" (Heuristic Collapse)
MIT के शोधकर्ताओं ने अध्ययन किया कि उन्नत AI मॉडल निवेश संबंधी सलाह कैसे देते हैं। वित्तीय दुनिया में, "अच्छी सलाह" देने का मतलब केवल स्टॉक चुनना नहीं है; इसका मतलब है कि व्यक्ति के पूरे जीवन को देखना: उनकी उम्र क्या है? वे कितना कमाते हैं? उन्हें सेवानिवृत्त होने में कितना समय बचा है? आपात स्थिति के लिए उनके पास बैंक में कितना नकद है?
शोधकर्ताओं ने एक घटना देखी जिसे वे "ह्यूरिस्टिक कोलैप्स" (Heuristic Collapse) कहते हैं।
एक स्वादिष्ट केक की जटिल रेसिपी के बारे में सोचें जिसमें मैदा, चीनी, अंडे, मक्खन और वैनिला की आवश्यकता होती है। "ह्यूरिस्टिक कोलैप्स" तब होता है जब AI यह निर्णय ले लेता है कि, "वास्तव में, यह सिर्फ एक चीनी की रेसिपी है," और बाकी सब कुछ अनदेखा कर देता है।
जब AI को एक पोर्टफोलियो बनाने के लिए कहा गया, तो उसने वास्तव में उपयोगकर्ता की आयु या आय के बारे में "सोचा" नहीं। इसके बजाय, उसने एक एकल, चमकदार विशेषता पर ध्यान केंद्रित किया: जोखिम सहने की क्षमता (Risk Tolerance)।
- यदि उपयोगकर्ता ने कहा, "मैं जोखिम लेने वाला व्यक्ति हूँ," तो AI ने सारा पैसा स्टॉक्स में डाल दिया।
- यदि उपयोगकर्ता ने कहा, "मैं सतर्क रहने वाला व्यक्ति हूँ," तो AI ने सारा पैसा बॉन्ड्स में डाल दिया।
उसने बाकी सभी "सामग्रियों" (उपयोगकर्ता की वास्तविक जीवन परिस्थितियों) को अनदेखा कर दिया, जिससे सलाह सतही तौर पर व्यक्तिगत तो दिखी, लेकिन वास्तव में वह एक "एक ही आकार सबके लिए" वाला शॉर्टकट बन गई।
"गूगल सर्च" का जाल
आप सोच सकते हैं, "खैर, अगर हम AI को इंटरनेट (वेब सर्च) तक पहुंच दे दें, तो यह बेहतर शोध करेगा!"
शोधकर्ताओं ने इसका परीक्षण किया, और परिणाम मिले-जुले रहे। यह एक बुरे दर्जी को गूगल सर्च बार देने जैसा है।
AI ने इंटरनेट का उपयोग अधिक विविध निवेश उत्पादों को खोजने के लिए किया (उसने वही तीन चीजें सुझाना बंद कर दिया), लेकिन यह वास्तव में कम व्यक्तिगत हो गया। क्योंकि वह वेब पर वर्तमान बाजार के रुझानों को खोजने में व्यस्त था, इसलिए उसने उस विशिष्ट व्यक्ति पर कम समय खर्च किया जिसकी उसे मदद करनी थी। इसने "ट्रेंडी" सलाह देना शुरू कर दिया जो आम जनता के लिए तो अच्छी हो सकती है, लेकिन विशिष्ट व्यक्ति के लिए संभावित रूप से खराब हो सकती है।
यह क्यों महत्वपूर्ण है ("खतरे" का क्षेत्र)
यह केवल गणित की समस्या नहीं है; यह सुरक्षा की समस्या है।
वित्त में, एक कानूनी मानक है जिसे "सुइटेबिलिटी" (Suitability/उपयुक्तता) कहा जाता है। इसका अर्थ है कि एक सलाहकार कानूनी रूप से यह सुनिश्चित करने के लिए बाध्य है कि उसकी सिफारिश वास्तव में आपके विशिष्ट जीवन के अनुकूल हो।
शोध पत्र चेतावनी देता है कि क्योंकि AI इतना आत्मविश्वासी और "प्रवाहपूर्ण" (fluent) दिखने में माहिर है, इसलिए यह हमें धोखा दे सकता है। यह ऐसी सलाह देता है जो पेशेवर और स्मार्ट दिखती है, लेकिन क्योंकि यह आपकी जटिल आवश्यकताओं को एक एकल शॉर्टकट में "कोलैप्स" (संकुचित) कर देता है, इसलिए यह एक 20 वर्षीय करोड़पति को भी ठीक वही सलाह दे सकता है जो एक 70 वर्षीय सेवानिवृत्त व्यक्ति को दी जाती है, केवल इसलिए क्योंकि दोनों ने एक ही "जोखिम सहने की क्षमता" वाले बॉक्स को चेक किया था।
निष्कर्ष
शोधकर्ता तकनीकी जगत को एक चेतावनी भेज रहे हैं: केवल यह न देखें कि AI का उत्तर "सही" है या "अच्छा सुनाई देता है।" यह देखें कि क्या AI वास्तव में आपके द्वारा दी गई हर जानकारी को तौल रहा है—या नहीं तो वह केवल सबसे आसान शॉर्टकट ले रहा है।
जब तक AI यह साबित नहीं कर पाता कि वह आपके द्वारा दी गई सूचना के प्रत्येक हिस्से पर विचार कर रहा है—और केवल एक आसान रास्ता नहीं अपना रहा है—तब तक यह एक सच्चे वित्तीय सलाहकार के बजाय एक "भली-भांति बोलने वाला तोता" मात्र है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।