🤖 AI

Beyond Rational Illusion: Behaviorally Realistic Strategic Classification

यह शोध पत्र प्रोस्पेक्ट-गाइडेड स्ट्रैटेजिक फ्रेमवर्क (Pro-SF) प्रस्तुत करता है, जो रणनीतिक वर्गीकरण का एक नवीन दृष्टिकोण है जो एजेंटों के मनोवैज्ञानिक रूप से पक्षपाती और व्यवहारिक रूप से यथार्थवादी रणनीतिक हेरफेर को मॉडल करने और उनसे सीखने के लिए प्रोस्पेक्ट थ्योरी को एकीकृत करके आदर्शवादी तर्कसंगतता से आगे बढ़ता है।

मूल लेखक: Xinpeng Lv, Yunxin Mao, Renzhe Xu, Chunyuan Zheng, Yikai Chen, Haoxuan Li, Yang Shi, Jinxuan Yang, Zhouchen Lin, Yuanlong Chen, Yuanxing Zhang, Shaowu Yang, Wenjing Yang, Haotian Wang

प्रकाशित 2026-06-09

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xinpeng Lv, Yunxin Mao, Renzhe Xu, Chunyuan Zheng, Yikai Chen, Haoxuan Li, Yang Shi, Jinxuan Yang, Zhouchen Lin, Yuanlong Chen, Yuanxing Zhang, Shaowu Yang, Wenjing Yang, Haotian Wang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक शिक्षक हैं जो परीक्षा के परिणाम देख रहे हैं, और आपने घोषणा की कि पास होने के लिए न्यूनतम अंक 80 चाहिए। पुराने सोचने के तरीके में, हम यह मान लेते हैं कि हर छात्र एक परफेक्ट लॉजिकल रोबोट है। यदि एक रोबोट का स्कोर 79 आता है, तो वह गणना करता है: "मुझे 1 अंक और चाहिए। पढ़ाई करने की लागत कम है। मैं पढ़ाई करूँगा और 81 प्राप्त करूँगा।" यदि उसका स्कोर 60 आता है, तो वह सोचता है: "मुझे 20 अंकों की आवश्यकता है। यह बहुत अधिक काम है। मैं हार मान लेता हूँ।"

यह शोध पत्र तर्क देता है कि असली इंसान रोबोट नहीं हैं। वे उलझे हुए, भावनात्मक और मनोवैज्ञानिक चालों से प्रभावित होते हैं जो उन्हें उस तरह से कार्य करने के लिए प्रेरित करते हैं जैसा कि "परफेक्ट रोबोट" भविष्यवाणी करता है।

यहाँ सरल उपमाओं (analogies) का उपयोग करके इस शोध पत्र के विचारों का विवरण दिया गया है:

1. समस्या: "रोबोट" वाली धारणा गलत है

वर्तमान AI सिस्टम जो निर्णय लेते हैं (जैसे ऋण स्वीकृति या भर्ती), इस विचार पर आधारित हैं कि लोग केवल तभी सिस्टम को "गेम" (धोखा देने की कोशिश) करने की कोशिश करेंगे जब गणित कहता है कि यह फायदेमंद है।

वास्तविकता: इंसान अक्सर तब भी प्रयास करना छोड़ देते हैं जब गणित कहता है कि उन्हें सफल होना चाहिए, या वे तब बहुत अधिक प्रयास करते हैं जब उन्हें नहीं करना चाहिए।
शोध पत्र का दावा: यदि हम AI को यह मानकर बनाते हैं कि लोग परफेक्ट रोबोट हैं, तो AI वास्तविक दुनिया में विफल हो जाएगा। या तो यह बहुत सख्त होगा (अच्छे लोगों को खारिज कर देगा) या बहुत ढीला होगा (बुरे तत्वों को फिसलने देगा)।

2. तीन "मानवीय त्रुटियाँ" (Human Glitches)

लेखक तीन विशिष्ट मनोवैज्ञानिक "त्रुटियों" की पहचान करते हैं जो मनुष्यों को रोबोट के तर्क से विचलित करती हैं:

त्रुटि A: लॉस अवर्जन (Loss Aversion - "प्रयास का दर्द")
- उपमा: कल्पना कीजिए कि आपको $100 जीतने का मौका दिया जाता है, लेकिन आपको खेलने के लिए$ 80 देने होंगे। एक रोबोट देखता है कि यह $20 का लाभ है और खेलता है। हालाँकि, एक इंसान$ 80 खोने के दर्द को $100 पाने की खुशी से कहीं अधिक तीव्रता से महसूस करता है। वे निर्णय ले सकते हैं, "यह तनाव झेलने लायक नहीं है," और हाथ खड़े कर सकते हैं, भले ही वे जीत सकते थे।
- परिणाम: लोग अपने डेटा/विशेषताओं को बदलने (जैसे अपना क्रेडिट स्कोर सुधारना) का प्रयास करना छोड़ देते हैं, भले ही वे सफल हो सकते थे।
त्रुटि B: रेफरेंस बायस (Reference Bias - "एक मोटा अनुमान")
- उपमा: एक रोबोट जानता है कि पास होने का ग्रेड ठीक 79.5 है। एक इंसान अपने टेस्ट को देखता है और सोचता है, "मैं 70 के आसपास ही हूँ।" वह सटीक रेखा को नहीं देखता; वह एक धुंधला क्षेत्र (fuzzy zone) देखता है। यदि उसे लगता है कि वह रेखा के "काफी करीब" है, तो वह थोड़ा प्रयास कर सकता है। यदि उसे लगता है कि वह "बहुत दूर" है, तो वह बिल्कुल भी प्रयास नहीं करेगा, भले ही वह वास्तव में जितना सोच रहा है उससे कहीं अधिक करीब हो।
- परिणाम: लोग अपनी स्थिति के बारे में अपनी धुंधली, व्यक्तिपरक भावनाओं के आधार पर निर्णय लेते हैं, न कि वास्तविक गणित के आधार पर।
त्रुटि C: प्रोबेबिलिटी डिस्टॉर्शन (Probability Distortion - "लॉटरी टिकट वाली मानसिकता")
- उपमा: यदि एक रोबोट देखता है कि ऋण मिलने की संभावना 1% है, तो वह इसे अनदेखा कर देता है। हालाँकि, एक इंसान सोचता है, "लेकिन यह हो सकता है! मैं भाग्यशाली व्यक्ति हो सकता हूँ!" वे छोटी संभावनाओं को बढ़ा-चढ़ाकर देखते हैं और निश्चित चीजों को कम आंकते हैं।
- परिणाम: लोग एक ऐसे "लॉन्ग शॉट" (दूर की संभावना) के लिए अपने डेटा में हेरफेर करने की कोशिश कर सकते जिसे एक रोबोट कभी भी करने की कोशिश नहीं करेगा, या वे बहुत अधिक संभावित अस्वीकृति को अनदेखा कर सकते हैं।

3. AI विफल होने के दो तरीके

क्योंकि वर्तमान AI यह मानता है कि लोग रोबोट हैं, इसलिए यह दो विशिष्ट गलतियाँ करता है जब असली इंसान सामने आते हैं:

गलती 1: ओवर-डिफेंस (Over-Defense - "अति-सुरक्षात्मक माता-पिता")
- AI सोचता है, "हर कोई रेखा पार करने के लिए धोखाधड़ी करने की कोशिश करेगा!" इसलिए, यह लक्ष्य को बहुत पीछे खिसका देता है ताकि पास होना कठिन हो जाए।
- वास्तविकता: "लॉस अवर्जन" के कारण, कई लोगों ने वास्तव में धोखाधड़ी करने का प्रयास नहीं किया क्योंकि प्रयास बहुत कष्टदायक लगा।
- परिणाम: AI उन ईमानदार लोगों को खारिज कर देता है जिन्होंने धोखाधड़ी करने की कोशिश भी नहीं की थी, सिर्फ इसलिए क्योंकि उसे डर था कि वे शायद ऐसा कर सकते थे।
गलती 2: अंडर-डिफेंस (Under-Defense - "भोला गार्ड")
- AI सोचता है, "लोग केवल मुश्किल से पास होने लायक ही धोखाधड़ी करेंगे।" इसलिए, यह एक ऐसा बचाव सेट करता है जो छोटी धोखाधड़ी को रोकता है।
- वास्तविकता: "प्रोबेबिलिटी डिस्टॉर्शन" के कारण, कुछ लोग सोचते हैं कि उनके पास सफलता का बड़ा मौका है और वे "सब कुछ दांव पर लगाकर" पूरी ताकत से प्रयास करते हैं, जिससे वे उम्मीद से कहीं अधिक धोखाधड़ी करते हैं।
- परिणाम: AI का बचाव बहुत कमजोर होता है, और ये आक्रामक धोखेबाज आसानी से निकल जाते हैं।

4. समाधान: Pro-SF (द साइकोलॉजिस्ट AI)

लेखक एक नया फ्रेमवर्क प्रस्तावित करते हैं जिसे Pro-SF (प्रॉस्पेक्ट-गाइडेड स्ट्रैटेजिक फ्रेमवर्क) कहा जाता है। यह मानते हुए कि लोग रोबोट हैं, यह AI नहीं, बल्कि यह मानते हुए कि लोग ऊपर बताई गई तीन "त्रुटियों" वाले इंसान हैं, काम करता है।

यह कैसे काम करता है: यह AI निर्णय लेने की प्रक्रिया का अनुकरण (simulate) करने के लिए प्रॉस्पेक्ट थ्योरी (एक प्रसिद्ध मनोवैज्ञानिक सिद्धांत) का उपयोग करता है। यह पूछता है: "यदि एक इंसान प्रयास के दर्द को महसूस करता है, अपनी स्थिति के बारे में धुंधला विचार रखता है, और अपनी किस्मत को बढ़ा-चढ़ाकर देखता है, तो वह वास्तव में कैसा व्यवहार करेगा?"
उपमा: एक रोबोट सेना के लिए दीवार बनाने के बजाय, यह AI एक ऐसा घेरा बनाता है जो थके हुए, आशावादी और थोड़े भ्रमित इंसानों की भीड़ के लिए डिज़ाइन किया गया है।

5. परिणाम

लेखकों ने वास्तविक दुनिया के डेटा (जैसे क्रेडिट स्कोर और स्पैम फिल्टर) और नकली डेटा पर इस नए "साइकोलॉजिस्ट AI" का परीक्षण किया।

निष्कर्ष: जब लोगों ने वास्तविक इंसानों की तरह (पूर्वाग्रहों के साथ) व्यवहार किया, तो पुराना "रोबोट AI" बुरी तरह विफल रहा। नया "साइकोलॉजिस्ट AI" (Pro-SF) बहुत बेहतर प्रदर्शन कर रहा था।
बोनस: यहाँ तक कि जब लोगों ने "परफेक्ट रोबोट" की तरह व्यवहार किया, तब भी नया AI खराब नहीं हुआ; यह बस प्रतिस्पर्धी बना रहा।

सारांश

यह शोध पत्र कहता है: इंसानों को गणितीय समीकरण समझना बंद करें। यदि आप चाहते हैं कि आपका AI वास्तविक दुनिया में काम करे, तो आपको इस बात को ध्यान में रखना होगा कि इंसान भावनात्मक होते हैं, गणित में कच्चे होते हैं, और कभी-कभी बहुत जल्दी हार मान लेते हैं या बहुत अधिक प्रयास करते हैं। इन मानवीय विशेषताओं को समझकर, हम ऐसे सिस्टम बना सकते हैं जो अधिक निष्पक्ष और सटीक हों।

तकनीकी सारांश: तर्कसंगत भ्रम से परे: व्यवहारिक रूप से यथार्थवादी रणनीतिक वर्गीकरण (Beyond Rational Illusion: Behaviorally Realistic Strategic Classification)

1. समस्या की परिभाषा: रणनीतिक वर्गीकरण में तर्कसंगतता की सीमा

रणनीतिक वर्गीकरण (Strategic Classification - SC) निर्णय लेने वालों और उन एजेंटों के बीच की अंतःक्रिया को संबोधित करता है जो अनुकूल परिणाम प्राप्त करने के लिए अपनी अवलोकन योग्य विशेषताओं (observable features) में हेरफेर करते हैं। मौजूदा SC ढांचे तर्कसंगत-एजेंट धारणा (rational-agent assumption) पर निर्भर करते हैं, जो यह मानते हैं कि एजेंट विशेषताओं को तभी संशोधित करते हैं जब अपेक्षित लाभ स्पष्ट रूप से लागत से अधिक हो (एक बेस्ट-रिस्पॉन्स फंक्शन)।

लेखक तर्क देते हैं कि यह धारणा एक "तर्कसंगत भ्रम" (rational illusion) है जो वास्तविक दुनिया के निर्णय लेने की प्रक्रिया को पकड़ने में विफल रहती है, जो व्यवस्थित रूप से संज्ञानात्मक पूर्वाग्रहों (cognitive biases) द्वारा आकार लेती है। शोधपत्र एक ऐसे अंतराल की पहचान करता है जहाँ मानक SC मॉडल उन एजेंटों का लेखा-जोखा नहीं रख सकते जो मनोवैज्ञानिक कारकों के कारण शुद्ध तर्कसंगत उपयोगिता के अधिकतमकरण (utility maximization) से विचलित होते हैं। यह बेमेल स्थिति तैनात क्लासिफायर में दो विशिष्ट विफलता मोड की ओर ले जाती है:

अति-रक्षा (Over-defense): क्लासिफायर उन हेरफेरों का मुकाबला करने के लिए अपने निर्णय सीमा (decision boundary) को स्थानांतरित कर देता है जिन्हें एजेंट, हानि से बचने (loss aversion) या संदर्भ पूर्वाग्रह (reference bias) जैसे पूर्वाग्रहों के कारण, वास्तव में कभी नहीं करते। इसके परिणामस्वरूप 'फॉल्स नेगेटिव' (वास्तविक सकारात्मक उदाहरणों को अस्वीकार करना) प्राप्त होते हैं।
अल्प-रक्षा (Under-defense): क्लासिफायर उन हेरफेरों का अनुमान लगाने में विफल रहता है जो एजेंट तर्कसंगत मॉडलों की तुलना में अधिक आक्रामक रूप से करते हैं (जैसे, संभावना विरूपण या सफलता के अति-अनुमान के कारण), जिससे 'फॉल्स पॉजिटिव' प्राप्त होते हैं।

शोधपत्र एक नई समस्या सेटिंग को औपचारिक रूप देता है: व्यवहारिक रूप से यथार्थवादी रणनीतिक वर्गीकरण (Behaviorally Realistic Strategic Classification - BR-SC), जहाँ एजेंटों के हेरफेर शुद्ध तर्कसंगत अनुकूलन के बजाय मनोवैज्ञानिक पूर्वाग्रहों द्वारा संचालित होते हैं।

2. कार्यप्रणाली: प्रॉस्पेक्ट-गाइडेड स्ट्रैटेजिक फ्रेमवर्क (Pro-SF)

BR-SC को संबोधित करने के लिए, लेखक Pro-SF प्रस्तावित करते हैं, जो प्रॉस्पेक्ट थ्योरी (Prospect Theory) (Kahneman & Tversky, 2013) पर आधारित एक ढांचा है। एक मानक उपयोगिता फलन (utility function) के बजाय, Pro-SF एजेंट के व्यवहार को एक प्रॉस्पेक्ट-आधारित उपयोगिता फलन का उपयोग करके मॉडल करता है जो तीन प्रमुख मनोवैज्ञानिक तंत्रों को एकीकृत करता है:

हानि से बचाव (Loss Aversion): एजेंट समान लाभ की तुलना में नुकसान (प्रयास/लागत) को अधिक तीव्रता से देखते हैं। यह ढांचा एक असममित (asymmetric) वैल्यू फंक्शन का उपयोग करता है जहाँ लागत के कथित भार को बढ़ाया जाता है ( $\kappa > 1$ ), जिससे संभावित रूप से एजेंट उन लाभकारी हेरफेरों को छोड़ देते हैं जिन्हें वे एक तर्कसंगत मॉडल के तहत करते।
संदर्भ पूर्वाग्रह (Reference Bias): एजेंट परिणामों का मूल्यांकन एक पूर्ण दहलीज के बजाय एक व्यक्तिपरक संदर्भ बिंदु ( $r$ ) के सापेक्ष करते हैं। इसे एक क्वांटाइजेशन ऑपरेटर के माध्यम से मॉडल किया गया है, जो यह स्वीकार करता है कि एजेंट अक्सर मोटे तौर पर आत्म-आकलन (जैसे, सटीक मान के बजाय स्कोर रेंज का अनुमान लगाना) करते हैं।
संभावना विरूपण (Probability Distortion): एजेंट वस्तुनिष्ठ संभावनाओं को विकृत करते हैं, आमतौर पर सफलता की कम संभावनाओं को अधिक महत्व देते हैं और बड़ी संभावनाओं को कम महत्व देते हैं। इसे एक इनवर्स-S आकार वाले प्रायिकता वेटिंग फंक्शन ( $w(p)$ ) का उपयोग करके मॉडल किया गया है, जिससे एजेंट अनिश्चित अवसरों पर "जुआ" खेलते हैं या दहलीज पार करने के लिए आवश्यक प्रयास का गलत आकलन करते हैं।

फ्रेमवर्क की कार्यप्रणाली:

एजेंट मॉडल: अनुकूलित विशेषता $x'$ को प्रॉस्पेक्ट-आधारित उपयोगिता $U_P$ को अधिकतम करके निर्धारित किया जाता है, जो स्वीकृति की विकृत संभावना, संदर्भ बिंदु के सापेक्ष लाभ/हानि के असममित मूल्य और हेरफेर की लागत को जोड़ता है।
क्लासिफायर लर्निंग: निर्णय लेने वाला वाला तर्कसंगत बेस्ट-रिस्पॉन्स $b_R(x)$ के बजाय, व्यवहारिक रूप से यथार्थवादी हेरफेर फंक्शन $b_P(x)$ के विरुद्ध अपेक्षित हानि को कम करने के लिए एक क्लासिफायर को प्रशिक्षित करता है।
पैरामीटर लर्निंग: व्यवहारिक मापदंडों ( $\alpha, \beta, \kappa, \gamma$ ) को मूल और हेरफेर की गई विशेषताओं के प्रेक्षित डेटा युग्मों से मैक्सिमम लाइकलीहुड एस्टीमेशन (MLE) का उपयोग करके निकाला जाता है।

इस फ्रेमवर्क का विश्लेषण एक स्टैकेलबर्ग गेम (Stackelberg game) के रूप में किया जाता है, जहाँ लेखक मानक कॉम्पैक्टनेस स्थितियों के तहत साम्य (equilibrium) की उपस्थिति, स्थानीय स्थिरता और स्थानीय विशिष्टता को सिद्ध करते हैं।

3. मुख्य योगदान

समस्या का औपचारिकीकरण: शोधपत्र BR-SC को पेश करता है और परिभाषित करता है, जो तर्कसंगत-एजेंट धारणा की सीमाओं को औपचारिक रूप से चित्रित करता है और ओवर-डिफेंस एवं अंडर-डिफेंस को व्यवहारिक बेमेल के परिणामस्वरूप होने वाले प्राथमिक विफलता मोड के रूप में पहचानता है।
फ्रेमवर्क प्रस्ताव: यह Pro-SF का प्रस्ताव करता है, जो लॉस एवर्जन, रेफरेंस बायस और प्रोबेबिलिटी डिस्टॉर्शन को रणनीतिक वर्गीकरण स्टैकेलबर्ग गेम में एकीकृत करने वाला पहला सिद्धांत-आधारित ढांचा है।
अनुभवजन्य सत्यापन (Empirical Validation): सिंथेटिक और वास्तविक दुनिया के डेटासेट्स (Credit, Adult, Diabetes, German, Spam) पर व्यापक प्रयोग प्रदर्शित करते हैं कि Pro-SF विविध व्यवहारिक व्यवस्थाओं (पूर्णतः तर्कसंगत, गैर-तर्कसंगत और मिश्रित आबादी) में मजबूत प्रदर्शन प्राप्त करता है, जो गैर-तर्कसंगत सेटिंग्स में तर्कसंगत-आधारित बेसलाइन से बेहतर प्रदर्शन करता है और तर्कसंगत सेटिंग्स में भी प्रतिस्पर्धी बना रहता है।

4. प्रयोगात्मक परिणाम

प्रदर्शन: गैर-तर्कसंगत और मिश्रित व्यवहारिक सेटिंग्स में, Pro-SF सभी डेटासेट्स पर तर्कसंगत-आधारित मॉडलों की तुलना में लगातार बेहतर प्रदर्शन करता है। उदाहरण के लिए, क्रेडिट डेटासेट पर, तर्कसंगत-आधारित मॉडल के 69.54% की तुलना में गैर-तर्कसंगत हेरफेर के तहत Pro-SF ने 82.41% सटीकता प्राप्त की।
एब्लेशन अध्ययन (Ablation Studies): किसी भी एकल व्यवहारिक घटक (लॉस एवर्जन, रेफरेंस बायस, या प्रोबेबिलिटी डिस्टॉर्शन) को हटाने से प्रदर्शन कम हो जाता है। पाया गया कि ओवर-डिफेंस को रोकने के लिए रेफरेंस बायस सबसे महत्वपूर्ण था, जबकि अंडर-डिफेंस को कम करने के लिए प्रोबेबिलिटी डिस्टॉर्शन और लॉस एवर्जन महत्वपूर्ण थे।
संवेदनशीलता: फ्रेमवर्क हाइपरपैरामीटर्स (जैसे, लॉस एवर्जन गुणांक $\kappa$ , प्रोबेबिलिटी डिस्टॉर्शन $\gamma$ ) के विविध परिवर्तनों के प्रति मजबूती प्रदर्शित करता है, जो यह दर्शाता है कि यह प्रभावी ढंग से कार्य करने के लिए सूक्ष्म-ट्यून की गई सेटिंग्स पर निर्भर नहीं है।

5. महत्व और दावे

शोधपत्र का दावा है कि तर्कसंगत-एजेंट धारणा, हालांकि गणितीय रूप से सुविधाजनक है, अक्सर "वास्तविक दुनिया की सेटिंग्स में विफल हो जाती है।" मशीन लर्निंग और व्यवहारिक अर्थशास्त्र को जोड़कर, Pro-SF भर्ती, क्रेडिट स्कोरिंग और कॉलेज प्रवेश जैसे डोमेन में रणनीतिक क्लासिफायर तैनात करने के लिए अधिक विश्वसनीय दृष्टिकोण प्रदान करता है।

लेखक अपने कार्य को SC के एक आवश्यक परिशोधन के रूप में प्रस्तुत करते हैं ताकि उन "गैर-तर्कसंगत व्यवहारों" को संभाला जा सके जो वास्तविक दुनिया के एजेंटों की विशेषता हैं। वे दावा करते हैं कि Pro-SF एक "व्यवहार-आधारित दृष्टिकोण" प्रदान करता है जो न केवल रणनीतिक गेमिंग के खिलाफ, बल्कि उस विशिष्ट मनोवैज्ञानिक पूर्वाग्रहों के खिलाफ भी मजबूती सुनिश्चित करता है जो इस गेमिंग को संचालित करते हैं। शोधपत्र इस बात पर ध्यान देते हुए समाप्त होता है कि भविष्य का कार्य इस फ्रेमवर्क को अधिक समृद्ध और विविध परिनियोजन सेटिंग्स तक विस्तारित करेगा, लेकिन वर्तमान में मौजूदा SC डोमेन के परे कोई विशिष्ट नए अनुप्रयोग प्रस्तावित नहीं करता है।