🤖 machine learning

Learning to Decide with AI Assistance under Human-Alignment

यह शोध पत्र यह स्थापित करता है कि एआई (AI) और मानवीय विश्वास के बीच संरेखण, एआई सहायता के साथ इष्टतम निर्णय लेने सीखने की जटिलता को महत्वपूर्ण रूप से कम करता है, जो पूर्ण संरेखण के तहत बेहतर रिग्रेट बाउंड्स (regret bounds) को सैद्धांतिक रूप से प्रदर्शित करता है और वास्तविक मानव-विषय डेटा पर इन निष्कर्षों को मान्य करता है।

मूल लेखक: Nina Corvelo Benz, Eleni Straitouri, Manuel Gomez-Rodriguez

प्रकाशित 2026-05-14

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Nina Corvelo Benz, Eleni Straitouri, Manuel Gomez-Rodriguez

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक डॉक्टर हैं जो यह तय करने की कोशिश कर रहे हैं कि किसी मरीज को एक विशिष्ट उपचार देना है या नहीं। आपके पास मरीज की स्थिति के बारे में अपनी एक अंतरात्मा की आवाज (आपकी मानवीय धारणा/human confidence) है, और आपके पास एक AI सहायक भी है जो डेटा का विश्लेषण करता है और एक भविष्यवाणी के साथ एक "कॉन्फिडेंस स्कोर" (AI की AI confidence) देता है।

बड़ा सवाल यह है: आप AI पर भरोसा करना कैसे सीखते हैं?

यह शोध पत्र इस बात की पड़ताल करता है कि क्या होता है जब आप और AI एक ही पृष्ठ पर होते हैं बनाम जब आप अलग-अलग पृष्ठों पर होते हैं। लेखक गणित और वास्तविक दुनिया के प्रयोगों का उपयोग करके दिखाते हैं कि यदि AI का आत्मविश्वास और आपका आत्मविश्वास पूरी तरह से "मेल खाता" है, तो आप बहुत तेजी से बेहतर निर्णय लेना सीख सकते हैं।

यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) के माध्यम से विवरण दिया गया है:

1. समस्या: "ट्रस्ट गैप" (विश्वास की खाई)

कल्पना कीजिए कि आप एक खेल खेल रहे हैं जहाँ आपको अनुमान लगाना है कि कार्ड लाल है या काला।

आपके पास एक अहसास है: "मुझे 70% यकीन है कि यह लाल है।"
AI कहता है: "मुझे 90% यकीन है कि यह लाल है।"

अतीत में, शोधकर्ताओं ने पाया है कि लोग अक्सर इस बात को लेकर संघर्ष करते हैं कि उन्हें AI की बात कब सुननी चाहिए। यदि AI कहता है "90% यकीन है" लेकिन आप महसूस करते हैं "70% यकीन है," तो क्या आप AI का अनुसरण करेंगे? क्या आप इसे अनदेखा करेंगे? या क्या आप बीच का रास्ता अपनाएंगे?

यह शोध पत्र तर्क देता है कि सही चुनाव करने को सीखने की कठिनाई एक मिसमैच (बेमेल) से आती है। यदि AI के आत्मविश्वास के स्तर आपकी अपनी भावनाओं की "भाषा" नहीं बोलते हैं, तो आपको सही नियम खोजने के लिए हजारों संयोजनों को आज़माना होगा। यह एक रेडियो को ट्यून करने जैसा है जब स्टेशन थोड़ा ऑफ-फ्रीक्वेंसी पर हो; आपको स्पष्ट सिग्नल पाने के लिए डायल के साथ बहुत देर तक छेड़छाड़ करनी पड़ती है।

2. समाधान: "परफेक्ट अलाइनमेंट" (पूर्ण तालमेल)

लेखक परफेक्ट अलाइनमेंट को एक ऐसी स्थिति के रूप में परिभाषित करते हैं जहाँ AI का आत्मविश्वास और आपका आत्मविश्वास पूर्ण तालमेल में चलते हैं।

यदि आप "बहुत कम" आत्मविश्वास में हैं, तो AI भी "कम" है।
यदि आप "बहुत उच्च" आत्मविश्वास में हैं, तो AI भी "उच्च" है।

तालमेल का जादू:
जब यह तालमेल मौजूद होता है, तो समस्या अविश्वसनीय रूप से सरल हो जाती। हर उस संयोजन के लिए एक जटिल चार्ट याद करने के बजाय जो आपकी भावनाओं और AI के नंबरों का मिश्रण है, आपको केवल एक सरल नियम सीखना होगा:

"यदि AI का कॉन्फिडेंस स्कोर एक विशिष्ट थ्रेशोल्ड (सीमा) से अधिक है, तो मैं AI का अनुसरण करूँगा। यदि यह कम है, तो मैं अपने अंतर्मन (gut) पर भरोसा करूँगा।"

यह शोध पत्र सिद्ध करता है कि जब यह तालमेल पूर्ण होता है, तो "लर्निंग कर्व" (सीखने की गति) सपाट हो जाता है। आप बहुत तेजी से इष्टतम (optimal) निर्णय लेने के बिंदु पर पहुँच जाते हैं।

3. गणित (बिना गणित के)

लेखकों ने इसे एक सीखने के खेल के रूप में माना।

अलाइनमेंट के बिना: उन्होंने दिखाया कि सीखने के दौरान आपके द्वारा की जाने वाली गलतियों की संख्या उन सभी संभावित कॉन्फिडेंस लेवल्स के वर्गमूल (square root) के साथ बढ़ती है जो आपके और AI के पास हो सकते हैं। यदि आपके पास आत्मविश्वास महसूस करने के कई तरीके हैं और AI के पास आत्मविश्वास व्यक्त करने के कई तरीके हैं, तो सीखने की प्रक्रिया धीमी और अव्यवस्थित होती है।
अलाइनमेंट के साथ: उन्होंने सिद्ध किया कि यदि AI और मानव संरेखित (aligned) हैं, तो जटिलता काफी कम हो जाती है। सीखने की प्रक्रिया उतनी ही कुशल हो जाती है जितनी कि घास के ढेर में सुई ढूंढना।

उन्होंने यह दिखाने के लिए एक प्रसिद्ध सांख्यिकीय उपकरण (Dvoretzky-Kiefer-Wolfowitz inequality) का उपयोग किया कि अलाइनमेंट के साथ, आप अपने सीखने का सामान्यीकरण (generalize) कर सकते हैं। यह साइकिल चलाने सीखने जैसा है: एक बार जब आप संतुलन (balance) समझ लेते हैं, तो आपको हर नई सड़क के लिए संतुलन फिर से सीखने की आवश्यकता नहीं होती है।

4. वास्तविक दुनिया के परीक्षण

लेखकों ने केवल गणित नहीं किया; उन्होंने दो अध्ययनों से प्राप्त वास्तविक डेटा के साथ इसका परीक्षण किया:

कार्ड गेम: लोगों ने AI की मदद से कार्ड के परिणामों का अनुमान लगाने का खेल खेला।
वास्तविक कार्य: लोगों ने AI की सहायता से कला के कालखंडों (art periods) की पहचान करने, कटाक्ष (sarcasm) का पता लगाने, या अमेरिकी शहरों का अनुमान लगाने जैसे कार्य किए।

परिणाम:
भले ही इन अध्ययनों में AI और मनुष्य पूरी तरह से संरेखित (aligned) नहीं थे (अर्थात "रेडियो" पूरी तरह से ट्यून नहीं था), फिर भी लेखकों द्वारा डिज़ाइन किया गया एल्गोरिदम मानक तरीकों की तुलना में बेहतर काम करता था।

मुख्य बात: एक कमजोर रूप का अलाइनमेंट भी मदद करता है। आपको पूर्ण मिलान की आवश्यकता नहीं है, लेकिन मिलान जितना करीब होगा, निर्णय लेने वाला व्यक्ति उतना ही तेजी से और सटीक रूप से AI पर भरोसा करना सीखेगा।

सारांश

AI को एक को-पायलट (सह-पायलट) के रूप में और खुद को पायलट के रूप में सोचें।

खराब अलाइनमेंट: को-पायलट एक अलग भाषा बोलता है। आप नियंत्रणों (controls) के बारे में बहस करने, गलतियाँ करने और धीरे-धीरे सीखने में अपना सारा समय बिता देते हैं।
अच्छा अलाइनमेंट: को-पायलट आपकी भाषा बोलता है। आप जल्दी सीख जाते हैं कि "जब को-पायलट 'हाई कॉन्फिडेंस' कहता है, तो हम बाईं ओर मुड़ते हैं।" आप इष्टतम पथ को जल्दी सीखते हैं और कम गलतियाँ करते हैं।

शोध पत्र निष्कर्ष निकालता है कि AI द्वारा आत्मविश्वास व्यक्त करने के तरीके को इस बात के साथ संरेखित करना कि मनुष्य अपने स्वयं के निर्णयों के बारे में कैसा महसूस करते हैं, AI-सहायता प्राप्त निर्णय लेने को वास्तव में प्रभावी बनाने की कुंजी है।

तकनीकी सारांश: मानव-संरेखण के तहत AI सहायता के साथ निर्णय लेना सीखना

समस्या का निरूपण
यह शोध पत्र उन उच्च-जोखिम वाले क्षेत्रों में इष्टतम निर्णय नीतियों को सीखने की चुनौती को संबोधित करता है जहाँ मानव निर्णय लेने वालों को AI मॉडलों द्वारा सहायता प्रदान की जाती है। यह परिवेश बाइनरी भविष्यवाणियों (binary predictions) और बाइनरी निर्णयों (binary decisions) द्वारा परिभाषित है। प्रत्येक इंटरेक्शन $t$ में, एक निर्णय लेने वाला एक फीचर वेक्टर $(x, v)$ , एक क्लासिफायर की भविष्यवाणी $\hat{y}$ , और क्लासिफायर के आत्मविश्वास (confidence) $b \in B$ (जहाँ $B \subseteq [0, 1]$ ) को देखता है। निर्णय लेने वाले के पास लेबल $y=1$ के संबंध में एक व्यक्तिगत आत्मविश्वास $h \in H$ भी होता है, जहाँ $H$ एक परिमित (finite), पूर्णतः क्रमित (totally ordered) असतत सेट है। लक्ष्य एक नीति $\pi(h, b) \in \{0, 1\}$ सीखना है जो अपेक्षित उपयोगिता (expected utility) $u(a, y)$ को अधिकतम करती है, यह मानते हुए कि उपयोगिता तब अधिक होती है जब निर्णय $a$ वास्तविक लेबल $y$ से मेल खाता है।

मुख्य कठिनाई केवल AI के सूचित आत्मविश्वास के आधार पर विश्वास को प्रभावी ढंग से नियंत्रित करने में निर्णय लेने वाले की अक्षमता है। पूर्व कार्य (Corvelo Benz और Gomez-Rodriguez, 2023, 2025) सुझाव देते हैं कि AI के आत्मविश्वास और मानव के आत्मविश्वास के बीच "संरेखण" (alignment) की डिग्री AI-सहायता प्राप्त निर्णय लेने की उपयोगिता को महत्वपूर्ण रूप से प्रभावित करती है। हालांकि, यह अनसुलझा रहा कि यह संरेखण बार-बार होने वाली अंतःक्रियाओं के माध्यम से एक इष्टतम नीति सीखने की जटिलता को किस प्रकार प्रभावित करता है।

कार्यप्रणाली और सैद्धांतिक ढांचा
लेखक AI सहायता के साथ निर्णय लेने को सीखने की समस्या को एक पूर्ण फीडबैक वाले टू-आर्म्ड ऑनलाइन कॉन्टेक्स्टुअल लर्निंग (two-armed online contextual learning) समस्या के रूप में फ्रेम करते हैं।

कॉन्टेक्स्ट (Context): आत्मविश्वास मूल्यों का जोड़ा $(h_t, b_t)$ ।
आर्म्स (Arms): बाइनरी निर्णय $a \in \{0, 1\}$ ।
फीडबैक (Feedback): पूर्ण फीडबैक उपलब्ध है क्योंकि लेबल $y_t$ दिए जाने पर, निर्णय लेने वाला दोनों संभावित कार्यों के लिए उपयोगिता की गणना कर सकता है।

यह शोध पत्र सामान्य मामले (बिना संरेखण धारणा के) में किसी भी लर्नर के लिए अपेक्षित रिग्रेट (expected regret) पर एक निचली सीमा (lower bound) स्थापित करता है और फिर पूर्ण संरेखण (perfect alignment) की धारणा के तहत जटिलता का विश्लेषण करता है। पूर्ण संरेखण को इस प्रकार परिभाषित किया गया है कि किसी भी $h < h'$ और $b < b'$ के लिए, $P(Y=1 | H=h, B=b)$ की सशर्त प्रायिकता आत्मविश्वास स्तरों के संबंध में गैर-बढ़ती (non-increasing) है।

मुख्य योगदान और परिणाम

सामान्य निचली सीमा (General Lower Bound):
लेखक सिद्ध करते हैं कि बिना संरेखण धारणा के, किसी भी लर्नर के लिए अपेक्षित रिग्रेट $E[R(T)]$ के लिए निचली सीमा $\Omega(\sqrt{|H| \cdot |B| \cdot T})$ है। यह इंगित करता है कि सीखने की जटिलता मानव और AI आत्मविश्वास सेट के आकार के गुणनफल के साथ बढ़ती है।
पूर्ण संरेखण के तहत रिग्रेट में कमी:
पूर्ण संरेखण की धारणा के तहत, इष्टतम नीति $\pi^*$ को AI आत्मविश्वास $b$ पर एक थ्रेशोल्ड फंक्शन (threshold function) के रूप में दिखाया गया है, जहाँ थ्रेशोल्ड $b^*(h)$ , मानव आत्मविश्वास $h$ पर निर्भर करता है।

एल्गोरिदम: लेखक एक ऑनलाइन लर्निंग एल्गोरिदम (एल्गोरिदम 1) प्रस्तावित करते हैं जो इन थ्रेशोल्ड्स को सीखता है। यह समस्या को $|H|$ स्वतंत्र मल्टी-आर्म्ड बैंडिट समस्याओं के रूप में मानता (प्रत्येक मानव आत्मविश्वास स्तर के लिए एक), जहाँ "आर्म्स" $B$ में संभावित थ्रेशोल्ड्स हैं।
रिग्रेट बाउंड 1: थ्रेशोल्ड्स के संबंध में यूनिफॉर्मली अनुमान त्रुटियों को बांधने के लिए ड्वोरेट्स्की-कीफर-वोल्फविट्ज़ (DKW) असमानता का उपयोग करते हुए, एल्गोरिदम $O(\sqrt{|H| \cdot T \log T})$ का अपेक्षित रिग्रेट प्राप्त करता है। विशेष रूप से, यह बाउंड AI आत्मविश्वास सेट $|B|$ के आकार से स्वतंत्र है।
रिग्रेट बाउंड 2: जब $\sqrt{|H|} = O(\log T)$ हो और $B$ गणनीय (countable) हो, तो लेखक थ्रेशोल्ड नीतियों के लिए DKW असमानता का एक गैर-तुच्छ सामान्यीकरण प्राप्त करते हैं। यह समस्या को $|H|$ स्वतंत्र थ्रेशोल्ड्स के बजाय एक एकल फलन $\ell: H \to B$ सीखने के रूप में पुनर्गठित करने की अनुमति देता है। यह रिग्रेट बाउंड को $O(\sqrt{T} \log T)$ में सुधारता है, जिससे $|H|$ और $|B|$ दोनों पर निर्भरता समाप्त हो जाती है।

अपूर्ण संरेखण के प्रति मजबूती (Robustness to Imperfect Alignment):
यह शोध पत्र सैद्धांतिक रूप से प्रदर्शित करता है कि यदि पूर्ण संरेखण लागू नहीं होता है, तो अपूर्ण संरेखण की डिग्री (जिसे मैक्सिमम एलाइनमेंट एरर, MAE द्वारा मापा जाता है) सीखी गई नीति की उपयोगिता और इष्टतम नीति के बीच के अंतर को सीमित करती है। विशेष रूप से, सीखी गई नीति निकट-इष्टतम (near-optimal) होती है, जिसका प्रदर्शन अंतराल MAE के साथ रैखिक रूप से स्केल करता है।

प्रायोगिक सत्यापन
सैद्धांतिक निष्कर्षों को दो मानव-विषय अध्ययनों के वास्तविक डेटा का उपयोग करके सत्यापित किया गया है:

ह्यूमन-एलाइनमेंट डेटासेट (Corvelo Benz और Gomez-Rodriguez, 2025): प्रतिभागियों ने विभिन्न समूहों में AI-मानव आत्मविश्वास संरेखण के अलग-अलग स्तरों के साथ एक कार्ड गेम में परिणामों की भविष्यवाणी की।
ह्यूमन-AI इंटरैक्शन डेटासेट (Vodrahalli et al., 2022a): प्रतिभागियों ने AI सहायता के साथ बाइनरी क्लासिफिकेशन कार्यों (Art, Sarcasm, Cities, Census) को किया।

परिणाम:

प्रस्तावित एल्गोरिदम (एल्गोरिदम 1) ने सभी समूहों और कार्यों में एक वेनिला कॉन्टेक्स्टुअल ऑनलाइन लर्निंग बेसलाइन (एल्गोरिदम 2) की तुलना में लगातार कम अनुभवजन्य औसत रिग्रेट (empirical average regret) प्राप्त किया, सिवाय 'Census' कार्य के जहाँ मोनोटोनिसिटी (monotonicity) का उल्लंघन हुआ था।
परिणाम पुष्टि करते हैं कि भले ही पूर्ण संरेखण सख्ती से मौजूद न हो, फिर भी पूर्ण संरेखण की धारणा बिना किसी धारणा के बनाने की तुलना में बेहतर प्रदर्शन देती है, बशर्ते कि संरेखण का एक कमजोर सिद्धांत (B के संबंध में $P(Y=1|H, B)$ की मोनोटोनिसिटी) बना रहे।

महत्व
यह शोध पत्र दावा करता है कि AI और मानव आत्मविश्वास के बीच संरेखण AI सहायता के साथ निर्णय लेने के सीखने की जटिलता को मौलिक रूप से कम कर सकता है। संरेखण द्वारा प्रेरित संरचनात्मक गुणों (विशेष रूप से, इष्टतम नीति की थ्रेशोल्ड प्रकृति) का लाभ उठाकर, लर्नर्स ऐसे अधिक टाइट रिग्रेट बाउंड प्राप्त कर सकते हैं जो AI के आत्मविश्वास आउटपुट की सूक्ष्मता (granularity) से स्वतंत्र होते हैं। यह सुझाव देता है कि AI सिस्टम को मानव अंतर्ज्ञान के साथ संरेखित आत्मविश्वास मेट्रिक्स के साथ डिजाइन करना न केवल एक उपयोगिता विशेषता है, बल्कि बार-बार होने वाली अंतःक्रियाओं में इष्टतम निर्णय नीतियों के सीखने की गति को बढ़ाने का एक तंत्र है।

1. समस्या: "ट्रस्ट गैप" (विश्वास की खाई)

2. समाधान: "परफेक्ट अलाइनमेंट" (पूर्ण तालमेल)

3. गणित (बिना गणित के)

4. वास्तविक दुनिया के परीक्षण

सारांश

इसी तरह के और पेपर