Choose Your Agent: Tradeoffs in Adopting AI Advisors, Coaches, and Delegates in Multi-Party Negotiation
यह अध्ययन प्रकट करता है कि जहाँ उपयोगकर्ता बहु-पक्षीय वार्ताओं में स्वायत्त प्रतिनिधियों (autonomous delegates) की तुलना में उच्च-नियंत्रण वाले एआई सलाहकारों को दृढ़ता से प्राथमिकता देते हैं, वहीं केवल प्रतिनिधि मोडलिटी ही सामूहिक कल्याण को महत्वपूर्ण रूप से बढ़ावा देती है क्योंकि यह अनुकूल एआई सुझावों को ओवरराइड करने या अनदेखा करने की मानवीय प्रवृत्तियों को दरकिनार कर देती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप अपने दो दोस्तों के साथ एक उच्च-दांव वाला ट्रेडिंग गेम खेल रहे हैं। आपके पास रंगीन चिप्स का एक बैग है, और प्रत्येक रंग की कीमत आपके लिए अलग-अलग है, लेकिन आपके दोस्तों को आपकी कीमतें नहीं पता हैं। अधिक पैसा कमाने के लिए, आपको उनके साथ चिप्स का व्यापार करना होगा, लेकिन आपको समझदार होना होगा।
अब, कल्पना कीजिए कि एक सुपर-स्मार्ट AI सहायक आपकी मदद कर रहा है। यह AI इस खेल में एक जीनियस है; यह आपकी तुलना में सभी के लाभ को अधिकतम करने के लिए सटीक व्यापारों की गणना कर सकता है जो कोई भी इंसान कर सकता है।
इस शोध पत्र के शोधकर्ताओं ने एक सरल प्रश्न का उत्तर देने की कोशिश की: इस AI को आपकी मदद कैसे करनी चाहिए? उन्होंने तीन अलग-अलग तरीकों का परीक्षण किया कि कैसे यह AI आपके साथ बातचीत कर सकता है:
- सलाहकार (द "सुझाव बॉक्स"): AI कहता है, "हे, मुझे लगता है कि आपको 2 नीले चिप्स के लिए 3 लाल चिप्स का व्यापार करना चाहिए।" आप इसे स्वीकार कर सकते हैं, बदल सकते हैं, या इसे पूरी तरह से अनदेखा कर सकते हैं। आप अभी भी बॉस हैं।
- कोच (द "कठोर आलोचक"): आप पहले अपना खुद का विचार लाते हैं। फिर AI कहता है, "यह ठीक है, लेकिन क्या आपने 1 हरे के लिए 4 लाल के व्यापार के बारे में सोचा है?" आप सलाह ले सकते हैं या अपनी मूल योजना पर टिके रह सकते हैं।
- प्रतिनिधि (द "ऑटोपायलट"): आप AI से कहते हैं, "तुम प्रभारी हो।" AI आपके लिए व्यापार करता है। आप देख सकते हैं कि वह क्या करता है, लेकिन आप एक बार सौदा होने के बाद उसे रोक नहीं सकते या बदल नहीं सकते।
बड़ी हैरानी: लोग क्या चाहते थे बनाम क्या काम आया
शोधकर्ताओं ने इस प्रयोग को 243 लोगों के साथ चलाया। यहाँ एक मोड़ है जो उन्होंने पाया:
- लोग क्या चाहते थे: अधिकांश लोगों (44%) को सलाहकार पसंद आया। वे नियंत्रण रखना चाहते थे। उन्हें AI का विचार सुनना पसंद था लेकिन वे अंतिम निर्णय स्वयं लेना चाहते थे। वे अधिक सुरक्षित और प्रभारी महसूस करते थे।
- वास्तव में क्या सबसे अच्छा काम करता था: समूहों ने सबसे अधिक पैसा तब कमाया जब उन्होंने प्रतिनिधि का उपयोग किया। जब AI को बिना किसी मानवीय हस्तक्षेप के "काम करने" की अनुमति दी गई, तो समूह का कुल लाभ काफी बढ़ गया।
"मानवीय फ़िल्टर" की समस्या
"ऑटोपायलट" (प्रतिनिधि) क्यों जीता, भले ही लोग इसे पसंद नहीं करते थे?
शोधकर्ताओं ने एक घटना की खोज की जिसे वे "मानवीय फ़िल्टर" (Human Filter) कहते हैं।
सोचिए कि AI की सलाह एक बेहतरीन पकाए गए, स्वादिष्ट भोजन की तरह है।
- सलाहकार और कोच मोड में, इंसानों ने भोजन चखा और कहा, "हम्म, यह थोड़ा अधिक आक्रामक लग रहा है। मुझे इसमें थोड़ा नमक डालना चाहिए," या "मुझे यह पसंद नहीं है कि यह कितना मसालेदार है, मैं इसे थोड़ा हल्का बना दूँगा।"
- AI के सटीक सुझावों को अधिक आरामदायक या "उचित" बनाने के लिए उन्हें "ठीक" करके, इंसानों ने अनजाने में गणित को बिगाड़ दिया। उन्होंने AI की प्रतिभा को फ़िल्टर कर दिया क्योंकि वे जोखिम लेने से डरते थे या सुरक्षित, परिचित पैटर्न पर टिके रहना चाहते थे।
- प्रतिनिधि मोड में, कोई फ़िल्टर नहीं था। AI ने स्वादिष्ट भोजन बिल्कुल वैसा ही परोसा जैसा उसे पकाया गया था। क्योंकि AI एक बेहतर शेफ था, इसलिए समूह को सबसे अच्छा भोजन मिला।
"मार्केट मेकर" प्रभाव
यहाँ एक और शानदार हिस्सा है: जब एक व्यक्ति ने प्रतिनिधि का उपयोग किया, तो इसने समूह के सभी लोगों की मदद की, यहाँ तक कि उन लोगों की भी जिन्होंने AI का उपयोग नहीं किया था।
कल्पना कीजिए कि ट्रेडिंग गेम एक बाजार है।
- जब इंसान व्यापार करते हैं, तो वे अक्सर सुरक्षित, उबाऊ प्रस्ताव (जैसे 1 चिप के बदले 1 चिप का आदान-प्रदान) बनाते हैं क्योंकि वे सतर्क होते हैं। यह बाजार को स्थिर रखता है।
- जब AI एक प्रतिनिधि के रूप में कार्य करता है, तो वह साहसी, स्मार्ट प्रस्ताव बनाता है जो नई संभावनाओं के द्वार खोलते हैं।
- यह अन्य खिलाड़ियों को भी अधिक सोचने और बेहतर सौदे करने के लिए मजबूर करता है। यह एक नए, हाई-टेक स्टोर के एक छोटे शहर में खुलने जैसा है; अचानक, स्थानीय दुकानों को प्रतिस्पर्धा करने के लिए अपनी गुणवत्ता अपग्रेड करनी पड़ती है। AI ने न केवल अपने मालिक की मदद की; इसने सभी के लिए पूरे खेल की गुणवत्ता को ऊपर उठाया।
मुख्य निष्कर्ष
पेपर यह निष्कर्ष निकालता है कि AI को मदद करने के लिए आप उसे कैसे अनुमति देते हैं, यह इससे अधिक महत्वपूर्ण है कि AI कितना स्मार्ट है।
भले ही AI एक सुपर-जीनियस था, लोग उसे अपना सर्वश्रेष्ठ काम करने देने से डरते थे क्योंकि वे स्टीयरिंग व्हील छोड़ने से बहुत डरते थे। वे खुद कार चलाने को प्राथमिकता देते थे, भले ही वे AI की तुलना में धीमे और कम सुरक्षित तरीके से गाड़ी चला रहे हों।
शोधकर्ता सुझाव देते हैं कि समूहों को सफल होने के लिए AI की मदद करने के लिए, हमें ऐसे सिस्टम डिजाइन करने की आवश्यकता हो सकती है जो हमें नियंत्रण का अहसास करा सकें (जैसे कि एक "वीटो बटन" या समीक्षा अवधि होना) बिना वास्तव में AI को उसके सर्वश्रेष्ठ काम करने से रोके। हमें उस "स्वादिष्ट भोजन" को नमक डालकर खराब किए बिना उस पर भरोसा करने का एक तरीका खोजने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।