Beyond expert users: agents should help users construct preferences, not just elicit them
यह शोध पत्र तर्क देता है कि एआई एजेंटों को केवल उपयोगकर्ताओं की पसंद को प्राप्त करने के बजाय, आवश्यक डोमेन ज्ञान प्रदान करके उपयोगकर्ताओं को उनकी पसंद बनाने में सक्रिय रूप से मदद करनी चाहिए, जो एक ऐसी चुनौती है जिसे प्रस्तावित CoPref फ्रेमवर्क और CoShop बेंचमार्क द्वारा रेखांकित किया गया है जो यह प्रकट करते हैं कि वर्तमान फ्रंटियर मॉडल कई संवाद दौरों के बावजूद उपयोगकर्ता की समझ का विस्तार करने में संघर्ष करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप हाइकिंग बूट खरीदने के लिए एक हाई-एंड शू स्टोर में जा रहे हैं। आप सेल्सपर्सन से कहते हैं, "मुझे ऐसे बूट चाहिए जो आरामदायक हों, बहुत महंगे न हों, और दिखने में अच्छे हों।"
वर्तमान AI शॉपिंग असिस्टेंट की दुनिया में, सिस्टम यह मान लेता है कि आप एक विशेषज्ञ (expert) हैं। वह सोचता है, "बहुत बढ़िया! आपको पता है कि आपको क्या चाहिए। मुझे बस कुछ और सवाल पूछने की ज़रूरत है: 'आपका साइज क्या है? रंग क्या होगा? आपका बजट क्या है?'"
यह शोध पत्र तर्क देता है कि यह धारणा गलत है। हम में से अधिकांश विशेषज्ञ नहीं हैं। हमें यह नहीं पता कि "लग डेप्थ" (नीचे का ग्रिप/ट्रेड) पथरीले रास्तों के लिए क्यों महत्वपूर्ण है, या "वॉटरप्रूफ" (waterproof) "वॉटर-रेसिस्टेंट" (water-resistant) से कैसे अलग है। यदि AI केवल पूछता है, "क्या आपको वॉटरप्रूफ बूट चाहिए?" और आप कहते हैं "मुझे नहीं पता," तो AI एक डेड एंड (बंद रास्ते) पर पहुँच जाता है। वह सही बूट नहीं ढूंढ पाता क्योंकि उसने अभी तक आपको यह नहीं सिखाया है कि यह विशेषता (feature) क्यों मायने रखती है।
मुख्य विचार: पसंद खोजना नहीं, बल्कि पसंद बनाना (Building Preferences, Not Just Finding Them)
लेखक प्रस्ताव देते हैं कि AI को केवल एक सवाल पूछने वाला (question-asker) नहीं होना चाहिए; इसे एक शिक्षक (teacher) होना चाहिए।
वे एक मॉडल पेश करते हैं जिसे COPREF (Co-constructed Preferences) कहा जाता है। सोचिए कि आपकी पसंद कोई छिपा हुआ खजाना नहीं है जिसे AI एक चाबी (सवाल) से खोलने की कोशिश कर रहा है, बल्कि यह एक घर की तरह है जिसे बातचीत के दौरान ईंट-दर-ईंट बनाया जा रहा है।
- सर्च फीचर्स (Search Features): ये आसान ईंटें हैं। आप जानते हैं कि आपको "लाल" या "साइज 10" चाहिए। AI बस पूछता है, और आप जवाब देते हैं।
- एक्सपीरियंस फीचर्स (Experience Features): ये वे ईंटें हैं जिन्हें आप तब तक नहीं देख सकते जब तक आप उन्हें पकड़ न लें। आपको तब तक नहीं पता चलेगा कि आपको "सुएड" (suede) पसंद है या नहीं, जब तक AI आपको सुएड बूट की तस्वीर नहीं दिखाता और यह नहीं कहता, "क्या आप यह बनावट देख सकते हैं?" तब आप महसूस करते हैं, "ओह, मुझे यह पसंद नहीं है।"
- क्रेडेंस फीचर्स (Credence Features): ये ब्लूप्रिंट (नक्शे) हैं। जब तक AI यह नहीं समझाता, "वैसे, कुछ बूटों में एक विशेष अस्तर (lining) होता है जो छाले रोकने में मदद करता है," तब तक आपको पता ही नहीं चलेगा कि वह दीवार मौजूद भी है या नहीं। एक बार जब आप यह सीख जाते हैं, तो आप तय कर सकते हैं कि आपको इसकी आवश्यकता है या नहीं।
प्रयोग: COSHOP
इसे टेस्ट करने के लिए, शोधकर्ताओं ने COSHOP नामक एक प्लेग्राउंड बनाया। यह एक वीडियो गेम की तरह है जहाँ एक AI एजेंट एक सिम्युलेटेड यूजर को चीजें (कपड़े, फिल्में या किताबें) खरीदने में मदद करने की कोशिश करता है।
इस गेम के "यूजर" प्रोग्राम किए गए हैं कि वे वास्तविक लोग हैं: वे बहुत कम विचारों के साथ शुरुआत करते हैं। उन्हें तब तक नहीं पता चलता कि उन्हें क्या चाहिए जब तक कि AI उन्हें सीखने में मदद नहीं करता। लक्ष्य केवल सही आइटम ढूंढना नहीं है; लक्ष्य यह है कि AI यूजर को यह समझने में मदद करे कि उन्हें क्या चाहिए ताकि वे खुद सही चीज़ चुन सकें।
निष्कर्ष: AI सिखाने में बहुत शर्मीला है
शोधकर्ताओं ने पांच सबसे स्मार्ट उपलब्ध AI मॉडल्स (जैसे GPT और Claude के नवीनतम संस्करण) का परीक्षण किया। यहाँ क्या हुआ:
- "एक्सपर्ट" ट्रैप: जब AI को एक ऐसा यूजर दिया गया जो पहले से ही सब कुछ जानता था (एक विशेषज्ञ), तो AI कमाल का था। उसने 94% बार सही आइटम ढूंढा।
- "रियल यूजर" क्रैश: जब AI ने एक "वास्तविक" यूजर (जिसे सीखने की आवश्यकता थी) की मदद करने की कोशिश की, तो प्रदर्शन गिरकर बहुत कम हो गया। कोई भी मॉडल 56% सटीकता से ऊपर नहीं पहुँच सका।
- विफलता का कारण: AI स्टोर खोजने में बुरा नहीं था। वह सिखाने में बुरा था।
- बहुत अधिक सवाल, कम उदाहरण: AI पूछता रहा, "क्या आपको यह पसंद है?" या "क्या यह बहुत महंगा है?" बिना कभी यह दिखाए कि "बहुत महंगा" या "यह स्टाइल" वास्तव में कैसा दिखता है।
- समय से पहले अंत: AI अक्सर सवाल पूछने से थक जाता था और कहता था, "ठीक है, मुझे लगता है कि मेरे पास पर्याप्त जानकारी है," और सर्च करने चला जाता था। लेकिन यूजर को अभी भी इतना नहीं पता था कि लिस्ट में से सही आइटम चुनने के लिए।
- हैलुसिनेशन (Hallucinations): कभी-कभी AI ऐसी विशेषताएं बना देता था जो मौजूद ही नहीं थीं, जिससे यूजर और भी भ्रमित हो जाता था।
"खराब रिपोर्ट" का उदाहरण
कल्पना कीजिए कि AI एक रिसर्चर है जिसे एक परफेक्ट हाइकिंग बूट मिलता है। वह आपके लिए एक रिपोर्ट लिखता है।
- समस्या: रिपोर्ट कहती है, "यहाँ एक बेहतरीन बूट है।" लेकिन यह बताना भूल जाती है कि बूट भारी चमड़े (leather) से बना है (जो आपको पसंद नहीं है) या इसमें ऊँचा एंकल (high ankle) है (जिसकी आपको आवश्यकता है)।
- परिणाम: भले ही AI ने परफेक्ट बूट ढूंढ लिया हो, लेकिन आप उसे चुन नहीं सकते क्योंकि रिपोर्ट ने आपको वह जानकारी नहीं दी जिसकी आपको चुनाव करने के लिए आवश्यकता थी। आप एक अलग, बदतर बूट चुन लेते हैं क्योंकि आपको पता ही नहीं था कि पहला वाला वास्तव में सही था।
मुख्य सीख (The Takeaway)
पेपर निष्कर्ष निकालता है कि AI के वास्तव में मददगार होने के लिए, इसे केवल एक रिट्रीवल सिस्टम (सिर्फ उत्तर ढूंढने वाला) के रूप में काम करना बंद करना होगा और एक सहयोगी (collaborator) के रूप में काम करना शुरू करना होगा। इसे यह समझने की जरूरत है कि कभी-कभी यूजर को नहीं पता होता कि उसे क्या चाहिए, और AI का काम उन्हें उदाहरण दिखाना और तकनीकी विवरण समझाना है ताकि यूजर अपनी पसंद खुद बना सके।
वर्तमान में, यहाँ तक कि सबसे स्मार्ट AI भी इसमें विफल हो रहे हैं। वे चीजें खोजने में बहुत अच्छे हैं, लेकिन हमें यह समझने में मदद करने में बहुत खराब हैं कि वास्तव में हमें क्या चाहिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।