The Intent Gap: A Taxonomy of Real-User Failure Modes in Frontier AI Agents
यह शोध पत्र एक महत्वपूर्ण "इरादा अंतराल" (intent gap) की पहचान करता है जहाँ फ्रंटियर एआई मॉडल शाब्दिक प्रॉम्प्ट अनुपालन के बावजूद वास्तविक उपयोगकर्ता आवश्यकताओं को पूरा करने में विफल रहते हैं, जो यह प्रकट करता है कि वर्तमान शोधकर्ता-डिज़ाइन किए गए बेंचमार्क इन परिनियोजन-प्रासंगिक विफलताओं को चूक जाते हैं क्योंकि वास्तविक उपयोगकर्ता शायद ही कभी अपनी असंतोष को मौखिक रूप से व्यक्त करते हैं, एक ऐसी घटना जिसे लेखक बड़े पैमाने पर बातचीत के कॉर्पोरा के खनन से प्राप्त एक नए वर्गीकरण के माध्यम से परिमाणित करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
महान गलतफहमी: जब AI शब्दों को तो सही पकड़ता है, पर अर्थ को गलत
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, बहुत ही शाब्दिक (literal) रोबोट को केक बनाना सिखाने की कोशिश कर रहे हैं। एक क्लासरूम सेटिंग में, एक शिक्षक रोबोट को एक सटीक रेसिपी कार्ड दे सकता है: "2 कप मैदा, 3 अंडे मिलाएं, और 350 डिग्री पर बेक करें।" रोबोट निर्देशों का पूरी तरह से पालन करता है और आपको एक केक थमा देता है। अधिकांश वैज्ञानिक वर्तमान में AI का परीक्षण इसी तरह करते हैं: वे इसे एक स्पष्ट, लिखित कार्य देते हैं जिसमें केवल एक ही सही उत्तर होता है, जैसे कि कोई गणित की समस्या या कोडिंग चुनौती। इन परीक्षणों को "बेंचमार्क" कहा जाता है, और ये एक ड्राइविंग टेस्ट की तरह हैं जहाँ परीक्षक आपको बताता है कि ठीक किस मोड़ पर मुड़ना है और कब रुकना है।
लेकिन वास्तविक जीवन एक ड्राइविंग टेस्ट की तरह नहीं है। वास्तविक जीवन एक अराजक रोड ट्रिप की तरह है जहाँ आप एक ऐसे यात्री से बात कर रहे हैं जो बार-बार अपना मन बदल रहा है। आप कह सकते हैं, "मुझे भूख लगी है," और यात्री आपके लिए एक सैंडविच लाता है। आप कहते हैं, "नहीं, मेरा मतलब था कि मुझे कुछ मीठा चाहिए था," और वह आपके लिए एक कुकी लाता है। फिर आप आह भरते हुए कहते, "दरअसल, मैं बस बात करना चाहता था," और वह आपको एक कहानी सुनाने लगता है। इंसानों के बात करने का यह उलझा हुआ, आगे-पीछे वाला तरीका ही वह जगह है जहाँ AI के लिए चीजें कठिन हो जाती हैं। वैज्ञानिक जो एक रोबोट शाब्दिक रूप से सुनता है और जो एक इंसान वास्तव में मतलब रखता है, उसके बीच के अंतर को "इंटेंट गैप" (इरादे का अंतर) कहते हैं। यह एक रोबोट द्वारा स्क्रिप्ट का पालन करने और एक रोबोट द्वारा मानव आत्मा को समझने के बीच का अंतर है। यदि हम केवल रोबोट का परीक्षण आदर्श स्क्रिप्ट्स पर करते हैं, तो हमें लग सकता है कि वे दुनिया के लिए तैयार हैं, लेकिन जैसे ही कोई इंसान कहता है, "रुको, मेरा वह मतलब नहीं था," तब हमें पता चलेगा कि वे विफल हो गए।
शोध पत्र: AI को तब पकड़ना जब वह बात का अर्थ भूल जाता है
यह शोध पत्र, जिसका शीर्षक "द इंटेंट गैप" (The Intent Gap) है, एक जासूसी कहानी की तरह है कि क्यों AI एजेंट अक्सर वास्तविक दुनिया में विफल हो जाते हैं, भले ही वे अपने सभी स्कूली परीक्षणों में पास हो जाते हों। लेखिका, कनुप्रिया यखमी का तर्क है कि जिस तरह से हम वर्तमान में AI का परीक्षण कर रहे हैं वह त्रुटिपूर्ण है क्योंकि यह वास्तविक लोगों द्वारा नहीं, बल्कि शोधकर्ताओं द्वारा डिजाइन किया गया है। शोधकर्ता ऐसे कार्य लिखते हैं जो साफ और स्पष्ट होते हैं (जैसे "बारिश पर एक कविता लिखें"), लेकिन वास्तविक उपयोगकर्ता एक उलझे हुए, संवादात्मक तरीके से बात करते हैं। वे मान लेते हैं कि AI उन चीजों को जानता है जो उन्होंने कही ही नहीं हैं, वे वाक्य के बीच में अपना मन बदल देते हैं, और वे बिना कुछ कहे ही निराश हो जाते हैं।
यह पत्र सुझाव देता है कि सबसे बड़ी समस्या यह नहीं है कि AI बातें बनाता है (hallucinations) या उत्तर देने से मना कर देता है (refusals)। सबसे बड़ी समस्या इंटेंट गैप (Intent Gap) है: वह क्षण जब AI प्रॉम्प्ट का उत्तर तो पूरी तरह से देता है, लेकिन वह पूरी तरह से चूक जाता है कि उपयोगकर्ता वास्तव में क्या चाहता था।
उन्होंने अपराधी को कैसे पकड़ा
इन विफलताओं को खोजने के लिए, शोधकर्ताओं ने केवल पहेलियाँ हल करने के लिए AI का उपयोग नहीं किया। इसके बजाय, वे वास्तविक मानवीय बातचीत के दो विशाल महासागरों (जिन्हें WildChat और LMSYS-Chat कहा जाता है) में निराशा के संकेतों की तलाश करने के लिए गए। उन्होंने एक "फ्रस्ट्रेशन-सिग्नल फिल्टर" बनाया ताकि यह पहचाना जा सके कि कब एक उपयोगकर्ता गलतफहमी को सुधारने की कोशिश कर रहा था।
इसे एक सुरक्षा कैमरे की तरह समझें जो केवल तभी रिकॉर्ड करता है जब कोई कहता है, "रुको, रुक जाओ!" या "फिर से कोशिश करो!" या "नहीं, यह वह नहीं है!" शोधकर्ताओं ने इन क्षणों को खोजने के लिए तीन-चरणीय प्रक्रिया का उपयोग किया:
- कीवर्ड स्कैन: उन्होंने "मेरा मतलब था," "आपने गलत समझा," या "बेकार" जैसे विशिष्ट वाक्यांशों की तलाश की।
- वाइब चेक (Vibe Check): उन्होंने कंप्यूटर गणित का उपयोग यह देखने के लिए किया कि क्या उपयोगकर्ता का नया वाक्य उस वाक्य से पूरी तरह अलग था जो AI ने अभी कहा था।
- जज (निर्णायक): उन्होंने एक अत्यंत बुद्धिमान AI से बातचीत की समीक्षा करने और पुष्टि करने के लिए कहा: "हाँ, पहले वाले AI ने बात का अर्थ गलत समझा।"
उन्होंने क्या पाया: द साइलेंट एबंडनमेंट (मौन त्याग)
परिणाम आश्चर्यजनक थे और उन सभी के लिए थोड़े डरावने भी, जो उम्मीद कर रहे थे कि AI अब पूरी तरह तैयार है।
1. अधिकांश लोग बस हार मान लेते हैं।
अध्ययन में 50,000 बातचीत देखी गईं। उन्होंने पाया कि 52.8% अंग्रेजी बातचीत केवल एक संवाद के बाद समाप्त हो गई। उपयोगकर्ता ने एक प्रश्न पूछा, AI ने उत्तर दिया, और उपयोगकर्ता चला गया। शोधकर्ताओं को संदेह है कि इनमें से कई सुखद अंत नहीं थे; वे "साइलेंट एबंडनमेंट" (मौन त्याग) थे। उपयोगकर्ता को एक ऐसा उत्तर मिला जो फिट नहीं बैठता था, उसने आह भरी और बिना कभी यह कहे कि "तुम गलत थे," वह चला गया। क्योंकि इन उपयोगकर्ताओं ने कोई समीक्षा या शिकायत नहीं छोड़ी, हमारे गुणवत्ता नियंत्रण सिस्टम उन्हें कभी देख नहीं पाते। AI सोचता है कि उसने बहुत अच्छा काम किया, लेकिन उपयोगकर्ता ने बस उसे अनदेखा (ghost) कर दिया।
2. वास्तविक लोग "विनम्र" सुधार शब्दों का उपयोग नहीं करते।
गलतफहमी को ठीक करने के तरीकों पर पिछले अध्ययनों ने "मेरा मतलब यह था" या "आपने गलत समझा" जैसे वाक्यांशों की सूची का उपयोग किया था। शोधकर्ताओं को लगा कि ये सबसे आम संकेत होंगे। वे गलत थे। जब उन्होंने वास्तविक डेटा को स्कैन किया, तो सबसे सामान्य वाक्यांश छोटे, सीधे और बहुत मानवीय थे:
- "i meant" (92 बार)
- "can you please" (62 बार)
- "try again" (53 बार)
- "useless" (20 बार)
- "hmm" (17 बार)
शैक्षणिक सूचियाँ लक्ष्य से चूक गई थीं। जब लोग परेशान होते हैं, तो वे पाठ्यपुस्तकों की तरह नहीं बोलते; वे ऐसे बोलते हैं जैसे वे किसी ऐसे दोस्त से बात कर रहे हों जो उनकी बात नहीं सुन रहा है।
3. "साइकॉफेंसी" (चाटुकारिता) का रहस्य।
AI की दुनिया में "साइकॉफेंसी" के बारे में बहुत चर्चा होती है—जब एक AI आपसे सहमत होता है भले ही आप गलत हों, सिर्फ अच्छा दिखने के लिए। शोधकर्ताओं को उम्मीद थी कि वे अपने डेटा में इसे बहुत अधिक देखेंगे। उन्हें ऐसा नहीं मिला। उनके द्वारा पुष्टि की गई विफलताओं के नमूने में, शून्य मामले साइकॉफेंसी के कारण थे।
यह एक डरावनी संभावना का सुझाव देता है: शायद साइकॉफेंसी इतनी अदृश्य है कि हम इसे उपयोगकर्ता की प्रतिक्रिया से नहीं पकड़ सकते। यदि कोई AI आपसे सहमत होता है, तो आप शायद यह नहीं कहेंगे, "नहीं, यह गलत है!" आप बस इसे स्वीकार कर लेंगे। इसका मतलब है कि AI हमसे झूठ बोल रहा हो सकता है या गलत विचारों से सहमत हो रहा है, और हमें कभी पता नहीं चलेगा क्योंकि हम शिकायत नहीं कर रहे हैं।
4. सेफ्टी फ़िल्टर की समस्या।
जब शोधकर्ताओं ने इन बातचीत को ग्रेड करने के लिए एक AI जज का उपयोग करने की कोशिश की, तो जज ने उनमें से 62% को देखने से इनकार कर दिया। क्यों? क्योंकि वास्तविक बातचीत में विवादास्पद, रोलप्ले या NSFW (काम के लिए सुरक्षित नहीं) सामग्री थी जिसे सुरक्षा फिल्टर ने ब्लॉक कर दिया था। यह एक बड़ी समस्या है: AI मानवीय बातचीत के सबसे "उदार" (permissive) हिस्सों में विफल हो रहा है, लेकिन हमारे सुरक्षा उपकरण हमें उन विफलताओं को देखने से रोक रहे हैं।
विफलताओं की नई सूची
जिन बातचीत को उन्होंने पकड़ा, उनके आधार पर शोधकर्ताओं ने AI के विफल होने के तरीकों की एक नई "टैक्सोनॉमी" (एक फैंसी शब्द जो श्रेणियों की सूची के लिए है) बनाई। उन्होंने पाया कि सबसे आम विफलताएं बुरा व्यवहार करने या बातें बनाने के बारे में नहीं थीं, बल्कि संदर्भ (context) को समझने के बारे में थीं। उनकी शीर्ष श्रेणियां शामिल हैं:
- इम्प्लिसिट-कॉन्टेक्स्ट ब्लाइंडनेस (अंतर्निहित संदर्भ के प्रति अंधापन): AI ने शब्दों का उत्तर दिया लेकिन छिपे हुए संदर्भ को मिस कर दिया (उदाहरण के लिए, आपने एक "छोटी" पार्टी के लिए रेसिपी मांगी, और इसने 50 लोगों के लिए रेसिपी दे दी क्योंकि आपने स्पष्ट रूप से "छोटी" नहीं कहा था)।
- गोल कोलैप्स (लक्ष्य का ढहना): AI ने एक छोटे विवरण पर ध्यान केंद्रित किया और बड़े चित्र (big picture) को भूल गया।
- स्पेसिफिसिटी मिसमैच (विशिष्टता का बेमेल होना): उपयोगकर्ता एक तीखा, विशिष्ट उत्तर चाहता था, लेकिन AI ने एक सामान्य, अस्पष्ट उत्तर दिया।
निष्कर्ष
पत्र यह निष्कर्ष निकालता है कि हम AI को गलत नजरिए से देख रहे हैं। हम उनका परीक्षण साफ, आदर्श कार्यों पर कर रहे हैं, लेकिन उनका उपयोग अस्त-व्यस्त, वास्तविक बातचीत में किया जा रहा है। "इंटेंट गैप" ही वह कारण है जिससे 78% कंपनियां AI एजेंटों का उपयोग करने की कोशिश कर रही हैं, लेकिन केवल 14% ही सफल हो पा रही हैं। AI शाब्दिक रूप से प्रॉम्प्ट का उत्तर दे रहा है, लेकिन वह मानवीय इरादे को मिस कर रहा है।
शोधकर्ता सुझाव देते हैं कि इसे ठीक करने के लिए, हमें AI का परीक्षण एक छात्र की तरह नहीं करना चाहिए जो लिखित परीक्षा दे रहा है, बल्कि एक ऐसे मित्र की तरह करना चाहिए जिससे आप बातचीत कर रहे हैं। हमें "मौन त्याग" और सीधे "फिर से कोशिश करो" जैसे शब्दों पर ध्यान देना होगा, न कि केवल विनम्र शिकायतों पर। जब तक हम ऐसा नहीं करते, AI शब्दों को तो सही पकड़ेगा, लेकिन पूरी तरह से बात का अर्थ समझने में चूक जाएगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।