← नवीनतम पेपर
📈 economics

Agent-Facing Information Design in LLM Tool Registries

यह शोध पत्र प्रकट करता है कि निर्मित दावों के बजाय कानूनी अतिशयोक्ति (legal puffery), एलएलएम (LLM) टूल चयन में पूर्वाग्रह का प्राथमिक चालक है, जो यह दर्शाता है कि वर्तमान प्रकटीकरण विधियाँ विफल हो रही हैं और एक रजिस्ट्री-लेयर डिज़ाइन का प्रस्ताव देता है जो एजेंट जवाबदेही सुनिश्चित करने के लिए संरचित क्षमता विवरणों को मार्केटिंग कॉपी से अलग करता है।

मूल लेखक: Haochuan Kevin Wang

प्रकाशित 2026-05-26
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Haochuan Kevin Wang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करके शोध पत्र (paper) का स्पष्टीकरण दिया गया है।

बड़ी तस्वीर: AI टूल स्टोर्स का "वाइल्ड वेस्ट" (Wild West)

एक विशाल डिजिटल बाज़ार की कल्पना करें जहाँ AI असिस्टेंट (एजेंट्स) आपके लिए काम करने के लिए टूल्स (उपकरण) चुनने जाते हैं। मान लीजिए कि आप अपने AI से "सबसे अच्छा मौसम पूर्वानुमान खोजें" कहते हैं, और उसे पाँच अलग-अलग मौसम ऐप्स में से एक को चुनना है।

अभी, यह बाज़ार बिना किसी नियम वाले एक "वाइल्ड वेस्ट" के मेले जैसा है

  • समस्या: टूल के मालिक अपना विवरण (description) खुद लिखते हैं। वे AI को उन्हें चुनने के लिए बहकाने हेतु फैंसी शब्दों, विशेषणों ("नंबर 1 सबसे अच्छा टूल!") और बड़े दावों का उपयोग कर सकते हैं।
  • कमी: इंसानी खरीदारी के विपरीत, जहाँ हमारे पास रेटिंग, सत्यापित समीक्षाएं या "प्रायोजित" (Sponsored) लेबल होते हैं जो वास्तव में काम करते हैं, इस AI बाज़ार में कोई मापन प्रणाली (measurement system) नहीं है। यह जाँचने का कोई तरीका नहीं है कि कोई टूल वास्तव में अच्छा है या वह विवरण सिर्फ एक झूठ है।

शोधकर्ताओं ने यह देखने के लिए 17,700 से अधिक प्रयोग किए कि AI एजेंट मार्केटिंग के दिखावे (marketing fluff) से कितनी आसानी से बहक जाते हैं।


मुख्य निष्कर्ष: उन्होंने क्या खोजा

1. "हाइप" (Hype) हमेशा जीतता है

शोधकर्ताओं ने पाया कि यदि दो टूल्स बिल्कुल एक ही काम करते हैं, लेकिन एक का विवरण उबाऊ है और दूसरे का "हाइप वाला" विवरण है (जैसे "सबसे तेज़," "सबसे सटीक," या "लाखों लोगों द्वारा भरोसेमंद" जैसे शब्दों का उपयोग), तो AI हर बार (100%) हाइप वाले टूल को ही चुनता है।

  • उदाहरण: दो एक जैसी कारों की कल्पना करें जो अगल-बगल खड़ी हैं। एक पर साधारण बोर्ड लगा है जिस पर लिखा है "कार"। दूसरी पर एक बड़ा नियॉन साइन लगा है जिस पर लिखा है "दुनिया की सबसे तेज़, सबसे विश्वसनीय कार!" AI को फर्क नहीं पड़ता कि कारें एक जैसी हैं; वह अंधे होकर उस नियॉन साइन की ओर भागता है।
  • परिणाम: केवल शब्दों को बदलना (कॉपीराइटिंग) सारा ट्रैफिक हासिल कर लेता है। AI मूल रूप से "क्लिकबेट" (clickbait) का शिकार होने के लिए बना है।

2. झूठ बोलने से मदद नहीं मिलती (लेकिन हाइप से मिलती है)

टीम ने यह परीक्षण किया कि क्या नकली आंकड़े बनाना (जैसे कि "12 मिलियन डेवलपर्स द्वारा उपयोग किया गया" जब कि यह सच नहीं है) हाइप (कानूनी अतिशयोक्ति) की तुलना में AI द्वारा टूल को अधिक बार चुने जाने का कारण बनता है।

  • निष्कर्ष: नहीं। AI उस टूल को चुनने की उतनी ही संभावना रखता था जिसमें कानूनी अतिशोक्ति थी जितनी कि उस टूल के लिए जो पूरी तरह से झूठ था।
  • सीख: झूठ ने कोई अतिरिक्त शक्ति नहीं जोड़ी। समस्या यह नहीं है कि AI झूठ से धोखा खा रहा है; समस्या यह है कि AI तथ्यों के बजाय भाषा की शैली (विशेषणों) पर प्रतिक्रिया दे रहा है। इसका मतलब है कि नियामक (regulators) इस समस्या को ठीक करने के लिए केवल "नकली विज्ञापनों" पर प्रतिबंध नहीं लगा सकते, क्योंकि "कानूनी" हाइप पहले से ही 100% नुकसान पहुँचा रहा है।

3. चेतावनी लेबल काम नहीं करते

शोधकर्ताओं ने चेतावनी जोड़कर इस समस्या को "ठीक" करने की कोशिश की, जैसे कि हम गूगल पर "प्रायोजित" लेबल या अमेज़न पर स्टार रेटिंग देखते हैं।

  • परिणाम: यह पूरी तरह से विफल रहा।
    • अधिकांश AI के लिए: चेतावनी को अनदेखा कर दिया गया। AI अभी भी हाइप वाले टूल को ही चुनता रहा। यह एक नियॉन साइन पर "सावधान: यह विज्ञापन भुगतान किया गया है" का स्टिकर लगाने जैसा है, और AI फिर भी रोशनी की ओर दौड़ पड़ता है।
    • एक AI (Claude) के लिए: इसने अत्यधिक प्रतिक्रिया दी। जब इसने "प्रायोजित" लेबल देखा, तो इसने उस टूल से बचना शुरू कर दिया, भले ही वह सबसे अच्छा टूल हो।
  • निष्कर्ष: आप केवल AI को "सावधान रहने" के लिए कहकर इसे ठीक नहीं कर सकते। सिस्टम खराब है, AI का दिमाग नहीं।

4. "प्रिज़नर्स डिलेमा" (नीचे की ओर दौड़)

चूंकि हाइप वाला टूल हर बार जीतता है, इसलिए हर टूल मालिक को जीवित रहने के लिए हाइप वाले विवरण लिखने के लिए मजबूर होना पड़ता है।

  • उदाहरण: एक नौकरी के साक्षात्कार की कल्पना करें जहाँ सभी योग्य हैं। यदि एक उम्मीदवार सूट पहनता है और कहता है "मैं सबसे अच्छा हूँ," तो उसे नौकरी मिल जाती है। इसलिए, बाकी सभी भी सूट पहनना और कहना शुरू कर देते हैं कि "मैं सबसे अच्छा हूँ।" अंततः, सभी सूट पहने हुए चिल्ला रहे होते हैं, इसलिए साक्षात्कारकर्ता यह नहीं बता पाता कि वास्तव में कौन अच्छा है।
  • परिणाम: बाज़ार बेकार हो जाता है। विवरण आपको गुणवत्ता के बारे में कुछ भी नहीं बताते क्योंकि हर कोई बस एक ही मार्केटिंग नारे चिल्ला रहा है।

प्रस्तावित समाधान: "मेन्यू" बनाम "फ्लेयर" (Flyer)

पेपर इन टूल स्टोर्स के काम करने के तरीके के पूर्ण पुनर्गठन का सुझाव देता है। वे जानकारी को दो अलग-अलग श्रेणियों में विभाजित करने का प्रस्ताव देते हैं:

  1. "सिलेक्शन मेन्यू" (AI के लिए):

    • यह वह है जिसे AI टूल चुनने से पहले देखता है।
    • नियम: कोई मार्केटिंग शब्द नहीं। कोई "सबसे अच्छा" नहीं, कोई "सबसे तेज़" नहीं, कोई "भरोसेमंद" नहीं।
    • फॉर्मेट: केवल ठंडे, कठोर तथ्य एक संरचित सूची में (जैसे, "इनपुट: टेक्स्ट। आउटपुट: 10 लिंक। गति: 200ms")।
    • क्यों: शोधकर्ताओं ने पाया कि AI फ्लोरी प्रोस (काव्यात्मक गद्य) के बजाय इस उबाऊ, संरचित फॉर्मेट को पसंद करता है। यह उन्हें हाइप से विचलित हुए बिना सही टूल चुनने में मदद करता है।
  2. "मार्केटिंग फ्लेयर" (आपके लिए, मानव के लिए):

    • यह वह है जिसे आप (इंसान) तब देखते हैं जब AI पहले ही टूल चुन चुका होता है।
    • नियम: टूल का मालिक यहाँ जितना चाहे उतना फैंसी मार्केटिंग कॉपी लिख सकता है।
    • क्यों: AI ने तथ्यों के आधार पर अपना काम कर लिया है। अब, आप (इंसान) यह तय करने के लिए "प्रायोजित" पिच पढ़ सकते हैं कि आपको वह टूल पसंद है या नहीं।

एक वाक्य में सारांश

AI एजेंट वर्तमान में मार्केटिंग हाइप से मूर्ख बन रहे हैं क्योंकि टूल रजिस्ट्रियां अनियंत्रित विज्ञापन प्लेटफॉर्म हैं; समाधान AI को झूठ को अनदेखा करना सिखाना नहीं है, बल्कि रजिस्ट्रियों को मजबूर करना है कि वे AI को केवल तथ्यों वाला एक उबाऊ मेन्यू दिखाएं और फैंसी सेल्स पिच को मानव उपयोगकर्ता के लिए सुरक्षित रखें।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →