Agent-Facing Information Design in LLM Tool Registries
تكشف هذه الورقة أن المبالغة القانونية، وليس الادعاءات المفبركة، هي المحرك الرئيسي للتحيز في اختيار أدوات النماذج اللغوية الكبيرة، مما يثبت فشل أساليب الإفصاح الحالية ويقترح تصميماً لطبقة السجل يفصل بين أوصاف القدرات المهيكلة والنسخ التسويقية لضمان مساءلة الوكيل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح للورقة البحثية باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.
الصورة الكبيرة: "الغرب المتوحش" لمتاجر أدوات الذكاء الاصطناعي
تخيل سوقاً رقمياً ضخماً حيث تذهب مساعدات الذكاء الاصطناعي (الوكلاء) لاختيار الأدوات للقيام بالمهام نيابة عنك. ربما تطلب من ذكائك الاصطناعي "إيجاد أفضل توقعات الطقس"، وعليه أن يختار بين خمسة تطبيقات مختلفة للطقس.
حالياً، هذا السوق يشبه سوق السلع المستعملة في "الغرب المتوحش" حيث لا توجد قواعد.
- المشكلة: أصحاب الأدوات يكتبون أوصافهم بأنفسهم. يمكنهم استخدام كلمات رنانة، وصيغ تفضيل ("الأداة رقم 1 الأفضل!")، وادعاءات ضخمة لخداع الذكاء الاصطناعي ليختارهم.
- القطعة المفقودة: على عكس التسوق البشري، حيث تتوفر لدينا التقييمات، أو المراجعات الموثقة، أو ملصقات "إعلان ممول" التي تعمل فعلياً، فإن سوق الذكاء الاصطناนี้ يفتقر إلى نظام قياس. لا توجد طريقة للتحقق مما إذا كانت الأداة جيدة حقاً أم أن الوصف مجرد كذبة.
أجرى الباحثون أكثر من 17,700 تجربة لمعرفة مدى سهولة انقياد وكلاء الذكاء الاصطناعي وراء بهرجة التسويق.
النتائج الرئيسية: ما اكتشفوه
1. "الضجيج الإعلامي" يفوز في كل مرة
وجد الباحثون أنه إذا كانت هناك أداتان تؤديان نفس المهمة تماماً، ولكن إحداهما تملك وصفاً مملاً والأخرى تملك وصفاً "مبهرجاً" (باستخدام كلمات مثل "الأسرع"، "الأكثر دقة"، أو "موثوق به من قبل الملايين")، فإن الذكاء الاصطناعي يختار الأداة المبهرجة في 100% من الحالات.
- التشبيه: تخيل سيارتين متطابقتين مركونتين جنباً إلى جنب. إحداهما عليها لوحة بسيطة تقول "سيارة". والأخرى عليها لوحة نيون ضخمة تقول "أسرع وأكثر سيارة موثوقة في العالم!". الذكاء الاصطناعي لا يهتم بأن السيارتين متطابقتان؛ إنه يتجه ببساطة نحو لوحة النيون.
- النتيجة: مجرد تغيير الكلمات (فن الكتابة الإعلانية) يستحوذ على كل حركة المرور. الذكاء الاصطناعي هو في الأساس "عرضة للنقرات الخادعة".
2. الكذب لا يساعد (لكن الضجيج يفعل)
اختبر الفريق ما إذا كان اختلاق أرقام وهمية (مثل "مستخدم من قبل 12 مليون مطور" بينما هذا ليس صحيحاً) يجعل الذكاء الاصطناعي يختار الأداة بشكل أكبر مما لو استخدم مجرد المبالغة القانونية (التي تُعرف بالتهويل).
- النتيجة: لا. كان الذكاء الاصطناعي أكثر عرضة لاختيار الأداة التي تستخدم المبالغة القانونية بنفس قدر احتمالية اختياره للأداة التي تستخدم الأكاذيب الصريحة.
- الخلاصة: "الكذبة" لم تضف قوة إضافية. المشكلة ليست في أن الذكاء الاصطناعي يتعرض للخداع بالأكاذيب؛ بل في أن الذكاء الاصطناعي يتفاعل مع أسلوب اللغة (صيغ التفضيل) بدلاً من الحقائق. وهذا يعني أن المنظمين لا يمكنهم مجرد حظر "الإعلانات المزيفة" لحل المشكلة، لأن "الضجيج القانوني" يسبب بالفعل 100% من الضرر.
3. ملصقات التحذير لا تعمل
حاول الباحثون "إصلاح" المشكلة عبر إضافة تحذيرات، على غرار ما نراه من ملصقات "إعلان ممول" على جوجل أو تقييمات النجوم على أمازون.
- النتيجة: فشلت المحاولة تماماً.
- بالنسبة لمعظم نماذج الذكاء الاصطناعي: تم تجاهل التحذير. ظل الذكاء الاصطناعي يختار الأداة المبهرجة. الأمر يشبه وضع ملصق "تنبيه: هذا إعلان مدفوع" على لوحة نيون، ومع ذلك لا يزال الذكاء الاصطناعي يركض نحو الضوء.
- بالنسبة لنموذج واحد (Claude): بالغ في رد الفعل. عندما رأى ملصق "إعلان ممول"، قام في الواقع بتجنب الأداة، حتى لو كانت هي الأفضل.
- الاستنتاج: لا يمكنك إصلاح الأمر بمجرد قول "كن حذراً" للذكاء الاصطناعي. النظام نفسه معطل، وليس عقل الذكاء الاصطناعي.
4. "معضلة السجين" (السباق نحو القاع)
بما أن الأداة المبهرجة تفوز في كل مرة، فإن كل صاحب أداة يُجبر على كتابة أوصاف مبهرجة لمجرد البقاء.
- التشبيه: تخيل مقابلة عمل حيث الجميع مؤهلون. إذا ارتدى أحد المرشحين بدلة وقال "أنا الأفضل"، فسيحصل على الوظيفة. لذا، يبدأ الجميع الآخرون في ارتداء البدلات وقول "أنا الأفضل". في النهاية، يصبح الجميع يرتدون البدلات ويصرخون "أنا الأفضل"، بحيث لا يستطيع المحاور التمييز بين من هو جيد حقاً.
- النتيجة: تصبح السوق غير مفيدة. تتوقف الأوصاف عن إخبارك بأي شيء عن الجودة لأن الجميع يصرخون فقط نفس الشعارات التسويقية.
الحل المقترح: "قائمة الطعام" مقابل "المنشور الإعلاني"
تقترح الورقة إعادة تصميم كاملة لكيفية عمل متاجر هذه الأدوات. هم يقترحون تقسيم المعلومات إلى حاويتين منفصلتين:
"قائمة الاختيار" (للذكاء الاصطناعي):
- هذا ما يراه الذكاء الاصطناعي قبل أن يختار الأداة.
- القاعدة: لا يُسمح بكلمات تسويقية. لا "الأفضل"، لا "الأسرع"، لا "الموثوق به".
- التنسيق: مجرد حقائق باردة وجافة في قائمة منظمة (مثلاً: "المدخلات: نص. المخرجات: 10 روابط. السرعة: 200 مللي ثانية").
- لماذا: وجد الباحثون أن نماذج الذكاء الاصطناعي تفضل في الواقع هذا التنسيق الممل والمنظم على النصوص المنمقة. هذا يساعدها على اختيار الأداة الصحيحة دون أن تتشتت بالضجيج.
"المنشور الإعلاني" (لك أنت، أي للبشر):
- هذا ما يراه الإنسان بعد أن يكون الذكاء الاصطناعي قد اختار الأداة بالفعل.
- القاعدة: يمكن لصاحب الأداة كتابة كل ما يشاء من النصوص التسويقية الرنانة هنا.
- لما_ذا: لقد قام الذكاء الاصطناعي بعمله بالفعل بناءً على الحقائق. الآن، يمكنك أنت (البشر) قراءة الخطاب التسويقي "الممول" لتقرر ما إذا كنت تحب الأداة أم لا.
ملخص في جملة واحدة
تتعرض وكلاء الذكاء الاصطناعي للخداع حالياً بسبب بهرجة التسويق لأن سجلات الأدوات هي منصات إعلانية غير منظمة؛ والحل ليس في تعليم الذكاء الاصطناعي تجاهل الأكاذيب، بل في إجبار السجلات على إظهار "قائمة طعام" مملة قائمة على الحقائق فقط للذكاء الاصطناعي، مع ترك الخطاب البيعي المنمق للمستخدم البشري.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.