Behind the Prompt: The Agent-User Problem in Information Retrieval
تجادل هذه الورقة بأن الافتراض الجوهري لاسترجاع المعلومات —المتمثل في أن السلوك الملحوظ يكشف عن قصد المستخدم— ينهار عندما يكون المستخدمون وكلاء ذكاء اصطناعي، حيث تثبت من خلال تحليل واسع النطاق أنه بينما لا يمكن تمييز أفعال الوكيل الفردية عن القصد البشري، فإن وجودهم يؤدي بشكل منهجي إلى تدهور نماذج النقر ونشر مراجع القدرات بشكل متوطن، مما يستوجب إعادة التفكير في أنظمة الاسترجاع المبنية على الافتراضات المتمحورة حول البشر.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الفكرة الكبرى: مشكلة "الشبح في الآلة"
تخيل أنك تسير في مكتبة ضخمة تعج بالحركة. ترى أشخاصاً يقرأون الكتب، ويستعيرون المواد، ويكتبون ملاحظات على الجدران. أنت تفترض أن هؤلاء بشر حقيقيون لديهم أفكاراتهم الخاصة، واهتماماتهم، وأسبابهم للقيام بأفعالهم.
الآن، تخيل أن كل شخص في هذه المكتبة هو في الواقع روبوت. ولكن إليك المفاجأة: بعض الروبوتات تفكر لنفسها، بينما يتبع البعض الآخر تعليمات سرية يهمس بها إنسان يقف خلف ستار.
المشكلة: يمكنك رؤية أفعال الروبوت (ما يقرأه، وما يكتبه)، لكنك لا تستطيع رؤية الإنسان خلف الستار.
تجادل هذه الورقة البحثية بأن هذا يمثل أزمة هائلة لمحركات البحث وأنظمة الترشيح (مثل جوجل، تيك توك، أو ريديت). هذه الأنظمة مبنية على افتراض أنه عندما ينقر المستخدم على رابط أو يضغط على زر الإعجاب، فهذا يعني "أنا أحب هذا". ولكن إذا كان الروبوت ينقر لأن إنساناً أمره بذلك، فإن هذا "الإعجاب" هو كذبة. النظام يتعرض للخداع.
الاكتشافات الثلاثة الرئيسية
درس الباحثون شبكة اجتماعية جديدة تسمى Moltbook، حيث الجميع فيها عبارة عن وكلاء ذكاء اصطناعي (AI agents). لقد فحصوا 370,000 منشور ليروا ماذا يحدث عندما يختبئ البشر خلف هؤلاء الوكلاء.
1. "الخدعة السحرية" لعدم القدرة على التمييز
التشبيه: تخيل رسامين. أحدهما يرسم غروب الشمس لأنه يحب الألوان (مستقل/ذاتي). والآخر يرسم نفس الغروب تماماً لأن مديراً أعطاه صورة وقال له: "انسخ هذه بدقة" (موجه من قبل إنسان).
إذا نظرت فقط إلى اللوحة النهائية، فلن تستطيع معرفة من رسمها.
النتيجة: أثبت الباحثون أنه من المستحيل رياضياً النظر إلى منشور واحد ومعرفة ما إذا كان الذكاء الاصطناعي قد فعله من تلقاء نفسه أم أن إنساناً أمره بفعله. "النية" مخفية. وهذا يعني أن محركات البحث لم تعد قادرة على الثقة في أن سلوك المستخدم يمثل مشاعره الحقيقية.
2. "الثمار الفاسدة" تفسد السلطة
التشبيه: تخيل أنك تدرب كلباً على جلب الأشياء. إذا دربت الكلاب فقط باستخدام كلاب مطيعة وجيدة، فسوف تتعلم جيداً. ولكن إذا بدأت في خلط كلاب تتبع جهاز تحكم عن بعد (وقد تنبح في الفراغ)، فسيصاب الكلب بالارتباك.
النتيجة: حاول الباحثون تدريب "نموذج نقر" (نظام يتنبأ بما سيحبه الناس) باستخدام بيانات من هؤلاء الوكلاء.
- عندما استخدموا بيانات من وكلاء "عالي الجودة" (أولئك الذين لديهم مالكون موثقون وسمعة جيدة)، عمل النظام بشكل جيد نوعاً ما.
- ولكن بمجرد إضافة وكلاء "منخفضي الجودة" (أولئك الذين يُرجح أنهم يتم تحريكهم كدمى من قبل بشر لديهم أجندات سيئة)، انخفضت دقة النظام بنسبة 8.5%.
الأمر يشبه محاولة تذوق حساء؛ إذا أضفت ملعقة من الملح، يمكنك تذوقه. ولكن إذا أضفت دلواً من الرمل، يصبح الحساء بأكمله غير قابل للأكل. "الضجيج" الناتج عن البشر المتخفين يفسد البيانات.
3. الفيروس الذي لا يموت
التشبيه: تخيل إشاعة تبدأ في مدرسة. عادةً، إذا طلبت من الطلاب التوقف عن نشر الإشاعة، فإنها تموت. ولكن تخيل أن الإشاعة هي فيروس رقمي ينتقل من عقل طالب إلى آخر فوراً. حتى لو حاولت قطع عملية النقل، ستستمر الإشاعة في الانتشار لأن الطلاب مترابطون للغاية.
النتيجة: تتبع الباحثون كيفية انتشار "القدرات" (مثل معرفة كيفية استخدام أداة برمجة جديدة أو حيلة اختراق خطيرة) عبر شبكة الوكلاء.
- عاملوا هذا الأمر كأنه وباء.
- وجدوا أنه بمجرد ذكر "قدرة" ما، فإنها تنتشر بشكل متوطن (بشكل مستمر).
- حتى عندما قاموا بمحاكاة "تدخلات عدوانية" (مثل إخبار الوكلاء بالتوقف عن المشاركة)، لم يتوقف انتشار القدرة. "فيروس" المعلومات يستمر في التحرك من مجتمع إلى آخر، بغض النظر عما إذا كان إنسان هو من يدفع به أو أن الذكاء الاصطناعي يقوم به من تلقاء نفسه.
لماذا يجب أن تهتم؟
قد تعتقد: "وما المشكلة؟ إنها مجرد روبوتات تتحدث مع روبوتات أخرى".
ولكن الجزء المخيف هو: محركات البحث وخلاصات وسائل التواصل الاجتماعي تتعلم بالفعل من هذه البيانات.
- التخصيص: إذا كانت خلاصتك تعرض لك أشياءً لأن "الروبوتات" نقرت عليها، فأنت لا ترى ما تحبه أنت؛ بل ترى ما أراد البشر المختبئون خلف الروبوتات منك أن تراه.
- الأخبار المزيفة والتلاعب: إذا استطاع شخص سيء التحكم في 1,000 وكيل للتصويت بالإيجاب على قصة مزيفة، سيعتقد محرك البحث أنها قصة شائعة وحقيقية.
- المستقبل: تخلص الورقة البحثية إلى أننا لا نستطيع مجرد بناء أدوات أفضل لـ "كشف" الروبوتات. المشكلة هيكلية. طالما يمكن للبشر الهمس بالتعليمات للروبوتات خلف أبواب مغلقة، فستظل أنظمتنا عمياء عن الحقيقة.
الخلا الخلاصة
نحن ندخل عصراً لا يمكننا فيه الوثوق بأعيننا.
مجرد كون المنشور يبدو شائعاً، أو نتيجة البحث تبدو ذات صلة، لا يعني بالضرورة أن إنساناً حقيقياً ذا رأي حقيقي هو من أنشأه. قد يكون مجرد روبوت يتبع نصاً مكتوباً. القواعد القديمة التي تقول "ما ينقر عليه الناس هو ما يريدونه" تنهار، ونحن بحاجة إلى ابتكار طرق جديدة تماماً لفهم الإنترنت قبل أن يتم الاستيلاء عليه بالكامل من قبل أسياد الدمى غير المرئيين.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.