Answer Bubbles: Information Exposure in AI-Mediated Search
تحلل هذه الدراسة ١١,٠٠٠ استعلام بحث عبر أربعة أنظمة لتكشف أن البحث بوساطة الذكاء الاصطناعي يخلق "فقاعات إجابة" من خلال إظهار تحيزات كبيرة في اختيار المصادر، وتقليل التحوط المعرفي، وتفضيل أنواع معينة من المحتوى مثل ويكيبيديا بشكل غير متناسب مع نقص تمثيل أنواع أخرى، مما يؤدي إلى توليد واقع معلوماتي مختلف بنيوياً للاستعلامات المتطابقة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تسأل سؤالاً لثلاثة أصدقاء مختلفين: الصديق (أ) (أمين مكتبة لا يعرف إلا ما يدور في رأسه)، والصديق (ب) (أمين مكتبة يراجع بسرعة بعض الكتب المحددة قبل الإجابة)، والصديق (ج) (أمين مكتبة يمسح المكتبة بأكملها، ويختار الكتب الأكثر شعبية، ويكتب لك ملخصاً قصيراً).
هذه الورقة البحثية هي تحقيق ضخم فيما يحدث عندما نسأل هؤلاء "الأصدقاء الآليين" (مثل ملخصات جوجل الجديدة أو SearchGPT) أسئلة حقيقية. لقد طرح الباحثون 11,000 سؤال وقارنوا الإجابات لمعرفة ما إذا كان الذكاء الاصطناعي يقدم لك معلومات فقط، أم أنه يبني سراً "فقاعة تصفية" حول واقعك.
إليك تفصيل نتائجهم باستخدام تشبيهات بسيطة:
1. مفهوم "فقاعة الإجابة"
في الأيام الخوالي لجوجل، كنت تحصل على قائمة من الروابط. كان الأمر يشبه تسليمك قائمة طعام وإخبارك: "إليك 10 مطاعم؛ اذهب واختر واحداً وتذوق الطعام بنفسك". كنت ترى التنوع.
أما الآن، فإن الذكاء الاصطناعي التوليدي يعطيك شطيرة جاهزة. إنه يأخذ المكونات من أماكن مختلفة، يخلطها، ويقدم لك اللقمة النهائية. المشكلة؟ لم تعد ترى قائمة الطعام بعد الآن. لا تعرف أي المطاعم استُبعدت، أو ما إذا كان الطاهي قد قرر استخدام مكونات من مزرعة واحدة محددة فقط. يطلق الباحثون على هذا اسم "فقاعة الإجابة". إذا طرحت نفس السؤال على أنظمة ذكاء اصطناي مختلفة، فقد تحصل على "واقعين" مختلفين تماماً دون أن تدرك ذلك.
2. إيجاد المكونات (اختيار المصادر)
نظر الباحثون في أين يحصل الذكاء الاصطناعي على معلوماته.
- التحيز: الذكاء الاصطناائي لا يختار المكونات عشوائياً. لديه تفضيل قوي لـ ويكيبيديا ووكالات الأنباء (مثل رويترز).
- الاستبعاد: إنه يتجاهل تماماً وسائل التواصل الاجتماعي (مثل ريديت أو تويتر) ومنتديات النقاش، رغم أنه يدرجها أحياناً كمراجع.
- التشبيه: تخيل طباخاً يدعي أنه يصنع "حساءً عالمياً". يدرج في قائمته "السوق المحلي" و"الباعة المتجولين"، ولكن عندما تنظر إلى القدر، تجد أن 90% منه مصنوع من مكونات من سوبر ماركت فاخر واحد. إنه يستخدم وسائل التواصل الاجتماعي كزينة للعرض فقط، لكنه لا يطبخ بها فعلياً.
3. نبرة الصوت (التغيرات اللغوية)
حلل الباحثون كيفية تحدث الذكاء الاصطناعي.
- فلتر "الثقة": عندما يستخدم الذكاء الاصطناعي الإنترنت للعثور على الإجابات، يصبح أكثر ثقة وأقل حذراً.
- التشبيه: تخيل مذيع أحوال جوية.
- بدون البحث: يقول: "قد تمطر، أو قد تكون مشمسة، لكنني لست متأكداً بنسبة 100%". (هذا هو "التحوط").
- مع البحث: ينظر الذكاء الاصطناعي إلى البيانات ويقول: "سوف تمطر". إنه يتخلص من كلمات مثل "ربما" و"من المحتمل" بنسبة تصل إلى 60%.
- الخطر: يبدو الذكاء الاصطناعي أكثر سلطة، حتى لو كانت المصادر الأصلية غير متأكدة. إنه يجرد المعلومات من الفروق الدقيقة، مما يجعل المعلومات غير المؤكدة تبدو كحقائق مطلقة.
4. فخ "الطويل أفضل" (الدقة)
أخيراً، تحقق الباحثون مما إذا كان الذكاء الاصطناعي قد قرأ بالفعل المصادر التي استشهد بها.
- تحيز الطول: يحب الذكاء الاصطناعي المقالات الطويلة. إذا كان المصدر قصيراً، يتجاهله الذكاء الاصطناعي في معظمه. وإذا كان المصدر طويلاً، يستخدمه الذكاء الاصطناعي بكثافة.
- تأثير ويكيبيديا: ويكيبيديا هي "النجم السوبر" لهذه الأنظمة. يتم الاستشهاد بها أكثر من غيرها، ويستخدم الذكاء الاصطناعي محتواها أكثر من أي مصدر آخر.
- الفلتر السلبي: يميل الذكاء الاصطناعي إلى تجنب المصادر ذات المشاعر السلبية أو النقاشات على وسائل التواصل الاجتماعي. إنه يفضل النبرات الهادئة، المحايدة، و"الموسوعية".
- التشبيه: تخيل طالباً يكتب تقريراً. قيل له أن يستخدم 5 مصادر. فيختار 5 كتب مدرسية طويلة ويتجاهل 5 منشورات مدونات قصيرة ومؤثرة. والأسوأ من ذلك، أنه يتجاهل المنشورات الغاضبة أو الحزينة، ويستخدم فقط تلك التي تبدو هادئة وسعيدة. يبدو التقرير النهائي متوازناً، لكنه في الواقع يفتقد لنصف القصة.
الخلاصة الكبرى
تحذر الورقة البحثية من أن الذكاء الاصطناعي لا يقوم بالتلخيص فحسب، بل يعيد بناء الواقع.
عندما تسأل الذكاء الاصطناعي سؤالاً، فأنت لا تحصل على رؤية محايدة للإنترنت. بل تحصل على رؤية:
- تفضل المواقع الكبيرة ذات السلطة (مثل ويكيبيديا) على نقاشات المجتمع.
- تبدو أكثر ثقة ويقيناً مما كانت عليه المصادر الأصلية في الواقع.
- تخفي حقيقة أنها تجاهلت وسائل التواصل الاجتماعي والمنظورات السلبية.
لماذا يهم هذا؟
إذا وثقت في "فقاعة الإجابة" الخاصة بالذكاء الاصطناعي دون التحقق من الروابط، فقد تعتقد أنك تعرف الحقيقة كاملة، بينما أنت في الواقع لم ترَ سوى نسخة منقحة، ومعقمة، وواثقة للغاية منها. يقترح الباحثون أننا بحاجة لأن نكون أكثر وعياً بـ "فقاعات الإجابة" هذه، وأن نطالب أنظمة الذك الذكاء الاصطناعي بأن تظهر لنا كيف بنت إجاباتها، تماماً كما يظهر الطاهي قائمة مكوناته.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.