Misinformation Exposure in the Chinese Web: A Cross-System Evaluation of Search Engines, LLMs, and AI Overviews
تقيم هذه الورقة الموثوقية الواقعية لمحركات البحث التقليدية، والنماذج اللغوية الكبيرة المستقلة، ونظرات الذكاء الاصطناعي العامة في الويب الصيني من خلال تقديم مجموعة بيانات استعلامات من العالم الحقيقي، مما يكشف عن تفاوتات كبيرة في الدقة ويقدر التعرض الإقليمي الناتج للمستخدمين الصينيين للمعلومات المضللة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك في مكتبة ضخمة وصاخبة في الصين، ولكن بدلاً من الكتب، تمتلئ الرفوف بإجابات رقمية. لديك سؤال بسيط: "هل صحيح أن شرب الماء يعالج نزلات البرد؟" أو "هل أحتاج إلى الصيام قبل هذا الفحص الطبي؟"
في الماضي، كنت ستسأل أمين مكتبة (محرك بحث) ليرشدك إلى بعض الكتب، وستقرأها بنفسك لتجد الإجابة. أما اليوم، فيمكنك أن تسأل روبوتًا فائق الذكاء (ذكاء اصطناعي) ليقرأ الكتب نيابة عنك ويخبرك بالإجابة مباشرة.
هذه الورقة البحثية تشبه "اختبار تذوق" علمي ضخم لهذه الطرق المختلفة للحصول على المعلومات. أراد الباحثون معرفة: من يقول الحقيقة أكثر من غيره؟ و من يخطئ أكثر من غيره؟
إليك تفصيل نتائجهم، مشروحة ببساطة:
1. المتنافسون الثلاثة
وضع الباحثون سباقًا بين ثلاثة أنواع من "أدلة المعلومات":
- أُمناء المكتبة التقليديون (محركات البحث): هذه هي أدوات البحث الكلاسيكية مثل Baidu وSogou وBing China. هي لا تعطيك الإجابة مباشرة؛ بل تعطيك قائمة من الروابط (مثل قائمة طعام) وتأمل أن تختار أنت الرابط الصحيح.
- العباقرة المنفردون (نماذج اللغات الكبيرة المستقلة - LLMs): هذه هي برامج الدردشة الآلية (مثل Qwen أو DeepSeek) التي تتحدث إليها مباشرة. إنها تحاول الإجابة من "عقلها" الخاص دون النظر في مكتبة أولاً.
- المضيفون الهجينون (نظرات الذكاء الاصطناعي العامة): هذه هي الميزة الأحدث (مثل نظرة Baidu AI Overview) حيث يستخدم محرك البحث روبوتًا لقراءة أفضل الروابط ثم يلخص الإجابة لك في صندوق مرتب في الأعلى.
2. الاختبار: 12,000 سؤال حقيقي
لم يبتكر الباحثون أسئلة وهمية. لقد نبشوا في سجلات البحث الحقيقية لملايين الصينيين واستخرجوا 12,161 سؤالاً حقيقياً من نوع "نعم أو لا" كان الناس يطرحونها بالفعل.
- مثال: "هل يسبب سوء التغذية قصر النظر؟"
- ثم طلبوا من جميع المتنافسين الثلاثة الإجابة على هذه الأسئلة وتحققوا من هو الذي أصاب.
3. النتائج: لا أحد كامل
الخلاصة الكبرى هي أن حتى الأنظمة الأكثر ذكاءً تخطئ كثيرًا.
- الأفضل أداءً: كان "المضيف الهجين" (Baidu AI Overview) هو الأكثر دقة، حيث حصل على حوالي 70% من الإجابات بشكل صحيح.
- الفئة المتوسطة: تراوحت محركات البحث التقليدية وبرامج الدردة المستقلة حول 60-65%.
- الأسوأ أداءً: أحد النماذج مفتوحة المصدر (LLaMA) حصل على حوالي 45% فقط من الإجابات الصحيحة.
مشكلة "واحد من ثلاثة": حتى أفضل نظام لا يزال يخطئ في حوالي واحد من كل 3 أو 4 أسئلة. وهذا يعني أنه إذا سألت سؤالًا طبيًا، فهناك احتمال كبير للحصول على إجابة تبدو واثقة ولكنها خاطئة تمامًا.
4. فخ "نعم" مقابل "لا"
وجد الباحثون بعض الأنماط المضحكة والخطيرة:
- انحياز الـ "لا": بعض محركات البحث (مثل Bing في هذه الدراسة) كانت مرعوبة من قول "نعم". إذا سألت: "هل هذا الدواء آمن؟"، فغالبًا ما كانت تجيب بـ "لا" حتى لو كان آمنًا، لمجرد توخي الحذر.
- انحياز الـ "نعم": أنظمة أخرى كانت متحمسة جدًا للموافقة.
- مشاكل المواضيع: كانت الروبوتات رائعة في الإجابة على أسئلة "التسوق" أو "الرياضة" لكنها كانت سيئة جدًا في "الصحة" أو "التكنولوجيا". الأمر يشبه طباخًا يمكنه صنع برجر مثالي ولكنه يحرق كل الخضروات.
5. خريطة الخطر: من يتضرر أكثر؟
هذا هو الجزء الأكثر أهمية في الدراسة. قام الباحثون بدمج بيانات الدقة الخاصة بهم مع خريطة لأماكن بحث الناس فعليًا عن المعلومات الصحية (باستخدام ما يسمى "مؤشر Baidu").
لقد اكتشفوا عدم مساواة جغرافية:
- المدن الساحلية: الناس في المقاطعات الشرقية الساحلية الغنية (مثل Guangdong وZhejiang) يبحثون عن المعلومات الصحية كثيرًا. ولأنهم يبحثون كثيرًا، ولأن أنظمة الذكاء الاصطناعي ترتكب أخطاء، فإن هذه المناطق تتعرض للمعلومات المضللة بشكل أكبر.
- المناطق الداخلية: الناس في المقاطعات الوسطى والغربية يبحثون أقل، لذا فهم يتعرضون لمعلومات خاطئة أقل ببساطة لأنهم يطرحون أسئلة أقل.
الاستعارة: تخيل طريقًا ضبابيًا. الأشخاص الذين يقودون أكثر (المدن الساحلية) هم الأكثر عرضة للاصطدام بحفرة مخفية (إجابة خاطئة) لأنهم يسلكون الطريق أكثر من غيرهم. الأنظمة ليست معطلة في مكان واحد؛ إنها معطلة في كل مكان، لكن الأشخاص الذين يعتمدون عليها أكثر هم الذين يعانون أكثر.
6. الخلاصة
تحذر الورقة البحثية من أنه بينما يعد الذكاء الاصطناعي مذهلاً في الظهور بمظهر فصيح وواثق، فهو ليس عرافًا موثوقًا.
- للمستخدمين: لا تثق في أول إجابة تحصل عليها، خاصة فيما يتعلق بالصحة أو المال. إذا قال الذكاء الاصطناعي "نعم"، فتأكد من صحة ذلك.
- للعالم: نحن نبني عالمًا رقميًا تعتمد فيه "الحقيقة" على أي روبوت تسأل وأين تعيش. نحن بحاجة إلى أدوات أفضل تكون شفافة بشأن ما تعرفه وما تخمنه.
باخت-الاختصار: الذكاء الاصطناعي مساعد مفيد، لكنه لا يزال طالبًا لم يتخرج بعد. إنه ذكي، لكنه يرتكب الأخطاء، وهذه الأخطاء تصيب الأشخاص الذين يحتاجون إلى الإجابات أكثر من غيرهم.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.