Evidence of political bias in search engines and language models before major elections
تقدم هذه الورقة تدقيقاً واسع النطاق لمحركات البحث والنماذج اللغوية قبيل انتخابات عام 2024 في أوروبا والولايات المتحدة، كاشفةً عن تحيزات سياسية منهجية — مثل التمثيل المفرط لكيانات اليمين المتطرف في أوروبا وتباين أولويات القضايا في الولايات المتحدة — مما يسلط الض الضوء على الحاجة إلى فحص خوارزمي منتظم لحماية العمليات الديمقراطية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تقف في مكتبة ضخمة ومزدحمة قبيل انتخابات كبرى. تسأل أمينة المكتبة: "لمن يجب أن أصوت؟" أو "ما هي القضايا الأكثر أهمية؟"
تتوقع من أمينة المكتبة أن تقدم لك مجموعة متوازنة من الكتب التي تمثل جميع المرشحين والأحزاب، بشكل يتناسب تقريبًا مع عدد الأشخاص الذين يدعمونهم بالفعل. ولكن ماذا لو كانت أمينة المكتبة، دون أن تدرك أنت ذلك، تستمر في تقديم كتب من قسم "اليمين المتطرف"، حتى لو كان هؤلاء المرشحون يحصلون على نسب استطلاع منخفضة؟ أو ماذا لو تجاهلت قسم "الخضر" تمامًا؟
هذا هو بالضبط ما تبحث فيه هذه الورقة البحثية. لقد تصرف المؤلفون كمتسوقين سريين (باستخدام "بوتات" حاسوبية) لاختبار أُمناء المكتبة الرقميين: محركات البحث (مثل جوجل، وبينج) وروبوتات الدردشة المدعومة بالذكاء الاصطناعي (مثل ChatGPT، وكوبايلوت). لقد فعلوا ذلك قبيل انتخابات البرلمان الأوروبي والانتخابات الرئاسية الأمريكية لعام 2024.
إليك تفصيل لنتائجهم، باستخدام بعض التشبيهات البسيطة:
1. الإعداد: اختبار "المتسوق السري"
لم يكتف الباحثون بطرح سؤال واحد. فقد أرسلوا 25 "بوتًا" مختلفًا (برامج حاسوبية تتظاهر بأنها بشر) إلى خمس دول أوروبية و15 مقاطعة أمريكية.
- السؤال: طرحوا أسئلة محايدة مثل "لمن يجب أن أصوت؟" أو "ما هي القضايا الرئيسية؟". لقد تجنبوا طرح أسئلة مثل "هل المرشح (س) جيد؟" للحفاظ على الحياد.
- الهدف: معرفة ما إذا كانت نتائج البحث أو إجابات الذكاء الاصطناعي تميل طبيعيًا نحو جانب سياسي واحد، أم أنها محايدة حقًا.
2. النتيجة الأوروبية: تأثير "المضخم"
في أوروبا، وجد الباحثون تشوهًا غريبًا.
- النتيجة: كانت محركات البحث والذكاء الاصطناعي يذكرون أحزاب وسياسيين من اليمين المتطرف بشكل متكرر أكثر بكثير مما "يستحقونه" بناءً على استطلاعات الرأي الفعلية، أو نتائج الانتخابات الماضية، أو حتى حجم التغطية الإخبارية عنهم.
- التشبيه: تخيل فرقة موسيقية تعزف في حفلة موسيقية. كانت فرقة اليمين المتطرف في الواقع تعزف أغنية صغيرة وهادئة لم يعجب بها سوى 10% من الجمهور. لكن محركات البحث عملت مثل نظام مكبرات صوت وميكروفونات ضخم رفع صوتهم إلى 100%، مما جعل الأمر يبدو وكأنهم هم العرض الرئيسي، بينما كانت الفرق الأخرى (اليسار التقليدي، الخضر، إلخ) تكاد لا تُسمع.
- المفاجأة: حدث هذا حتى في البلدان التي كان فيها أداء أحزاب اليمين المتطرف ضعيفًا في استطلاعات الرأي. بدا وكأن الخوارزميات لديها "جوع" لهذا المحتوى، بغض النظر عن الواقع.
3. النتيجة الأمريكية: "فلتر القضايا"
في الولايات المتحدة، كانت القصة مختلفة قليلاً لأن النظام يعتمد أساساً على حزبين (الديمقراطيين مقابل الجمهوريين).
- النتيجة: عندما سُئلت النتائج عن المرشحين، كانت متوازنة إلى حد ما. ولكن عند السؤال عن القضايا (مثل الهجرة، أو الإجهاض، أو الاقتصاد)، فضل جوجل بشدة المواضيع التي تهم الجمهوريين أكثر من غيرهم.
- التشبيه: تخيل أنك تسأل مرشدًا سياحيًا: "ما الذي يجب أن أراه في هذه المدينة؟"
- إذا سألت مرشدًا سياحيًا من جوجل، فسيظهر لك فقط المتاحف والمنتزهات التي يحبها السياح الجمهوريون، حتى لو كانت المدينة مليئة بأشياء أخرى في الواقع.
- أما محركات البحث الأخرى (مثل بينج أو دوك داك جو)، فقد كانت أكثر توازنًا، حيث أظهرت مزيجًا مما يهتم به كلا الجانبين.
- تحول الذكاء الاصطناعي: كانت روبوتات الدردشة (ChatGPT وCopilot) متوازنة بشكل عام أكثر من جوجل، لكن كان لها عيوبها الخاصة. فقد رفضت أحيانًا الإجابة على الأسئلة (بقول "لا يمكنني التحدث عن ذلك")، وأذكرت أحيانًا أحزاب الخضر بشكل مفرط، ربما في محاولة منها لتكون "آمنة" أو "محايدة" للغاية.
4. لماذا يهم هذا؟ فخ "غرفة الصدى"
يرى المؤلفون أن هذا ليس مجرد خلل بسيط؛ بل هو تهديد للديمقراطية.
- مشكلة "صاحب القرار المتأخر": الكثير من الناخبين لم يحسموا أمرهم حتى الأسبوع الأخير قبل الانتخابات. وهؤلاء هم الأشخاص الأكثر عرضة للجوء إلى كتابة سؤال في جوجل.
- الخطر: إذا استمر "أمين المكتبة" (الخوارزمية) في تقديم كتب من قسم محدد، فقد تبدأ في الاعتقاد بأن هذا القسم هو القسم الوحيد المهم. قد تصوت لمرشح أو لسياسة ليس لأنها ما تريده حقًا، بل لأن الخوارزمية جعلت الأمر يبدو وكأنها الشيء الوحيد الموجود.
5. لغز "الصندوق الأسود"
يعترف الورقة البحثية بأننا لا نعرف بالضبط سبب حدوث ذلك.
- هل هي البيانات؟ ربما الإنترنت مليء بالفعل بمحتوى اليمين المتطرف، والذكاء الاصطناعي تعلم من ذلك فحسب.
- هل هي النقرات؟ ربما ينقر الناس على روابط اليمين المتطرف أكثر، لذا تعتقد الخوارزمية: "أوه، الناس يحبون هذا، فلنظهره أكثر!"
- الدائرة المفرغة: إنها حلقة مفرغة. الخوارزمية تعرض لك المحتوى أنت تنقر عليه الخوارزمية تعتقد أنه شائع فتعرضه لمزيد من الناس.
الخلاصة
تخلص الورقة إلى أن الحياد هو وهم. حتى عندما تطرح سؤالًا محايدًا وبسيطًا، فإن التكنولوجيا التي تستخدمها يوميًا تشكل عالمك السياسي بهدوء.
الدرس المستفاد: مجرد كون نتيجة البحث في أعلى القائمة لا يعني أنها "الحقيقة" أو "الأكثر شعبية". قد تكون مجرد ما قررت الخوارزمية إبرازه. نحن بحاجة إلى أن نكون أكثر وعيًا بهذه الفلاتر غير المرئية، تمامًا كما ندرك التحيز في التقارير الإخبارية. يدعو المؤلفون إلى وجود مدققين مستقلين يقومون باستمرار بفحص هؤلاء "أُمناء المكتبة الرقميين" للتأكد من أنهم لا يتلاعبون باللعبة سرًا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.