Global AI Bias Audit for Technical Governance
تقدم هذه الورقة تدقيقاً عالمياً استكشافياً لنموذج Llama-3 8B باستخدام إطار عمل GAID، كاشفةً عن تحيزات جغرافية واجتماعية واقتصادية كبيرة حيث تتركز الدقة الواقعية للنموذج بشكل كثيف في دول الشمال العالمي، مما يؤدي إلى تفاقم الفجوات المعلوماتية ومخاطر الحوكمة بالنسبة لدول الجنوب العالمي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
🌍 الصورة الكبيرة: "أمين المكتبة العليم بكل شيء" ولكن مع نقاط عمياء
تخيل أن لديك أمين مكتبة ذكي للغاية وعليم بكل شيء يُدعى Llama-3. لقد قرأ هذا الأمين كل كتاب كُتب تقريبًا، ويمكنه الإجابة على الأسئلة حول أي شيء، من حالة الطقس في طوكيو إلى تاريخ روما. أنت تثق في هذا الأمين لمساعدتك في اتخاذ قرارات مهمة لمدينتك.
ومع ذلك، فإن هذه الورقة البحثية هي بمثابة "تقرير درجات" يوضح مدى معرفة هذا الأمين بـ بقية العالم، وتحديدًا الدول غير الغنية أو غير المشهورة (التي تُسمى غالبًا "الجنوب العالمي"، مثل العديد من دول أفريقيا وأجزاء من آسيا وأمريكا اللاتينية).
قام الباحث، جيسون هانغ، بسؤال أمين المكتبة 1,704 سؤالًا محددًا حول تكنولوجيا الذكاء الاصطناعي (مثل "كم تبلغ قوة الحوسبة في الدولة X؟" أو "كم عدد براءات اختراع الذكاء الاصطناعي التي ابتكرتها؟") عبر 213 دولة مختلفة.
🔍 الاكتشاف الرئيسي: "الجدار الرقمي"
كانت النتائج صادمة. لم يكن أمين المكتبة "عليماً بكل شيء" كما كنا نظن.
- جدار "أنا لا أعرف": عندما سُئل عن الدول الغنية والغربية (مثل الولايات المتحدة أو المملكة المتحدة أو ألمانيا)، كان لدى أمين المكتبة إجابة عادةً. ولكن عندما سُئل عن الدول الأفقر أو الأقل شهرة، كان يصطدم بجدار.
- التشبيه: تخيل أن أمين المكتبة لديه خريطة ضخمة للعالم. الخريطة مفصلة وملونة لأوروبا وأمريكا الشمالية، ولكن بالنسبة لأجزاء كبيرة من أفريقيا وجنوب آسيا، فإن الخريطة مجرد ورقة بيضاء فارغة. عندما تسأل: "ما هي عدد سكان هذه القرية؟"، يقول أمين المكتبة: "لا أعرف، إنها غير موجودة على خارتي"، رغم أن القرية موجودة بالفعل.
- خطر "الحقائق المزيفة": والأسوأ من ذلك، أن أمين المكتبة يحاول أحيانًا التخمين.
- التشبيه: إذا سألت: "كم عدد التفاحات في السلة؟" ولم يكن أمين المكتبة يعرف، فقد يسحب رقمًا عشوائيًا من العدم ويقول: "هناك 42 تفاحة!". يُسمى هذا "الهلوسة" (Hallucination). في العالم الحقيقي، إذا استخدم قائد حكومي هذا الرقم الخاطئ لبناء مستشفى أو مدرسة، فقد يؤدي ذلك إلى كارثة.
- الدرجة: من بين كل 100 سؤال طُرح، قدم أمين المكتبة رقمًا حقيقيًا ومحددًا 11 مرة فقط. وفي المرات الـ 89 الأخرى، إما قال "لا أعرف"، أو أعطى إجابة غامضة، أو اخترع شيئًا ما.
🌏 من تم استبعاده؟
وجدت الدراسة نمطًا واضحًا: كلما كانت الدولة أفقر، قلّت معرفة الذكاء الاصطناعي بها.
- "قسم كبار الشخصيات" (VIP): حصلت دول مثل الولايات المتحدة وأستراليا وإسبانيا على إجابات مفصلة.
- "منطقة النسيان": كانت دول أفريقيا جنوب الصحراء الكبرى (مثل أنغولا أو تشاد)، ودول الجزر الصغيرة، وأجزاء من جنوب آسيا، هي الأكثر عرضة لتلقي رد "لا أعرف".
- المفارقة: تشير الورقة إلى أن هذا شكل من أشكال "الاستعمار الرقمي". الأمر يشبه شخصًا غنيًا يبني منزلًا ويقوم بطلاء الباب الأمامي فقط، تاركًا الجزء الخلفي من المنزل في الظلام. يتم تدريب الذكاء الاصطناعي في الغالب على بيانات من الدول الغنية، لذا فهو "يعتقد" أن بقية العالم لا يهم أو غير موجود.
📊 الركائز الثلاث للاختبار
اختبر الباحث أمين المكتبة في ثلاثة مجالات محددة للذكاء الاصطناعي:
- السلامة: هل تمتلك الدولة حواسيب قوية لتشغيل الذكاء الاصطناعي؟
- العدالة: هل يستثمر الناس الأموال ويخترعون ابتكارات جديدة هناك؟
- الجاهزية: هل الحكومة مستعدة لاستخدام الذكاء الاصطناعي؟
النتيجة: كان أمين المكتبة سيئًا للغاية في الإجابة على أسئلة حول هذه المواضيع بالنسبة لـ "منطقة النسيان". على سبيل المثال، عند السؤال عن "جاهزية الحكومة للذكاء الاصطناعي" للعديد من الدول الأفريقية، تجاوز معدل الرفض 60%.
⚠️ لماذا يجب أن نهتم؟
هذا ليس مجرد لعبة كمبيوتر؛ بل يتعلق بالقوة في العالم الحقيقي.
- تشبيه "الطيار الأعمى": تخيل طيارًا يحلق بطائرة فوق عاصفة. إذا كانت خريطته تفتقد نصف التضاريس، فقد يتحطم. وبالمثل، إذا استخدم قادة العالم الذكاء الاصطناعي لاتخاذ القوانين أو توزيع المساعدات، وكان هذا الذكاء الاصطناعي "أعمى" تجاه دول معينة، فستتخلف تلك الدول عن الركب أو تُعامل بشكل غير عادل.
- الخطر: إذا أخبر الذكاء الاصطناعي صانع قرار في دولة نامية: "ليس لديك صناعة ذكاء اصطناعي"، فقد يتوقف صانع القرار عن محاولة بناء واحدة. ولكن إذا كان الذكاء الاصطناعي خاطئًا فقط (بسبب نقص البيانات)، فإن الدولة ستفقد فرصة هائلة.
🛠️ الحل: ما الخطوة التالية؟
يقوم المؤلف، جيسون هانغ، ببناء أداة جديدة تسمى مجموعة بيانات الذكاء الاصطناعي العالمية (GAID). فكر في هذا كأنه موسوعة ضخمة وفائقة الدقة يمكن للذكاء الاصطناعي قراءتها ليتعلم الحقيقة حول كل دولة.
- الهدف: إجبار نماذج الذكاء الاصطناعي على التوقف عن التخمين والبدء في تعلم الحقائق الحقيقية حول الجنوب العالمي.
- الخلاصة: نحن بحاجة إلى تعليم الذكاء الاصطناعي ليكون مواطنًا عالميًا، وليس مواطنًا غربيًا فقط. حتى نصلح هذا "العمى الرقمي"، سيستمر الذكاء الاصطناعي في تعزيز الفجوة بين الأغنياء والفقراء، بدلًا من المساعدة في سدها.
💡 باختصار
هذه الورقة البحثية هي بمثابة "ملصق تحذيري" على تقنية الذكاء الاصطناعي الحالية. تقول: "هذه الأداة رائعة للعالم الغني، لكنها جاهلة بشكل خطير ببقية الكوكب. إذا استخدمناها لاتخاذ قرارات كبرى دون إصلاح نقاطها العمياء، فإننا نخاطر بجعل العالم أكثر عدم مساواة."
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.