Whose Knowledge Counts? Co-Designing Community-Centered AI Auditing Tools with Educators in Hawai`i
من خلال ورش عمل التصميم المشترك مع ٢٢ تربوياً في هاواي، تحدد هذه الورقة المخاوف بشأن التمثيل الثقافي الخاطئ في الذكاء الاصطناعي التوليدي وتقترح أدوات تدقيق متمحورة حول المجتمع ومستندة إلى القيم الثقافية الهاوائية لضمان تقنيات تعليمية عادلة ومستجيبة ثقافياً.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك اشتريت للتو مساعد معلم آلي ذكي للغاية وجديد تماماً. تطلب منه المساعدة في كتابة قصة عن مسقط رأسك، ويقوم بعمل رائع، باستثناء شيء واحد: إنه يخطئ في التاريخ، ويستخدم الصور النمطية، ويفتقر إلى روح مجتمعك.
هذا هو بالضبط ما حدث عندما طلب باحثون في هاواي من المعلمين المحليين تجربة الذكاء الاصطالو التوليدي (مثل ChatGPT) في فصولهم الدراسية. أحب المعلمون فكرة وجود مساعد، لكنهم أدركوا بسرعة أن "الروبوت" كان "يهلوس" بالحقائق، والأهم من ذلك، أنه كان يُسيء تمثيل ثقافتهم.
إليك شرح مبسط لورقة البحث "لمن تعود الأولوية للمعرفة؟" (Whose Knowledge Counts?) باستخدام بعض التشبيهات اليومية.
1. المشكلة: الروبوت "الكتيب السياحي"
وجد الباحثون أن نماذج الذكاء الاصطناعي مدربة في الغالب على بيانات من الغرب (مثل الولايات المتحدة القارية). فكر في الذكاء الاصطناعي كأنه سائح قرأ فقط كتيباً سياحياً لامعاً عن هاواي ولكنه لم يعش فيها أبداً.
- الخلل: عندما سُئل عن الكابتن كوك، قدم الذكاء الاصطناعي قصة "منقحة"، حيث صوره كأنه مستكشف ودود. لقد تجاهل تماماً الضرر الذي سببه للسكان الأصليين في هاواي.
- الصورة النمطية: عندما طُلب منه إنشاء صورة لفصل دراسي في هاواي، ملأ الذكاء الاصطناعي المشهد بأشخاص يرتدون تنانير الهولا والأناناس، متجاهلاً حقيقة أن الفصول الدراسية الحديثة في هاواي متنوعة، وأن الأناناس في الواقع رمز للاستعمار وليس مجرد فاكهة.
- فجوة اللغة: واجه الذكاء الاصطناعي صعوبة في التعامل مع لغة "أوليلو هاواي" ('Ōlelo Hawai'i)، حيث افتقد علامات الترقيم المهمة واستخدم عبارات لا يستخدمها أي متحدث أصلي للغة.
الخطر: إذا استخدم المعلمون هذه الأدوات دون التحقق منها، فقد يعلمون الطلاب عن غير قصد نسخة مزيفة من تاريخهم.
2. الحل: بناء "حقيبة المحقق المجتمعي"
لم يكتفِ الباحثون بالقول إن "الذكاء الاصطناعي سيء". بدلاً من ذلك، جلسوا مع 22 معلماً محلياً وسألوا: "إذا كان لديكم عصا سحرية لإصلاح هذا، فكيف سيكون شكلها؟"
لم يريدوا مجرد "مدقق حقائق" عام. بل أرادوا أداة مبنية على القيم الهاوائية. إليكم الميزات الثلاث الرئيسية التي صممها المعلمون:
أ. "شجرة عائلة" المعرفة (النسب)
في العلوم الغربية، نتحقق عادة من المصدر من خلال الاستشهاد (مثلاً: "هذه الحقيقة مأخوذة من دراسة عام 2020").
في الثقافة الهاوائية، تُنقل المعرفة عبر النسب. أنت تثق في القصة بناءً على من رواها ومن علمه إياها.
- فكرة الأداة: بدلاً من مجرد عرض رابط، ستعرض الأداة "نسب المصدر". ستجيب على أسئلة مثل: من كتب هذا؟ من كان معلمه؟ هل هذا الشخص محترم في المجتمع؟
- التشبيه: الأمر يشبه التحقق مما إذا كانت الوصفة تأتي من مدونة عشوائية أو من "كوبونا" (الأجداد/الأهل). أنت تثق في نسخة الجد لأنك تعرف نسبه.
ب. "منشور المنظور"
أراد المعلمون رؤية من هو الصوت الغائب.
- فكرة الأداة: لوحة تحكم مرئية توضح "نكهة" الإجابة. إذا كان الذكاء الاصطناعي يروي قصة عن الملكة ليليوكالاني، فستوضح الأداة: "هذه الإجابة بنسبة 90% من منظور الحكومة الأمريكية. أين هو منظور سكان هاواي الأصليين؟"
- التشبيه: تخيل النظر إلى لوحة فنية من خلال منشور زجاجي. جانب واحد يظهر وجهة نظر "البر الرئيسي"، والجانب الآخر يظهر وجهة النظر "المحلية". إذا كان الجانب المحلي فارغاً، ستصدر الأداة ضوء تحذير.
ج. "العلم الأحمر" للطلاب
أدرك المعلمون أن الطلاب قد يصدقون كل ما يقوله الذكاء الاصطناعي لأنهم لا يملكون الخبرة الكافية بعد.
- فكرة الأداة: نظام تحذير واضح ومشرق. إذا أنتج الذكاء الاصطناعي شيئاً غير حساس ثقافياً، سيظهر علم كبير وودود يقول: "مهلاً، قد يكون هذا متحيزاً. دعونا نناقش السبب."
- التشبيه: الأمر يشبه تحذير "الطعام الحار" في قائمة الطعام. هو لا يمنعك من الأكل، لكنه يحذرك لتكون حذراً وتفكر فيما تستهلكه.
3. التحول الكبير: من "مدقق منفرد" إلى "حارس مجتمعي"
أهم استنتاج من الورقة البحثية هو التحول في العقلية.
- الطريقة القديمة: نتخيل خبيراً واحداً وحيداً (رجل تقني في مختبر) يتحقق من أخطاء الذكاء الاصطناعي.
- الطريقة الجديدة: أدرك المعلمون أن المجتمع وحده يمكنه حقاً تدقيق ثقافته.
- التشبيه: لن تطلب من سائح أن يحكم على جودة وليمة هاوائية تقليدية؛ بل ستطلب ذلك من الطهاة المحليين. وبالمثل، لا يمكنك الطلب من مدقق ذكاء اصطناعي عام أن يحكم على تاريخ هاواي. عملية "التدقيق" يجب أن تكون نشاطاً مجتمعياً، حيث يعمل المعلمون والأعيان معاً لبناء قاعدة بيانات مشتركة لما هو حقيقي وما هو ضار.
4. درس "المحلي مقابل العالمي"
تختتم الورقة بتحذير لبقية العالم. نحن غالباً ما نحاول بناء أدوات "مقاس واحد يناسب الجميع". ولكن تماماً كما أن الحذاء الذي يناسب قدماً في نيويورك قد يضغط على قدم في هاواي، فإن أداة الذكاء الاصطناعي العامة ستؤذي المجتمعات الأصلية.
الخلاصة:
لجعل الذكاء الاصطناعي آمناً ومفيداً، نحتاج إلى التوقف عن محاولة حشر الثقافات المحلية في قالب عالمي. بدلاً من ذلك، نحتاج إلى بناء أدوات مخصصة تحترم التاريخ واللغة والقيم المحلية. في هاواي، يعني هذا بناء نظام تدقيق للذكاء الاصطناعي يعرف أن المعرفة ليست مجرد بيانات—بل هي شجرة عائلة.
الملخص في جملة واحدة
تجادل هذه الورقة بأنه لإيقاف الذكاء الاصطناعي عن إساءة تمثيل الثقافات الأصلية، يجب أن نتوقف عن سؤال "هل هذه الحقيقة صحيحة؟" ونبدأ في سؤال "هل يحترم هذا نسب مجتمعنا وقيمه؟" من خلال بناء أدوات يسيطر عليها المجتمع ويفهمها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.