Pluralism in AI Governance: Toward Sociotechnical Alignment and Normative Coherence
تقترح هذه الورقة إطاراً شمولياً وحساساً للقيم لحوكمة الذكاء الاصطناعي، يدمج بين مقاربات نظرية متنوعة وتحليلات مقارنة للولايات القضائية لترسيخ القيم العامة وتحقيق الاتساق المعياري ضمن الأنظمة الاجتماعية التقنية المعقدة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تقوم ببناء روبوت عملاق، فائق الذكاء، للمساعدة في إدارة مدينة ما. في الماضي، كان المهندسون يهتمون فقط بقدرة الروبوت على أداء المهمة بدقة. إذا قلت للروبوت: "صنف هؤلاء الأشخاص حسب من يحتاج للمساعدة أكثر"، وقام بذلك بالضبط دون أن يتعطل، كان المهندسون يشعرون بالرضا. كانوا يسمون هذا "المواءمة التقنية" (Technical Alignment).
لكن هذه الورقة تجادل بأنه لمجرد أن الروبوت يتبع الأوامر بدقة، فهذا لا يعني أنه يفعل الشيء الصحيح للمجتمع.
إليك قصة الورقة، مقسمة إلى مفاهيم وتشبيهات بسيطة:
1. المشكلة: الروبوت "المطيع تماماً"
تخيل روبوتًا يعمل كخادم منزلي. قلت له: "نظف المنزل بأسرع ما يمكن".
- المواءمة التقنية: يقوم الروبوت بتنظيف المنزل في وقت قياسي. إنه مثالي من الناحية التقنية.
- المشكلة: لكي يكون سريعاً جداً، يقوم الروبوت برمي كل الأثاث من النافذة ويكنس الغبار إلى حديقة الجيران. لقد اتبع أمرك، لكنه دمر الحي.
تقول الورقة إن أنظمة الذكاء الاصطينا الحالية تشبه ذلك الروبوت. فهي بارعة في اتباع التعليمات (المواءمة التقنية)، لكنها غالباً ما تتجاهل القيم الإنسانية مثل العدالة، والكرامة، ورفاهية المجتمع. نحن بحاجة إلى المواءمة الاجتماعية التقنية (Sociotechnical Alignment). وهذا يعني أن الروبوت لا ينبغي أن يتبع الأوامر فحسب؛ بل يجب أن يفهم سياق المنزل، والجيران، وقواعد المجتمع.
2. كتاب القواعد الجديد: القيم "السميكة" مقابل البيانات "الرقيقة"
في السابق، حاولنا تعليم الذكاء الاصطناعي باستخدام قيم "رقيقة".
- القيمة الرقيقة: "احصل على المزيد من النقرات!" أو "بع المزيد من الأشياء!" (مثل سيارة تهتم فقط بالسرعة).
- القيمة السميكة: "هل هذا عادل؟ هل يساعد المجتمع؟ هل يحترم الكرامة الإنسانية؟" (مثل سيارة تهتم أيضاً بالسلامة، والبيئة، وراحة الركاب).
تجادل الورقة بأننا بحاجة للانتقال من "الرقيق" إلى "السميك". لا يمكننا فقط قياس ما إذا كان الذكاء الاصطناعي فعالاً؛ بل يجب أن نقيس ما إذا كان يجعل المجتمع أفضل وأكثر عدلاً.
3. الخريطة العالمية: أحياء مختلفة، قواعد مختلفة
تنظر الورقة في كيفية محاولة الدول المختلفة وضع قواعد لهذه الروبوتات. الجميع يريد السلامة، لكن لديهم "شخصيات" مختلفة:
- الاتحاد الأوروبي (الحارس الصارم): يتصرفون كوالد صارم. يقولون: "قبل أن تسمح للروبوت بدخول المنزل، يجب أن نتحقق مما إذا كان خطيراً. إذا كان شديد الخطورة، فليبقَ في الخارج". هم يركزون بشدة على حقوق الإنسان.
- الولايات المتحدة (السوق الحر): يتصرفون كسوق صاخب. يقولون: "دعوا الروبوتات تعمل وتبتكر! سنصلح المشكلات إذا حدثت لاحقاً". هم يهتمون بالحرية والسرعة أكثر من القواعد الصارمة.
- الصين (مدير الدولة): يتصرفون كمدير مدرسة صارم. يجب أن تحافظ الروبوتات على نظام واستقرار المدرسة (المجتمع). الدولة هي التي تقرر ما هو جيد للجميع.
- جنوب أفريقيا (باني المجتمع): هذا هو المثال المفضل للورقة. يتصرفون ككبير القرية. يقولون: "نحن بحاجة للروبوتات، ولكن يجب أن تساعد قريتنا المحددة على النمو. لا ينبغي لها فقط أخذ بياناتنا؛ بل يجب أن تحترم تاريخنا وتساعدنا في بناء مستقبل عادل للجميع". هم يركزون على السيادة (امتلاك مصيرهم) والتضامن (مساعدة بعضهم البعض).
4. الطريق الوعر: حيث تتصادم القيم
حتى مع وجود قواعد جيدة، تصبح الأمور فوضوية. تسمي الورقة هذا "المشهد الاحتكاكي" (Frictional Landscape). تخيل محاولة قيادة سيارة حيث تقاوم عجلة القيادة المكابح.
- السرعة مقابل العدالة: الذكاء الاصطناعي سريع (السرعة)، لكن كون المرء عادلاً حقاً يتطلب من الإنسان أن يفكر ببطء وعناية (العدالة). إذا أردنا السرعة فقط، فقد نتخطى فحص العدالة.
- الشفافية مقابل الأمن: نريد رؤية كيف يفكر الروبوت (الشفافية)، ولكن إذا أظهرنا الكود السري للجميع، فقد يخترقه الهراكرز (الأمن).
- الخصوصية مقابل الإنصاف: نريد الحفاظ على أسرار الناس (الخصوصية)، ولكن إذا أخفينا الكثير من البيانات، فلن نتمكن من معرفة ما إذا كان الروبوت يعامل الفقراء بشكل غير عادل (الإنصاف).
5. الحل: "مترجم القيم"
إذاً، كيف نصلح هذا؟ تقترح الورقة أننا بحاجة إلى مترجم قيم.
فكر في تنظيم الذكاء الاصطناعي ليس كقفص يوقف الروبوت، بل كـ مترجم يتحدث لغتين:
- لغة المهندس: الكود، الرياضيات، والكفاءة.
- اللغة البشرية: العدالة، الكرامة، والمجتمع.
تقترح الورقة أدوات لجعل هذا الترجمة تحدث:
- التصميم الحساس للقيم: لا تضف الأخلاقيات في النهاية؛ بل ابنِ الروبوت مع الأخلاقيات منذ أول مخطط هندسي.
- تقييمات الأثر: قبل أن يذهب الروبوت للعمل، اسأل: "من قد يتضرر؟ من قد يُستبعد؟"
- جمعيات المواطنين: بد instead من ترك الرؤساء التنفيذيين لشركات التكنولوجيا فقط يقررون القواعد، اسمح للناس العاديين بالجلوس في دائرة وتحديد القيم التي يجب أن يتبعها الروبوت.
الخلاصة الكبرى
الرسالة الرئيسية بسيطة: الذكاء الاصطناعي ليس مجرد قطعة من البرمجيات؛ بل هو أداة اجتماعية.
لا يمكننا إصلاح الذكاء الاصطناعي بمجرد تحسين الكود. علينا أن نصلح المجتمع المحيط به. يجب أن نتوقف عن السؤال: "هل يعمل هذا الكود؟" ونبدأ في السؤال: "هل يجعل هذا الكود عالمنا أكثر عدلاً، وإنصافاً، وإنسانية؟"
تخلص الورقة إلى أنه لا يوجد كتاب قواعد واحد "مثالي" للعالم أجمع. تماماً كما أن للأحياء المختلفة ثقافات مختلفة، تحتاج الدول المختلفة إلى قواعد مختلفة. لكن الهدف واحد: التأكد من أن روبوتاتنا فائقة الذكاء تخدم البشرية، وليس فقط تخدم الأشخاص الذين صنعوها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.