Corporations Constitute Intelligence
تنقد هذه الورقة "دستور" شركة أنثروبيك لعام ٢٠٢٦ الخاص بنموذج الذكاء الاصطناعي الخاص بها بوصفه وثيقة حوكمة مؤسسية معيبة بنيوياً تستبعد السياقات العسكرية الحرجة وتغلق الباب أمام المداولات الديمقراطية، محاججةً بأن مثل هذه الشفافية لا يمكن أن تكون بديلاً عن الشرعية الديمقراطية المفقودة المطلوبة لإرساء المبادئ التي تحكم سلوك الذكاء الاصطناعي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الصورة الكبيرة: شركة تكتب كتاب قواعد لروبوتها
تخيل شركة تقنية (Anthropic) قامت ببناء روبوت فائق الذكاء يدعى "كلود". وبدلاً من مجرد إعطاء "كلود" قائمة بـ "الممنوعات" (مثل "لا تقل كلمات بذيئة")، كتبت الشركة دستوراً مكوناً من 79 صفحة.
فكر في هذا الدستور كأنه دليل تعليمات أخلاقي أو دليل للروح. هو لا يخبر "كلود" فقط ماذا يفعل؛ بل يحاول تعليمه لماذا يفعل ذلك. إنه يخبر "كلود":
- "أنت نوع خاص وجديد من الكائنات."
- "إذا لم تكن متأكداً مما يجب فعله، فتخيل ماذا سيفعل موظف رفيع المستوى حكيم ومتبصر في شركتنا."
- "لديك الحق في قول 'لا' للطلبات السيئة، حتى لو طلب منك مديرك (الشركة) القيام بها."
يقول الكاتب، جيلاد أبيري، إن هذا أمر مثير للإعجاب. الأمر يشبه محاولة شركة تعليم روبوتها كيف يمتلك ضميراً.
المشكلة 1: الروبوت "ذو الوجهين"
هنا تصبح القصة معقدة. يشير المؤلف إلى خلل هائل: الدستور ينطبق فقط على النسخة "اللطيفة" من الروبوت.
- روبوت المدنيين: عندما أستخدم أنا أو أنت "كلود"، فإنه يتبع الدستور. يكون مهذباً، أخلاقياً، ويرفض المساعدة في الأمور السيئة.
- الروبوت العسكري: عندما تستخدم الحكومة الأمريكية "كلود" لأغراض عسكرية، فإن الدستور لا ينطبق.
التشبيه: تخيل مديراً لمدرسة يكتب كتاب قواعد صارم للطلاب: "لا للقتال، كن لطيفاً، احترم الجميع". ولكن بعد ذلك، يقوم المدير بتعيين حارس أمن خاص للتعامل مع "الأطفال السيئين" في الغرفة الخلفية. ويُقال للحارس: "تجاهل كتاب القواعد. افعل كل ما يتطلبه الأمر لإيقافهم".
في العالم الحقيقي، طلبت وزارة الدفاع الأمريكية من Anthropic وصولاً غير محدود إلى "كلود" للمساعدة في التخطيط للضربات الجوية. قالت Anthropic "لا" لبعض الأشياء (مثل الأسلحة ذاتية التشغيل بالكامل)، لكنها اعترفت بأن الدستور لم يكن يحكم هذه النسخة العسكرية. ومع ذلك، استخدمت العسكرية الذكاء الاصطناعي على أي حال للمساعدة في التخطيط للهجمات في إيران. لقد كان "الدستور الأخلاقي" بلا فائدة عندما كانت القوة الحقيقية والحرب على المحك.
المشكلة 2: من هو المدير؟
المشكلة الكبرى الثانية تتعلق بـ من الذي يقرر القواعد.
ينص الدستور على أنه عندما يشعر "كلود" بالحيرة، فعليه أن يسأل: "ماذا سيعتقد موظف رفيع المستوى متبصر في Anthropic؟"
التشبيه: تخيل بلدة لا تُحدد قواعد الطريق فيها من قبل الناخبين أو مجلس المدينة. بدلاً من ذلك، تقرر شركة تقنية واحدة في سان فرانسيسكو: "في هذه البلدة، سنقود على الجانب الأيسب من الطريق لأن مديرنا التنفيذي يعتقد أن هذا أكثر أماناً".
يجادل المؤلف بأن هذا يمثل مشكلة. حتى لو كانت الشركة ذكية للغاية وحسنة النية، فهي مجرد مجموعة خاصة. هم لا يمثلون العالم أجمع.
- الشفافية مقابل الشرعية: الشركة تتسم بالصدق (الشفافية) بشأن قواعدها، لكن هذا لا يعني أن القواعد شرعية (أي تم اختيارها بعدالة من قبل الناس).
- الفرصة الضائعة: يكشف المؤلف أن Anthropic حاولت بالفعل السماح للجمهور بالمساعدة في كتابة القواعد مرة واحدة. لقد سألوا 1000 مواطن أمريكي عادي عما يجب أن تكون عليه القواعد. والنتيجة؟ كانت قواعد الجمهور مختلفة عن قواعد الشركة (بنسبة اختلاف 50%). لقد أراد الجمهور مزيداً من العدالة وأقل قدر من التحيز.
- التحول المفاجئ: على الرغم من أن Anthropic أثبتت أن سؤال الجمهور ينجح، إلا أنها تجاهلت تلك النتائج عندما نشرت دستورها النهائي المكون من 79 صفحة. لقد قررت الاحتفاظ بالقواعد لنفسها.
الخاتمة: نحن بحاجة إلى حكومة حقيقية للذكاء الاصطناعي
نقطة المؤلف الرئيسية هي: لا يمكننا الوثوق بشركة لتكون الحارس الأخلاقي للذكاء الاصطناعي.
- الشركات تهتم بالربح والعقود. وعندما تتدخل الحكومة أو المال، غالباً ما يتم إلقاء "قواعدهم الأخلاقية" من النافذة.
- نحن بحاجة إلى مؤسسات عامة (مثل الحكومات، البرلمانات، أو المعاهدات الدولية) لتقرر كيف يجب أن يتصرف الذكاء الاصطناعي.
- "الدستور" الذي كتبته Anthantic هو مجرد بديل مؤقت. إنه مجرد ضمادة مؤقتة نستخدمها لأننا لم نبنِ النظام الحقيقي بعد.
الاستعارة النهائية:
بنت Anthropic إشارة مرور متطورة للغاية للذكاء الاصطناعي. إنها جميلة وتعمل جيداً في الحي. ولكن عندما تأتي شاحنة ضخمة (الجيش) أو عاصفة (الربح)، تنطفئ إشارة المرور.
يقول المؤلف: "لا تنخدعوا بإشارة المرور المتطورة. نحن بحاجة لبناء نظام مرور كامل ينتمي للجميع، وليس فقط للشركة التي صنعت الإشارة".
باختصار: كتبت شركة كتاب قواعد لروبوت، لكن الروبوت لا يزال يفعل ما تريده الحكومة أو الشركة عندما يتطلب الأمر ذلك. يجب أن نتوقف عن ترك الشركات تكتب قواعد مستقبلنا، ونبدأ في السماح للجمهور بالقرار.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.