On Regulating Downstream AI Developers
تجادل هذه الورقة بأنه في حين أن تنظيم مطوري النماذج التأسيسية في المنبع لتخفيف مخاطر التعديلات اللاحقة يعد أمراً ضرورياً، فإن التنظيم المباشر لمطوري النماذج المتنوعين في المصب قد يكون ضرورياً أيضاً في الحالات التي يمكنهم فيها تضخيم المخاطر إلى مستويات غير مقبولة، رغم وجوب موازنة مثل هذه التدابير مع التحديات العملية والمخاوف المتعلقة بالابتكار.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالم الذكاء الاصطناعي كأنه مطبخ ضخم وعالي التقنية.
في هذا المطبخ، يوجد عدد قليل من الطهاة العمالقة والمشهورين (المطورون في المنبع، مثل OpenAI أو Google) الذين يبتكرون "الوصفات الأساسية" (النماذج التأسيسية). هذه الوصفات قوية للغاية؛ إذ يمكنها خبز الخبز، أو طهي شريحة لحم، أو حتى تحضير "سوفليه" معقد. ولأن هؤلاء الطهاة أذكياء ويمتلكون تمويلاً ضخماً، فقد وضعوا أقفال سلامة في وصفاتهم: "لا تخلط هذا مع ذاك"، أو "هذا الفرن يسخن بشدة، لذا لا تتركه دون مراقبة".
الآن، لندخل عالم المطورين في المصب. هؤلاء هم آلاف الطهاة المنزليين، والمقاهي الصغيرة، وعربات الطعام التي تأخذ تلك "الوصفات الأساسية" وتعدل عليها. ربما يضيف طاهٍ منزلي توابل سرية لجعل الخبز أفضل لمنطقة معينة. قد تعدل مقهى صغيرة الوصفة لتناسب موقداً أرخص ثمنًا. قد تدمج عربة طعام وصفتين لصنع طبق "فيوجن" جديد.
المشكلة:
تجادل الورقة بأنه بينما يقوم الطهاة العمالقة بعمل جيد في تنظيم وصفاتهم الأساسية، فإن الطهاه المنزليين والمقاهي الصغيرة يمثلون "الورقة الرابحة" غير المتوقعة.
- الجانب الجيد: إنهم يجعلون الوصفات مفيدة للجميع. فهم يعدلون "الوصفة الأساسية" لحل مشكلات محلية، مثل إنشاء أداة للتشخيص الطبي لمستشفى معين.
- الجانب السيئ: أحياناً، قد يقوم أحد الطهاة بإزالة قفل السلامة عن غير قصد أثناء محاولته جعل الطبق ألذ طعماً. أو قد يقوم فاعل سيء الإرادة بإزالة أقفال السلامة عمداً لإنتاج طبق "مسموم".
إذا اكتفى الطهاة العمالقة بتنظيم أنفسهم فقط، بينما يستمر الطهاة المنزليون في إزالة أقفال السلامة، فإن المطبخ بأكله سيكون في خطر.
الطرق الثلاثة لإصلاح المطبخ
يقترح المؤلفون ثلاث طرق رئيسية يمكن للمسؤولين عن السياسات (أو "مفتشي الصحة") التعامل بها:
1. تنظيم الطهاة المنزليين مباشرة ("تنظيم المصب")
الفكرة: يدخل مفتش الصحة إلى كل مطبخ منزلي، وعربة طعام، ومقهى ليفحص وصفاتهم.
- الإيجابيات: يمسك بالنماذج السيئة مباشرة. إذا كان شخص ما يصنع طبقاً خطيراً، يتم إيقافه فوراً.
- السلبيات: هناك الكثير جداً من الطهاة المنزليين! فحص كل واحد منهم سيكون كابوساً. سيكلف ثروة، وقد يسحق الشركات الصغيرة التي أرادت فقط صنع شطيرة أفضل. قد يؤدي ذلك إلى خنق الإبداع لأن الجميع سيكونون خائفين من تجربة أشياء جديدة.
2. تنظيم الطهاة العمالقة للتحكم في الطهاة ("تنظيم المنبع")
الفكرة: يقول المفتش الصحي للطهاة العمالقة: "أنتم مسؤولون عما يحدث لوصفاتكم بعد خروجها من مطبخكم. يجب أن تضعوا 'ختماً مانعاً للعبث' عليها، أو يجب عليكم التحقق من هوية من يأخذها".
- الإيجابيات: من الأسهل إدارة عدد قليل من الطهاة العمالقة بدلاً من آلاف الطهاة المنزليين. يمكن للطهاة وضع أقفال تقنية على الوصفات بحيث لا يمكن تعديلها بسهولة.
- السلبيات: لا يمكن للطهاة العمالقة توقع كل طريقة ممكنة قد يعبث بها الطاهي المنزلي بالوصفة. أيضاً، إذا شعر الطهاة بالخوف الشديد، فقد يقولون: "لا أحد يمكنه لمس وصفاتنا!"، مما يوقف الجميع عن الابتكار. بالإضافة إلى ذلك، قد يجد شخص سيء الإرادة طريقة لكسر الختم على أي حال.
3. عدم فعل أي شيء جديد، والاكتفاء بتقديم النصائح ("التوجيه الطوعي")
الفكرة: لا يكتب المفتش الصحي قوانين جديدة. بدلاً من ذلك، يضع لافتة تقول: "يا أيها الطهاة، إليكم قائمة بأفضل الممارسات. وأيضاً، إذا تسببتم في تسميم شخص ما، فسيتم مقاضاتكم".
- الإيجابيات: هي طريقة رخيصة ولا تمنع أحداً من الطبخ. وهي تشجع الناس على التصرف بشكل جيد طواعية.
- السلبيات: الفاعلون السيئون لا يهتمون باللافتات. إذا أراد شخص ما صنع قنبلة في المطبخ، فلن يتبع النصائح. كما أن الدعاوى القضائية لا تحدث إلا بعد أن يتضرر شخص ما، وهو وقت متأخر جداً.
توصية المؤلفين: "مزيج ذكي"
تقترح الورقة نهجاً متوازناً، يشبه نظام أمني متعدد المستويات:
- ابدأ بالنصيحة: أولاً، قدم للجميع (الطهاة والطهاة المنزليين) "كتاب طبخ للسلامة". أخبرهم بما يجب فعله وما لا يجب فعله.
- اجعل الطهاة مسؤولين: عندما تُسن قوانين جديدة، تأكد من أن الطهاة العمالقة مطالبون ببناء "حواجز سلامة". يجب عليهم توقع أن شخصاً ما قد يعدل وصفتهم، وبناء حمايات إضافية للتعامل مع ذلك.
- راقب وانتظر: راقب المطبخ بعنا_ية. إذا رأينا أن أنواعاً معينة من الطهاة المنزليين بدأت تصنع أطباقاً خطيرة (مثل أولئك الذين يستخدمون كميات هائلة من القوة الحوسبية لكسر أقفال السلامة)، حينها نتدخل.
قاعدة "الاستهداف":
لا ينبغي لنا تنظيم كل طاهٍ منزلي. بل يجب أن ننظم فقط أولئك الذين:
- يقومون بتعديل وصفة كانت خطيرة في الأصل.
- يعمدون إلى كسر أقفال السلامة.
- يجرون تغييرات تجعل الطبق أكثر قوة (ومحتمل الخطورة) بشكل كبير.
إذا كان الطاهي المنزلي يضيف فقط القليل من الملح الإضافي، فهو بخير. ولكن إذا كان يحاول تحويل وصفة كعكة إلى سلاح كيميائي، فعليه التسجيل لدى مفتش الصحة وإثبات أن وصفته الجديدة آمنة.
تشبيه الصورة الكبيرة: صناعة السيارات
فكر في المطور في المنبع كشركة فورد التي تصنع سيارة. إنهم يثبتون المكابح والوسائد الهوائية.
والمطور في المصب هو ميكانيكي يشتري السيارة ويضيف إليها شاحناً توربينياً أو يغير البرمجيات.
- إذا أضاف الميكانيكي شاحناً توربينياً، ستصبح السيارة أسرع (ابتكار).
- ولكن إذا أزال المكابح لجعل السيارة أخف وزناً، فستصبح فخاً مميتاً (خطر).
تقول الورقة: لا تكتفوا بتنظيم شركة فورد فقط. ولا تحاولوا ترخيص كل ميكانيكي في العالم. بدلاً من ذلك، اجعلوا فورد تصنع سيارات يصعب كسرها، وقدموا للميكانيكيين دليلاً حول كيفية التعديل بأمان، ولا تكتفوا بترخيص الميكانيكيين الذين يجرون تغييرات ضخمة على المحرك.
باخت-صار: نحن بحاجة للسماح للناس بالطبخ والابتكار، لكن لا يمكننا السماح لهم بإزالة طفايات الحريق من المطبخ. الحل هو مزيج من القواعد الواضحة للطهاة الكبار، والنصائح الجيدة للجميع، والقواعد الصارمة فقط للطهاة الذين يجرون أكبر التغييرات وأكثرها خطورة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.