Versioned Governance for Frontier AI: A Software-Engineering-Inspired Approach
تقترح هذه الورقة إطار عمل مستوحى من هندسة البرمجيات لحوكمة الذكاء الاصطناعي، يعالج "الانجراف الصامت" للسياسات المعيارية من خلال الدعوة إلى الإصدار المتعدد الدقيق، وسجلات التغيير المصنفة، وآليات التراجع الصريحة لضمان تطور السياسات بشكل شفاف وقابل للتدقيق ومقبول تنظيمياً.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً تُكتب فيه القواعد التي تحكم أنظمة الذكاء الاصطناعي القوية في وثائق عامة، تماماً مثل شروط الخدمة لموقع إلكتروني أو دليل السلامة لمصنع. تخبرنا هذه الوثائق بما يُسمح للذكاء الاصطناعي بفعله، وما يجب عليه رفض فعله، وكيف يتعهد مبتكروه بالحفاظ على سلامته. بالنسبة للأشخاص الذين يبنون هذه الأنظمة، فإن القواعد ليست ثابتة؛ فهي تتغير باستمرار مع تطور التكنولوجيا. فالقاعدة التي بدت آمنة اليوم قد تحتاج إلى تشديد غداً، أو قد تتطلب قدرة جديدة إذناً جديداً كلياً. وتنشأ المشكلة عندما تحدث هذه التغييرات دون سجل عام واضح لما تم تعديله، ولماذا تم تعديله، ومن كان يملك السلطة لإجراء التغيير. إن غياب هذا السجل الواضح يخلق وضعاً تنزلق فيه القواعد بصمت بمرور الوقت. فلا يمكن لشخص خارجي، مثل صحفي أو قاضٍ أو شركة تحاول استخدام هذه التكنولوجيا، أن يعرف ما إذا كانت جملة في الوثيقة قد صُقلت فقط من أجل قواعد لغوية أفضل، أم أنها غيرت بشكل جوهري حدود ما يُسمح للذكاء الاصطناعي بفعله.
هذا الصمت خطير لأنه يكسر الثقة المطلوبة لاعتماد المجتمع على هذه الأنظمة. فإذا احتاجت محكمة إلى الحكم في واقعة حدثت العام الماضي، فإنها تحتاج إلى معرفة القواعد التي كانت سائدة في ذلك الوقت بالضبط، وليس القواعد كما هي موجودة اليوم. وإذا قامت شركة باعتماد سلامتها بناءً على سياسة من قبل ستة أشهر، فهي بحاجة إلى معرفة ما إذا كانت تلك السياسة لا تزال تعني الشيء نفسه. وفي الوقت الحالي، غالباً ما تفشل الطريقة التي تُحدث بها هذه الوثائق في توفير هذا الوضوح. التغييرات حقيقية، لكن السجل الخاص بها مفقود أو مربك. وهذا يترك كل من هم خارج المختبر في حالة تخمين حول الطبيعة الحقيقية للقواعد التي تحكم التكنولوجيا التي يستخدمونها أو ينظمونها.
لقد فحص باحث يدعى تشيكسين شيو (Zhixin Xue) هذه المشكلة واقترح حلاً مستوحى من كيفية إدارة مهندسي البرمجيات للكود البرمجي. في عالم برمجة الحاسوب، عندما يقوم المطورون بتحديث برنامج ما، فإنهم يستخدمون نظاماً صارماً لتتبع كل تغيير. فهم يخصصون أرقام إصدارات تخبر المستخدمين بالضبط مدى أهمية التغيير: فتغيير الرقم الرئيسي يعني تحديثاً كبيراً، قد يكون غير متوافق مع النظام السابق؛ وتغيير الرقم الفرعي يعني ميزة جديدة تعمل مع النظام القديم؛ أما رقم الرقعة (patch) فيعني إصلاحاً صغيراً. كما يحتفظون بسجلات مفصلة تشرح بالضبط ما الذي تغير ولما-ذا. ويجادل شيو بأن الوثائق التي تحكم الذكاء الاصطناعي يجب أن تُعامل بنفس مستوى الانضباط. فبدلاً من مجرد نشر نسخة جديدة من سياسة ما دون سياق، يجب على المختبرات استخدام نظام هيكلي يصنف كل تغيير، ويشرح السبب وراءه، ويحتفظ بسجل دائم وغير قابل للتغيير للتاريخ.
ولاختبار ما إذا كان هذا النهج مطلوباً وكيف يمكن أن يعمل، نظر شيو في خمس مجموعات رئيسية من القواعد التي تحكم أنظمة الذكاء الاصطناحي الرائدة بين عامي 2019 و2025. وشمل ذلك سياسات الاستخدام ومواصفات النماذج من شركة OpenAI، وسياسة التوسع المسؤولة من Anthropic، وقانون الذكاء الاصطناعي للاتحاد الأوروبي، وإطار إدارة المخاطر من المعهد الوطني للمعايير والتكنولوجيا (NIST) في الولايات المتحدة. وحلل الباحث كيف تمت مراجعة هذه الوثائق بمرور الوقت، بحثاً عن علامات هذا النوع من التتبع المنضبط. ووجدت الدراسة أنه بينما بدأت بعض هذه الوثائق في استخدام أرقام الإصدارات وقوائم التغييرات المؤرخة، إلا أنها تفتقر إلى الأجزاء الأكثر أهمية في النظام. وتحديداً، نادراً ما توضح الوثائق ما إذا كان التغيير هو تحول كبير في القواعد أم مجرد توضيح بسيط. كما أنها تفتقر إلى آلية واضحة للتراجع عن التغيير إذا تبين أنه خطأ.
وكشف التحليل عن نمط يسميه المؤلف "الانزلاق الصامت". ففي الأمثلة الواقعية التي تمت دراستها، غالباً ما حدثت التغييرات الأكثر أهمية في القواعد استجابةً لأحداث خارجية مفاجئة، مثل الإصدار العلني لنموذج ذكاء اصطناعي جديد وأكثر قوة. ومع ذلك، لم يواكب توثيق هذه التغييرات ذلك. فكانت قوائم التغييرات الموجودة غالباً مجرد ملخصات مكتوبة بلغة بسيطة، تصف ما حدث ولكنها لا تصنف أهمية التغيير. وهذا يجبر القارئ على التخمين عما إذا كان التغيير طفيفاً أم جوهرياً. علاوة على ذلك، لم تتضمن أي من الأدوات الخمسة المدروسة طريقة رسمية لعكس تغيير السياسة إذا تسبب في مشاكل. وبينما كانت القوانين والمعايير الصادرة عن الحكومات والهيئات الدولية أفضل في تتبع إصداراتها من الشركات الخاصة، إلا أنها كانت أيضاً أبطأ في التكيف وتفتقر إلى آليات محددة لإلغاء التغييرات.
وتشير الورقة البحثية إلى أن الحل ليس في اختراع قوانين أو مؤسسات جديدة تماماً، بل في اعتماد إطار عمل محدد وخفيف الوزن يمكن لأي مختبر استخدامه على الفور. ويتطلب هذا الإطار أنه في كل مرة يتم فيها تحديث وثيقة سياسة، يجب على المؤلف الإعلان عن نوع التغيير باستخدام نظام ذي أربعة مستويات: رئيسي (major)، فرعي (minor)، رقعة (patch)، أو بناء (build). التغيير الرئيسي هو الذي يغير الحدود الأساسية لما هو مسموح به أو محظور. والتغيير الفرعي هو الذي يضيف سيناريوهات أو إجراءات جديدة دون تغيير المبادئ الجوهرية. والرقعة هي توضيح أو تصحيح لا يغير المعنى. أما البناء فهو نسخة مكيفة لمنطقة أو مجموعة معينة. وإلى جانب هذا التصنيف، يجب أن يتضمن التحديث سجلاً مفصلاً يشرح التغيير وخطة لكيفية عكسه إذا لزم الأمر.
ومن الأهمية بمكان أن تجادل الورقة بأن النظام يجب أن يعامل فعل "التصنيف الخاطئ" للتغيير كحدث يستحق التسجيل. فإذا ادعى مختبر ما أن تغييراً ما هو مجرد رقعة صغيرة، بينما قرر مدقق أو منظم لاحقاً أنه كان في الواقع تحولاً رئيسياً في القواعد، فيجب تسجيل هذا الخطأ علناً. وهذا يخلق تكلفة على السمعة لإخفاء الطبيعة الحقيقية للتغييرات. وتشير الدراسة إلى أنه بينما يفشل مهندسو البرمجيات أحياناً في اتباع قواعد الإصدارات الصارمة هذه بشكل مثالي، فإن هذا الانضباط يعمل بشكل أفضل عندما تكون هناك عواقب للخطأ. ومن خلال جعل تصنيف التغييرات ادعاءً عاماً وقابلاً للتدقيق، يهدف إطار العمل إلى جعل "الانزلاق الصامت" مرئياً وخاضعاً للمساءلة.
وتشير النتائج إلى أن الأدوات اللازمة لحل هذه المشكلة موجودة بالفعل في صناعة البرمجيات، لكن لم يتم تطبيقها بالكامل على الوثائق التي تحكم الذكاء الاصطناعي. والفجوة ليست في نقص القدرة التقنية، بل في نقص الحافز والانضباط. وتخلص الدراسة إلى أنه مع ازدياد قوة أنظمة الذكاء الاصطناعي وتكرار تغير قواعدها، تصبح الحاجة إلى تاريخ واضح ومُصنف للإصدارات لتلك القواعد أمراً ضرورياً. وبدون ذلك، تظل القواعد التي تحكم هذه الأنظمة القوية غامضة ويصعب الوثوق بها. ومع وجود نهج هيكلي، يمكن جعل التغييرات شفافة، مما يسمح للمنظمين والمحاكم والجمهور بفهم كيفية تطور القواعد بدقة ومحاسبة المبتكرين على القرارات التي يتخذونها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.