AI Governance Under Political Constraints: The Case for Ex Post Liability
تجادل هذه المقالة بأن المسؤولية الصارمة اللاحقة للواقع هي الأداة الأكثر قوة في حوكمة الذكاء الاصطناعي في ظل القيود السياسية، لأنها تتجنب إخفاقات الاستحواذ والتوافق التي تعيب التنظيمات المسبقة، بينما تقدم إطاراً لتصنيف الأدوات التكميلية وتقييم الجهود الرامية لإضعاف المسؤولية المدنية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تتحرك الذكاء الاصطناعي بسرعة أكبر من القواعد التي تهدف إلى توجيهه. ومع ازدياد قوة هذه الأنظمة، فإنها تعد بحل مشكلات صعبة في الطب والعلوم، لكنها تحمل أيضاً إمكانية حدوث أضرار جسيمة، من الاحتيال واسع النطاق إلى فقدان السيطرة البشرية على الآلات الحيوية. تحاول الحكومات في جميع أنحاء العالم تحديد كيفية إدارة هذه القوة قبل أن تسبب ضرراً. والسؤال المركزي ليس فقط ما هي القواعد التي يجب كتابتها، بل كيف تُكتب بطريقة تعمل بالفعل. التحدي يكمل في أنه لا يوجد أحد يتفق تماماً على مدى خطورة هذه الأنظمة، وأن الأشخاص الذين يبنونها لديهم نفوذ على السياسيين أكبر بكثير مما يملكه عامة الناس. هذا الاختلال يجعل من الصعب تمرير قوانين صارمة تتطلب من الشركات إثبات أن تقنيتها آمنة قبل طرحها، لأن السياسيين لا يستطيعون الاتفاق على معنى كلمة "آمن" أو مقدار المخاطر المقبولة.
تجادل ورقة بحثية جديدة للباحث غابرييل ويل، الباحث في جامعة هيوستن، بأن أفضل طريقة للتعامل مع حالة عدم اليقين هذه هي التوقف عن محاولة التنبؤ بالمستقبل والبدء في دفع ثمن الماضي. وبدلاً من إجبار الشركات على الحصول على موافقة حكومية قبل بناء أو إصدار ذكاء اصطناعي جديد، تقترح الورقة نظاماً يتم بموجبه تحميل الشركات المسؤولية المالية عن أي ضرر تسببه تقنيتها فعلياً. هذا النهج، المعروف باسم "المسؤولية اللاحقة" (ex post liability)، ينقل عبء السلامة إلى المطورين أنفسهم. فإذا عملت التقنية بشكل جيد ولم تسبب أي مشاكل، فلن تدفع الشركات شيئاً. أما إذا تسببت في كارثة، فيتعين عليها دفع ثمن الضرر. ويشير تحليل ويل إلى أن هذه الطريقة أكثر متانة ضد الضغوط السياسية وأنسب للطبيعة غير المعروفة للتكنولوجيا مقارنة بمحاولة وضع قواعد صارمة مسبقاً.
تبدأ الورقة بشرح سبب احتمال فشل الأساليب المعتادة للتنظيم في عالم الذكاء الاصطناعي. عادةً، تحاول الحكومات إدارة المخاطر من خلال وضع قواعد، أو اشتراط تراخيص، أو فرض ضرائب على الشركات التي تخلق تلك المخاطر. على سبيل المثال، قد تقول الحكومة إن على الشركة إثبات أن نظامها آمن قبل استخدامه، أو قد تفرض ضريبة بناءً على مقدار القدرة الحوسبية التي يستخدمها النظام. ومع ذلك، تتطلب هذه الأساليب اتفاقاً واضحاً على مدى خطورة التكنولوجيا. لكي تضع الحكومة معدل ضريبة أو قاعدة سلامة، يجب على السياسيين أولاً تحديد حجم الضرر المتوقع بدقة. ويشير ويل إلى أن الخبراء لا يستطيعون الاتفاق على ذلك؛ فبعضهم يعتقد أن خطر وقوع كارثة أمر مؤكد تقريباً، بينما يرى آخرون أنه ضئيل للغاية. ولأن التكنولوجيا جديدة ومعقدة للغاية، فلا توجد بيانات صلبة لحسم هذا الجدل. وبدون فهم مشترك للمخاطر، فإن أي قاعدة أو ضريبة يضعها السياسيون ستكون على الأرجح إما ضعيفة جداً بحيث لا تمنع وقوع كارثة، أو صارمة جداً بحيث توقف كل تقدم.
علاً على ذلك، تجادل الورقة بأن العملية السياسية نفسها منحازة ضد التنظيم الفعال. فالناس الذين قد يعانون من خطأ ارتكبه نظام ذكاء اصطناعي هم عامة الناس، وهم مشتتون وغير منظمين. أما الشركات التي تبني هذه الأنظمة فهي قليلة العدد، وثرية، ولديها دافع قوي لحماية مصالحها. وفي نظام سياسي، عادة ما تمتلك المجموعات المنظمة ذات المال نفوذاً أكبر من الجمهور المشتت. إذا حاولت الحكومة وضع قواعد صارمة، يمكن لهذه الشركات ممارسة الضغط لجعل القواعد أضعف أو أسهل في التجاوز. كما يمكنهم استخدام خبرتهم التقنية لإرباك المنظمين، الذين يعتمدون غالباً على الشركات نفسها لشرح كيفية عمل التكنولوجيا. وهذا يخلق وضعاً تنتهي فيه القواعد بحماية الشركات بدلاً من حماية الجمهور.
يقترح ويل أن تحميل الشركات المسؤولية عن الضرر الفعلي الذي تسببه يتجنب هذه الأفخاخ السياسية. ففي ظل نظام المسؤولية الصارمة، لا تحتاج الشركة إلى الحصول على إذن لبناء نظام، ولا تحتاج إلى الاتفاق على مستوى مخاطر محدد مع الحكومة. بدلاً من ذلك، تعرف الشركة ببساطة أنها إذا آذت أحداً، فسيتعين عليها الدفع. وهذا يعمل بشكل جيد حتى عندما لا يعرف أحد بالضبط مدى خطورة التكنولوجيا. فإذا تبين أن التكنولوجيا آمنة، فلن تدفع الشركة شيئاً. وإذا تبين أنها خطيرة، فستدفع الشركة ثمن الضرر. وهذا يخلق حافزاً قوياً للشركة لتعرف كيف تجعل النظام آمناً من تلقاء نفسها، لأنهم هم من سيتحملون الفاتورة إذا ساءت الأمور.
كما تتناول الورقة قلقاً شائعاً: ماذا لو كانت الكارثة ضخمة جداً بحيث لا تستطيع الشركة تحمل تكلفتها؟ في الحالات التي يكون فيها الضرر أكبر من قدرة شركة واحدة على التغطية، تقترح المؤلفة استخدام التعويضات العقابية. وهذا يعني أنه إذا اتخذت شركة مخاطرة قد تؤدي إلى كارثة، حتى لو لم تقع الكارثة بعد، فيمكن تغريمها بشدة إذا اقتربت من التسبب في واحدة. وسيتم حساب هذه الغرامة بناءً على الخطر المحتمل الذي خلقته، وليس فقط الضرر الذي تسببت فيه فعلياً. وهذا يضمن أن يكون لدى الشركات سبب للاستمرار في توخي الحذر بشأن أكبر المخاطر، حتى لو اعتقدوا أنهم قد لا يُكشف أمرهم. وللتعامل مع مشكلة عدم امتلاك الشركات أموال كافية لتغطية الحوادث الصغيرة، تقترح الورقة إلزامهم بشراء التأمين. وبذلك تعمل شركات التأمين كمنظمين خواص، حيث يقومون بفحص سلامة الأنظمة وفرض أسعار أعلى للأنظمة الأكثر خطورة.
وتقارن المؤلفة هذا النهج بالأفكار الأخرى التي تُناقش حالياً، مثل منح الشركات "ملاذاً آمناً" أو حصانة من الدعاوى القضائية إذا اتبعت قواعد حكومية معينة. وتجد الورقة أن هذا عرض سيء؛ فإذا سُمح للشركة بتجنب الدفع مقابل الضرر لمجرد أنها اتبعت قائمة مهام، فسيكون لديها سبب أقل للذهاب إلى ما وراء الحد الأدنى من المتطلبات لجعل أنظمتها آمنة حقاً. كما تنظر الورحة في المقترحات التشريعية الأخيرة في الولايات المتحدة وأوروبا التي تحاول مقايضة المسؤولية بالتنظيم. وتجد ويل أن أياً من هذه المقترحات لا يقدم قيمة جيدة، إذ تميل إلى إضعاف نظام محاسبة الشركات دون توفير بديل قوي بما يكفي للحفاظ على سلامة الناس.
تخلص الورقة إلى أنه بينما تعتبر أدوات أخرى مثل متطلبات الشفافية وأبحاث السلامة مفيدة، إلا أنها يجب أن تدعم نظام المسؤولية، لا أن تحل محله. إن الطريقة الأكثر فعالية لحوكمة الذكاء الاصطناعي هي ترك السوق والمحاكم تقوم بالعمل الخاص بفرز المخاطر. فمن خلال جعل المطورين يدفعون ثمن الأضرار التي يسببونها، يجبر النظام الجميع على استيعاب تكاليف أخطائهم. هذا النهج لا يتطلب من السياسيين الاتفاق على المستقبل، ولا يعطيهم القدرة على وقف التقدم بشكل تعسفي. إنه ببساطة يضمن أن أولئك الذين يبنون التكنولوجيا هم من يتحملون التكلفة إذا فشلت. وفي عالم تكون فيه المخاطر مجهولة والسياسة صعبة، يوفر هذا الأسلوب المسار الأكثر موثوقية نحو السلامة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.