Frontier Technologies, Complex Externalities, and the Evolution of Private Order: Implications for AI Governance

عندما تصل تكنولوجيا جديدة، فإنها تجلب معها وعداً بالفائدة وظلاً من المخاطر. وغالباً ما تظل الطبيعة الحقيقية لتلك المخاطر مخفية حتى تُستخدم التكنولوجيا فعلياً في العالم الحقيقي. وهذا ينطبق بشكل خاص على الذكاء الاصطناعي، وهو أداة يمكنها إعادة تشكيل كيفية عيشنا وعملنا وتواصلنا. ولأن الأخطار معقدة للغاية وتعتمد على مواقف محددة، فمن الصالي لصعوبة كتابة القواعد المثالية من قبل أي شخص، بما في ذلك المسؤولون الحكوميون، قبل نشر التكنولوجيا حتى. إن السؤال المركزي الذي يواجه المجتمع ليس فقط كيفية منع النتائج السيئة، بل كيفية اكتشاف الطرق الصحيحة لإدارة هذه المخاطر بينما نتعلم المزيد عنها. ويتضمن ذلك فهم "الآثار الخارجية" (externalities)، وهو مصطلح يستخدمه الاقتصاديون لوصف التكاليف أو الفوائد التي تؤثر على أشخاص ليسوا جزءاً من الصفقة الأصلية. عندما تخلق تكنولوجيا جديدة مشاكل للجيران أو الغرباء، فإن تلك المشاكل هي آثار خارجية. والتحدي يكمكم في أن هذه الآثار الخارجية غالباً ما تكون متشابكة وغير متوقعة لدرجة أنه لا يمكن لأي سلطة بمفردها رسم خارطة لها مسبقاً.

قام باحثان، علي باليدا ونيكولاس ثيلمان، باستكشاف زاوية مختلفة لهذه المشكلة. فبدلاً من التساؤل عن كيفية قيام الحكومة بتنظيم الذكاء الاصطناعي، تساءلا عن كيف يمكن للتنظيم الحكومي أن يمنع المجموعات الخاصة من إيجاد حلولها الخاصة. وهما يريان أن عملية استخدام تكنولوجيا جديدة هي شكل من أشكال الاكتشاف. فمن خلال تجربة الأشياء، يتعلم الناس ما ينجح، وما يفشل، ومن يحتاج إلى الحماية. وتسمح عملية التعلم هذه للمجموعات الخاصة — مثل شركات التأمين، أو جهات التصديق على السلامة، أو حتى الجيران الذين يتفاوضون مع بعضهم البعض — ببناء قواعد مرنة تناسب الموقف المحدد. ويشير المؤلفان إلى أنه إذا تدخلت الحكومة مبكراً جداً بفرض حظر صارم أو قاعدة جامدة، فقد تعيق التجارب اللازمة لإيجاد أفضل طريقة لحوكمة التكنولوجيا.

ولاختبار هذه الفكرة، نظر الباحثان في ثلاث أمثلة تاريخية واجهت فيها تقنيات جديدة شكوكاً مماثلة. المثال الأول يتعلق بالكهرباء في أواخر القرن التاسع عشر. فعندما أُدخلت المصابيح الكهربائية وخطوط الطاقة لأول مرة، تسببت في حرائق متكررة، لكن لم يكن أحد يعرف بالضبط أي الأجهزة كانت آمنة. لم تتدخل الحكومة فوراً لوضع معايير السلامة، بل ظهرت بدلاً من ذلك منظمة خاصة تسمى "مختبرات أندررايترز" (Underwriters Laboratories). بدأت هذه المجموعة، التي أسستها شركات التأمين القلقة من خسائر الحرائق، في اختبار المعدات الكهربية ووضع معايير سلامة خاصة بها. ومع مرور الوقت، ومع اختبارهم لمزيد من الأجهزة ورؤية ما يسبب الحرائق، قاموا بتنقيح قواعدهم. أصبح نظامهم الخاص موثوقاً به لدرجة أن المدن اعتمدت معاييرهم في القانون، وسعى المصنعون للحصول على موافقتهم لبيع المنتجات. ويشير المؤلفان إلى أن هذا النظام نجح لأنه كان مرناً؛ حيث كان بإمكانه التغير مع اكتشاف مخاطر جديدة من خلال الاستخدام الفعلي، بدلاً من أن يظل عالقاً في قواعد كُتبت قبل أن يعرف أي شخص ماهية المخاطر.

أما المثال الثاني فيأتي من عالم التأمين السيبراني. فمع نمو الحواسيب والإنترنت، أصبح المخترقون تهديداً رئيسياً، لكن طبيعة هذه التهديدات كانت تتغير باستمرار. ففي عام ما، قد يكون الخطر الرئيسي هو سرقة أرقام بطاقات الائتمان، وفي العام التالي، قد يكون برامج الفدية التي تغلق سجلات المستشفيات. ولأن المخاطر كانت متغيرة للغاية، عانى المنظمون الحكوميون في كتابة قواعد تظل ذات صوالة. ومع ذلك، تكيفت شركات التأمين الخاصة بسرعة، حيث بدأت في تقديم بوالص تتطلب من الشركات استيفاء معايير أمنية محددة للحصول على التغطية. وإذا فشلت شركة ما في تحديث أمنها، تقوم شركة التأمين برفع السعر أو إلغاء البوليصة. وقد خلق هذا حلقة تغذية راجعة: فمع ظهور أنواع جديدة من الهجمات، تتعلم شركات التأمين من بيانات المطالبات وتحدث متطلباتها. سمح هذا النظام الخاص بإجراء تعديل مستمر وفوري لقواعد السلامة، وهو أمر قد تجد البيروقراطية الحكومية البطيئة صعوبة في مواكبته.

وتدور القصة الثالثة في الأيام الأولى للبث الإذاعي. فقبل أن تنشئ الحكومة وكالة مركزية لإدارة ترددات الراديو، كانت المحطات غالباً ما تتداخل مع بعضها البعض، مما يخلق مزيجاً فوضوياً من الإشارات. وكان الاعتقاد الشائع هو أن هذه الفوضى لا يمكن إصلاحها إلا من خلال سلطة مركزية. ومع ذلك، وجد الباحثون أنه قبل تدخل الحكومة، كانت محطات الراديو تتفاوض بالفعل مع بعضها البعض؛ حيث كانوا يتبادلون الترددات، أو يتفقون على أوقات البث، أو يشترون المنافسين لتجنب التداخل. سمح هذا النظام الخاص من المساومة وحقوق الملكية لقطاع الإذاعة بالنمو والازدهار. ولم يحدث تحول السلطة المركزية إلا لاحقاً عندما استبدلت الحكومة هذا النظام الخاص المرن بخطة مركزية جامدة. ويرى المؤلفان أن هذا التحول لم يحدث لأن النظام الخاص قد فشل، بل لأن السياسيين وكبار أصحاب البث أرادوا السيطرة على الموجات الهوائية القيمة لأنفسهم. وكانت النتيجة نظاماً أقل قدرة على التكيف وأبطأ في الابتكار.

ولفهم آليات هذه العملية، بنى الباحثون نموذجاً بسيطاً لكيفية عمل اتخاذ القرار عندما يكون المستقبل مجهولاً. في نموذجهم، تُستخدم تكنولوجيا جديدة، وتُلاحظ النتائج. وهذه الملاحظة تعلم الجميع شيئاً جديداً. فإذا تمكنت مجموعة من الأشخاص المتأثرين بالتكنولوجيا من الاجتماع وإعادة التفاوض بشأن قواعدهم كلما تعلموا شيئاً جديداً، فيمكنهم تعديل نهجهم ليتناسب مع الواقع الجديد. يمكنهم أن يقرروا التوقف عن استخدام التكنولوجيا إذا كانت خطيرة، أو تغيير كيفية استخدامها إذا كانت آمنة ولكنها تحتاج إلى تعديلات. ومع ذلك، إذا فرضت سلطة خارجية حظراً دائماً أو قاعدة ثابتة لا يمكن تغييرها باتفاق خاص، فإن عملية التعلم تتوقف. فالحظر يمنع التجربة التي كانت ستكشف الحقيقة. وحتى لو تعلمت المجموعة لاحقاً أن التكنولوجيا آمنة ومفيدة، فسيظلون عالقين في القاعدة القديمة لأنهم لا يستطيعون التفاوض حول حق النقض (الفيتو) الحكومي.

وجد الباحثون أن هذا يؤدي إلى مشكلتين محددتين. أولاً، الحظر الدائم يوقف التعلم الضروري لفهم المخ riesgos. ثانياً، حتى لو تعلمت المجموعة أن ترتيباً مختلفاً سيكون أفضل للجميع، فإن القاعدة الحكومية الثابتة تمنعهم من إجراء هذا التغيير. ويؤكد المؤلفان أن هذا لا يعني أن القواعد الحكومية سيئة دائماً؛ ففي بعض الأحيان يكون الحظر ضرورياً لمنع كارثة شديدة الخطورة. لكن الدراسة تشير إلى أنه يجب علينا الموازنة بين السلامة الفورية للحظر وبين التكلفة طويلة الأجل لإيقاف اكتشاف حلول أفضل وأكثر مرونة. والهدف ليس ترك التقنيات الخطيرة دون رقابة تماماً، بل تجنب حصر القواعد قبل أن تتاح لنا الفرصة للتعلم.

يخلص البحث إلى أن الحوكمة الفعالة للذكاء الاصطناعي قد لا تكون شيئاً يمكننا تصميمه بشكل مثالي من البداء. بدلاً من ذلك، قد تكون شيئاً ينبثق بينما نستخدم التكنولوجيا ونتعلم من أخطائنا. فالمجموعات الخاصة، من خلال العقود والتأمين والاعتماد، غالباً ما تكون في وضع أفضل للتعلم والتكيف بسرعة لأن لديها مصلحة مباشرة في النتيجة. ويمكنهم تغيير قواعدهم بمجرد وصول معلومات جديدة. أما التدخل الحكومي، رغم ضرورته أحياناً، فإنه يحمل خطر تجميد النظام في مكانه قبل اكتشاف القواعد الصحيحة. ويقترح المؤلفان أن المسار الأفضل هو السماح بمساحة لهذه التجارب الخاصة للحدوث، لضمان عدم إغلاق المسار الذي سيعلمنا كيفية إدارة التكنولوجيا بأمان. إن التحدي الذي يواجه صانعي السياسات هو حماية الناس من الضرر المباشر دون قطع الطريق نحو حوكمة أفضل وأكثر فعالية في المستقبل.