Shared (Mis)Understandings and the Governance of AI: A Thematic Analysis of the 2023-2024 Oversight of AI Hearings
تستخدم هذه الورقة تحليلاً موضوعياً لجلسات استماع مجلس الشيوخ الأمريكي للفترة ٢٠٢٣-٢٠٢٤ لتوضيح كيف يقوم المشاركون من قطاع التكنولوجيا بصياغة روايات مهيمنة حول تأثيرات الذكاء الاصطناعي وحوكمته، مما يؤدي إلى تهميش النهج التنظيمية البديلة وتعزيز هياكل القوة القائمة من خلال مفاهيم (خاطئة) مشتركة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة راشيل ليتش بعنوان "الفهم (الخاطئ) المشترك وحوكمة الذكاء الاصطناعي"، مترجمة إلى لغة بسيطة ويومية مع بعض التشبيهات الإبداعية.
الصورة الكبيرة: من يقود الحافلة؟
تخيل أن مجلس الشيوخ الأمريكي يعقد اجتماعاً عاماً لتقرير القواعد الخاصة بمركبة جديدة، فائقة القوة، تُسمى الذكاء الاصطناعي (AI). الهدف هو التأكد من أن هذه المركبة لن تصطدم بالناس أو تدمر الحي.
راشيل ليتش، مؤلفة هذه الورقة، حضرت هذه الاجتماعات (التي تسمى "جلسات استماع") ولاحظت شيئاً غريباً. بينما كان أعضاء مجلس الشيوخ يحاولون لعب دور شرطي المرور، كان الأشخاص الذين يقودون الحافلة بالفعل هم شركات التكنولوجيا نفسها.
تجادل الورقة بأن صناعة التكنولوجيا لم تكتفِ بالحضور للإجابة على الأسئلة؛ بل جاءت لتعيد رسم الخريطة. لقد أقنعوا أعضاء مجلس الشيوخ بأن:
- هذه المركبة هي بساط سحري سيحل جميع مشاكلنا.
- هذه المركبة تتحرك بالفعل بسرعة كبيرة لدرجة أننا لا نستطيع إيقافها.
- إذا وضعنا مكابح لها، فنحن نخون "القيم الأمريكية".
ولأن أعضاء مجلس الشيوخ صدقوا هذه القصص، انتهى بهم الأمر بكتابة قواعد ضعيفة جداً تسمح لشركات التكنولوجيا بمواصلة القيادة بالسرعة التي يريدونها.
"الخدع السحرية" الثلاث التي استخدمتها شركات التكنولوجيا
تحدد الورقة ثلاث قصص رئيسية (أو "سرديات") أخبرت بها صناعة التكنولوجيا أعضاء مجلس الشيوخ. وتسميها ليتش "الفهم (الخاطئ) المشترك" لأن الجميع في الغرفة اتفقوا عليها، رغم أنها قد لا تكون حقيقية.
1. قصة "العصا السحرية" (الذكاء الاصطناعي له فوائد هائلة)
التشبيه: تخيل بائعاً يبيع مكنسة كهربائية جديدة. هو لا يقول فقط "إنها تشفط الأوساخ"، بل يقول: "هذه المكنسة ستعالج السرطان، وتوقف تغير المناخ، وتعلم أطفالك الرياضيات!"
ماذا حدث في جلسات الاستماع:
أخبر الرؤساء التنفيذيون لشركات التكنولوجيا، وحتى بعض الأساتذة، أعضاء مجلس الشيوخ أن الذكاء الاصطناعي هو "عصا سحرية". زعموا أنه سيحدث ثورة في الرعاية الصحية، ويصلح البيئة، ويحل أكبر مشاكل البشرية.
- الخدعة: تحدثوا في الغالب عن أشياء قد تحدث في المستقبل، وليس عما يحدث الآن.
- النتيجة: تحمس أعضاء مجلس الشيوخ كثيراً تجاه "السحر" المحتمل، فتجاهلوا "الأوساخ" التي كانت المكنسة تنثرها حالياً — مثل عمليات الاحتيال، والتحيز، والأضرار البيئية. فكروا: "حسناً، إذا عالجت السرطان لاحقاً، يمكننا التعامل مع الفوضى الآن".
2. قصة "الجني" (الذكاء الاصطناعي أمر حتمي)
التشبيه: تخيل أن جنياً قد خرج للتو من زجاجة. أخبرت شركات التكنولوجيا أعضاء مجلس الشيوخ: "لقد خرج الجني من الزجاجة! لا يمكنك إعادة الجني إلى داخلها. الجني موجود في كل مكان بالفعل، وإذا حاولت إيقافه، فسيذهب إلى مكان آخر".
ماذا حدث في جلسات الاستماع:
جادل قادة الصناعة بأن الذكاء الاصطناعي لا يمكن إيقافه. استخدموا عبارات مثل "جني الذكاء الاصطناعي خرج من الزجاجة". أخبروا أعضاء مجلس الشيوخ أن محاولة تنظيمه تشبه محاولة إيقاف نهر من الجريان.
- الخدعة: هذه نبوءة تحقق ذاتها. من خلال قولهم "لا يمكننا إيقافه"، أقنعوا أعضاء مجلس الشيوخ بأنه "لا ينبغي" لهم محاولة إيقافه.
- النتيجة: قرر أعضاء مجلس الشيوخ أنه بما أنهم لا يستطيعون إيقاف القطار، فلا يجب عليهم حتى محاولة بناء مسار أو وضع مكابح سلامة. تركوا القطار يركض بجنون، آملين ألا يخرج عن مساره.
3. قصة "البطل الأمريكي" (القومية في مجال الذكاء الاصطناعي)
التشبيه: تخيل مباراة رياضية حيث تقول شركات التكنولوجيا: "إذا وضعت قواعد على فريقنا، فإن الدولة الأخرى (الصين) ستفوز، وفريقهم يلعب بقواعد سيئة. نحن الأخيار، ونحتاج للركض بسرعة للفوز بالميدالية الذهبية لأمريكا".
ماذا حدث في جلسات الاستماع:
صاغت صناعة التكنولوجيا تنظيم الذكاء الاصطناعي كمعركة من أجل السيادة الأمريكية. جادلوا بأن القواعد الصارمة ست تضر "الابتكار الأمريكي" وتسمح للصين بالتقدم. زعموا أن "الأسواق الحرة" و"الشركات الصغيرة" يجب أن تكون حرة للتجربة، حتى لو يعني ذلك كسر الأشياء.
- الخدعة: "الشركات الصغيرة" التي كانوا يحمونها كانت في الغالب شركات التكنولوجيا العملاقة (مثل مايكروسوفت، وجوجل، وOpenAI) التي تستحوذ على الشركات الناشئة الصغيرة.
- النتيجة: شعر أعضاء مجلس الشيوخ أن تنظيم الذكاء الاصطناعي هو أمر "غير أمريكي". لذا، ولحماية "الحرية" و"الديمقراطية"، قرروا منح شركات التكنولوجيا صكاً على بياض.
التكلفة الحقيقية: "الببغاء العشوائي"
تشير الورقة إلى أنه بينما كان الجميع يتحدث عن "العصا السحرية"، فإن واقع الذكاء الاصطناعي أكثر رتابة وخطورة.
تستخدم ليتش مصطلحاً من خبيرة أخرى، وهي إميلي بندر: "الببغاء العشوائي" (Stochastic Parrot).
- التشبيه: تخيل ببغاءً حفظ كل كتاب في المكتبة. يمكنه تكرار الجمل بشكل مثالي وحتى يبدو ذكياً جداً. لكن الببغاء لا "يفهم" ما يقوله. إنه فقط يخمن الكلمة التالية بناءً على الأنماط التي رآها من قبل.
- الواقع: الذكاء الاصطناعي لا "يفكر". إنه ينسخ ويتوقع. وهو يعتمد على:
- سرقة البيانات: يلتهم كميات هائلة من البيانات الخاصة (غالباً دون إذن).
- التلوث: يستخدم كميات هائلة من الكهرباء والمياه للعمل، مما يضر بالبيئة.
- الاستغلال: يعتمد على عمال يتقاضون أجوراً زهيدة لتنظيف أخطائه.
ولأن أعضاء مجلس الشيوخ كانوا مشغولين بالاستماع لقصص "العصا السحرية" و"الجني"، فقد تجاهلوا حقيقة أن "الببغاء" يرتكب الأخطاء، وينشر الأكاذيب، ويلوث الكوكب في الوقت الحالي.
الخلاوة: لماذا هذا مهم؟
تخلص الورقة إلى أن كيفية حديثنا عن التكنولوجيا تشكل القوانين التي نصنعها.
إذا اعتقدنا أن التكنولوجيا هي "أداة محايدة" وأنها "حتمية" و"جيدة دائماً"، فلن نكتب قواعد لحماية الناس. سنترك شركات التكنولوجيا تبني ما تريد فحسب.
تجادل ليتش بأننا بحاجة للتوقف عن تصديق هذا الهراء (البروباجندا). نحن بحاجة لإدراك أن:
- الذكاء الاصطناعي ليس سحراً؛ بل هو أداة تبنيها شركات محددة لها أهداف محددة.
- هو ليس حتمياً؛ يمكننا اختيار سرعته والوجهة التي يذهب إليها.
- "القيم الأمريكية" يجب أن تشمل حماية الناس من الضرر، وليس فقط حماية أرباح الشركات.
باختصار: سلمت شركات التكنولوجيا لأعضاء مجلس الشيوخ خريطة تقول: "كل شيء على ما يرام، استمروا في القيادة بسرعة!" وقد صدق أعضاء مجلس الشيوو ذلك. هذه الورقة هي تحذير من أننا بحاجة للنظر في الخريطة مرة أخرى، لأن الطريق قد يكون مليئاً بالحفر، ونحن نقود بسرعة كبيرة لدرجة تمنعنا من رؤيتها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.