Bureaucratic Silences: What the Canadian AI Register Reveals, Omits, and Obscures
تجادل هذه الورقة بأن السجل الفيدرالي الجديد للذكاء الاصطناعي في كندا، رغم هدفه المعلن المتمثل في الشفافية، يعمل كأداة تصميم وجودي (أنطولوجي) تحجب التعقيدات البشرية والاجتماعية-التقنية لأنظمة الذاء الاصطناعي من خلال إعطاء الأولوية للأوصاف التقنية، مما يختزل المساءلة في تمرين امتثال أدائي بدلاً من تمكين القدرة الحقيقية على الاعتراض.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة "الصمت البيروقراطي" (Bureaucratic Silences)، باستخدام لغة بسيطة وتشبيهات إبداعية.
الصورة الكبيرة: "القائمة" التي تخفي المطبخ
تخيل أن الحكومة الكندية قد افتتحت للتو قائمة طعام ضخمة وعامة تسمى "سجل الذكاء الاصطناعي". تسرد هذه القائمة أكثر من 400 برنامج كمبيوتر مختلف (أنظمة ذكاء اصطناعي) تستخدمها الحكومة للقيام بمهامها، من فرز البريد إلى مراقبة أمن الحدود.
تقول الحكومة: "انظروا! نحن نتحلى بالشفافية! هذه هي قائمتنا، حتى تعرفوا ما الذي نقدمه لكم".
ومع ذلك، تجادل هذه الورقة بأن هذه القائمة هي خدعة. فهي ليست مجرد قائمة محايدة؛ بل هي أداة مصممة بعناية لتجعل الحكومة تبدو كفؤة ومسيطرة، بينما تخفي الواقع المعقد والمربك والمحفوف بالمخاطر أحياناً لكيفية عمل هذه الحواسيب فعلياً.
تطلق المؤلفات على الأشياء التي لا تخبرك بها القائمة اسم "الصمت البيروقراطي".
1. القائمة مقابل المطبخ (ما يتم كشفه مقابل ما يتم إخفاؤه)
التشبيه:
فكر في مطعم فاخر. تخبرك قائمة الطعام (سجل الذكاء الاصطناعي) باسم الطبق ("حساء الذكاء الاصطناعي الحار")، والمكونات (البيانات)، وأنه تم طهيه بواسطة شيف مشهور (المورد). يبدو الأمر مثالياً.
الواقع:
القائمة لا تخبرك بـ:
- فوضى المطبخ: هل المطبخ يحترق؟ هل الطهاة غارقون في العمل؟
- اللمسة البشرية: هل تذوق إنسان حقيقي الحساء بالفعل، أم أنهم وثقوا فقط في الروبوت ليقوم بطهيه؟
- الأخطاء: ماذا يحدث إذا أحرق الروبوت الطعام؟ من سيقوم بتنظيفه؟
ما وجدته الورقة:
السجل مهووس بـ الكفاءة. يقول أشياء مثل: "هذا الذكاء الاصطناعي يساعدنا على العمل بشكل أسرع!" أو "هذه الأداة توفر لنا الوقت!".
لكنه يلتزم الصمت تجاه عدم اليقين. نادراً ما يعترف بـ: "قد يكون هذا الذكاء الاصطناعي مخطئاً"، أو "نحن لا نفهم تماماً كيف يعمل هذا بعد". إنه يعامل الذكاء الاصطناعي كأداة سحرية تعمل ببساطة، بدلاً من كونه نظاماً معقداً يحتاج إلى إشراف بشري.
2. كذبة "السيادة" (من يملك الأدوات حقاً؟)
التشبيه:
تخيل دولة تدعي: "نحن نبني سياراتنا الخاصة لنكون مستقلين!" وتضع لافتة تقول: "صنع في كندا".
الواقع:
إذا نظرت تحت غطاء المحرك، ستجد أن المحرك مصنوع في ألمانيا، والإطارات من اليابان، والبرمجيات مكتوبة من قبل شركة في كاليفورنيا.
ما وجدته الورقة:
تتحدث كندا كثيراً عن "الذكاء الاصطناعي السيادي" (صنع ذكائهم الاصطناعي الخاص ليكونوا مستقلين). لكن السجل يكشف أن الحكومة تعتمد بشكل كبير على عدد قليل من الشركات الأجنية العملاقة (مثل مايكروسوفت) لأدواتها.
السجل يخفي هذا التبعية. فهو يجعل الأمر يبدو وكأن كندا هي من تقود السيارة، بينما هي في الواقع تستأجر السيارة من شخص آخر.
3. الشبح "البشري" (أين الشخص في الحلقة؟)
التشبيه:
تخيل حافلة ذاتية القيادة. اللافتة تقول: "ذاتية القيادة بالكامل!".
لكن في الواقع، هناك سائق متوتر يجلس في المقعد الأمامي، ممسكاً بعجلة القيادة، مستعداً للضغط على المكابح إذا ارتبك الكمبيوتر.
الواقع:
يسرد السجل الذكاء الاصطناعي باعتباره "صانع القرار". يجعل الأمر يبدو وكأن الكمبيوتر هو من يقرر من يحصل على تأشيرة أو من يخضع لتدقيق ضريبي.
ما وجدته الورقة:
في معظم الحالات، لا يزال هناك إنسان هو من يتخذ القرار النهائي. لكن السجل لا يشرح كيف يتم تدريب هذا الإنسان، أو كيف يُفترض به استخدام نصيحة الكمبيوتر.
- الصمت: لا يقول: "الإنسان يحتاج إلى 50 ساعة من التدريب لفهم هذا".
- المخاطرة: يترك العامل في حالة تخمين. إذا قدم الكمبيوتر اقتراحاً سيئاً، فقد لا يعرف الإنسان كيفية إصلاحه، أو قد يثق ببساه في الكمبيوتر لأن السجل جعله يبدو "موثوقاً" للغاية.
4. "الصندوق الأسود" لعدم اليقين
التشبشيه:
تخيل تطبيقاً للطقس يقول: "ستمطر بالتأكيد غداً!".
لكن في الواقع، التطبيق متأكد بنسبة 60% فقط.
الواقع:
يعامل السجل الذكاء الاصطناعي كأنه تطبيق طقس صحيح دائماً بنسبة 100%. يستخدم كلمات مثل "مستقر"، "موثوق"، و"كفء".
ما وجدته الورقة:
السجل يخفي الشك.
- بعض الأنظمة هي في الواقع مجرد "تجارب" أو "نماذج أولية" (مثل تجربة قيادة)، لكن السجل يدرجها كما لو كانت منتجات نهائية.
- أنظمة أخرى تنطوي على مخاطر (مثل فحص الاحتيال)، لكن السجل لا يقول: "هذا قد يرتكب أخطاء".
من خلال إخفاء الشك، تلقي الحكومة بالمسؤولية على الناس العاديين (المواطنين) والعمال. إذا ارتكب الذكاء الاصطناعي خطأً، فإن السجل يجعل الأمر يبدو وكأنه خطأ بشري، وليس فشلاً في النظام.
الخلاصة الرئيسية: "الامتثال الشكلي"
يستخدم المؤلفون مصطلحاً معقداً: التصميم الوجودي (Ontological Design).
- الترجمة البسيطة: الطريقة التي تدرج بها شيئاً ما تغير ما يعتقده الناس عنه.
من خلال تصميم السجل ليبدو كقائمة بسيطة من "الأدوات الرائعة"، تقوم الحكومة في الواقع بـ تصميم واقع حيث:
- يُنظر إلى الذكاء الاصطناعي كأداة مثالية وموثوقة.
- يُنظر إلى البشر كمجرد "مدققين" لا يحتاجون إلى الكثير من التدريب.
- الأخطاء غير مرئية.
الاستنتاج:
يمنحنا السجل الرؤية (يمكننا رؤية أسماء الأدوات) ولكن لا يمنحنا قابلية الاعتراض (لا يمكننا التشكيك في كيفية عملها أو تحدي قراراتها).
إنه يشبه ساحرًا يريك أن يديه فارغتان (الشفافية) ولكنه يخفي حقيقة أن الأرنب لا يزال داخل القبعة (المخاطر الحقيقية والعمل البشري). تجادل الورقة بأنه لكي يثق الجمهور حقاً في الحكومة، يجب على السجل أن يتوقف عن إخفاء "الصمت" ويبدأ في إظهار الواقع البشري المعقد وغير المؤكد لكيفية عمل هذه الأنظمة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.