The Creation and Analysis of Government AI Transparency Statements in Australia
تقدم هذه الورقة أول مجموعة بيانات لبيانات شفافية الذكاء الاصطناعي للحكومة الأسترالية (AITS-101)، وتجري تحليلاً شاملاً متعدد المناهج للكشف عن التباينات الكبيرة في ممارسات الإفصاح والفجوات بين القصد من السياسة والتنفيذ.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الصورة الكبيرة: "قائمة الطعام" للذكاء الاصطناعي الحكومي
تخيل أن الحكومة الأسترالية هي مطعم ضخم. مؤخراً، قررت البدء في استخدام روبوت مطبخ جديد وقوي (الذكاء الاصطناعي) للمساعدة في طهي الوجبات وخدمة الزبائن. ولأن هذا الروبوت يتخذ قرارات تؤثر على أشخاص حقيقيين، فقد وعدت الحكومة الجمهور قائلة: "سنكتب بالضبط كيف نستخدم هذا الروبوت."
يتخذ هذا الوعد شكل وثيقة تسمى بيان شفافية الذكاء الاصطناعي (AITS). فكر في هذه البيانات على أنها "قائمة الطعام" أو "بطاقة الوصفة" الخاصة بالمطعم المتاحة للجمهور.
هذه الورقة البحثية هي المرة الأولى التي يجمع فيها أي شخص كل هذه القوائم (101 قائمة، والتي يسميها المؤلفون AITS-101) ويجلس لقراءتها بعنا secara دقيق لمعرفة ما إذا كانت مفيدة حقاً، أم أنها مجرد مصطلحات معقدة وغير مفهومة.
ما الذي فعله الباحثون؟
قام المؤلفون بدور نقاد الطعام والمحققين. لم يكتفوا بقراءة القوائم فحسب، بل قاموا بتحليلها بثلاث طرق محددة:
- "فحص الأسلوب" (التحليل الأسلوبي): نظروا في كيفية كتابة القوائم. هل هي قصيرة وموجزة، أم طويلة ومملة؟ هل كُتبت بلغة إنجليزية بسيطة، أم مليئة بـ "لغة البيروقراطيين" المربكة؟
- "عدّ المكونات" (التحليل الكمي): تحققوا مما إذا كانت القوائم تسرد المكونات المهمة بالفعل. هل ذكرت الحكومة ماذا يفعل الروبوت؟ أين يُستخدم؟ كيف يراقبونه للتأكد من أنه لن يرتكب أخطاء؟
- "أنماط القصص" (التحليل النوعي): بحثوا عن المواضيع المتكررة. كيف تتعامل الإدارات الحكومية المختلفة مع نفس القواعد؟
ما الذي وجدوه؟
إليك الاكتشافات الرئيسية، مشروحة ببساطة:
1. القوائم قصيرة، لكنها لا تزال صعبة القراءة
النتيجة: بيانات شفافية الذكاء الاصطناعي أقصر بكثير من سياسات الخصوصية (التي عادة ما تكون وثائق قانونية ضخمة ومملة). ومع ذلك، لا تزال مكتوبة بمستوى قراءة جامعي.
التشبيه: تخيل قائمة طعام مكونة من صفحة واحدة فقط، ولكنها مكتوبة بشفرة سرية لا يفهمها إلا أستاذ جامعي. الشخص العادي الذي يدخل المطعم لا يمكنه في الواقع قراءتها.
المشكلة: وعدت الحكومة باستخدام "لغة بسيطة"، لكن الباحثين وجدوا أن معظم القوائم لا تزال تستخدم كلمات منمقة ومجردة (مثل "استخدام/توظيف" بدلاً من "استعمال") ومصطلحات تقنية لا يفهمها الجمهور.
2. "ما نفعله" مقابل "ما لا نفعله"
النتيجة: معظم القوائم جيدة جداً في قول: "نحن نتبع القواعد" و"لدينا مدير يراقب الروبوت". لكنها سيئة جداً في شرح ما هو الروبوت في الواقع.
التشبيه: إذا سألت طباخاً: "ما نوع هذا الروبوت؟" وأجاب: "إنه ليس محمصة خبز، وليس خلاطاً"، لكنه لم يخبرك أبداً ما إذا كان فرناً للبيتزا أو مقلاة عميقة، فأنت لن تعرف حقاً ما الذي ستحصل عليه.
الواقع: لم تُعرّف العديد من الوكالات ما تعتبره "ذكاءً اصطناعياً". لقد افترضوا فقط أن الجميع يعرف ذلك. وهذا يخلق ارتباكاً.
3. "شبكة الأمان البشرية" غامضة
النتيجة: العديد من الوكالات (خاصة تلك التي تتعامل مع الفئات المستضعفة، مثل مستلمي الرعاية الاجتماعية) تقول: "نحن لا ندع الروبوت يتخذ القرارات النهائية؛ هناك دائماً إنسان يراجع الأمر".
التشبيه: الأمر يشبه مطعماً يقول: "روبوت الطباخ لدينا لا يقدم الطعام أبداً؛ هناك دائماً إنسان يتذوقه أولاً". لكنهم لا يوضحون كيف يتذوقه الإنسان. هل يتذوق كل طبق؟ أم يتذوق طبقاً واحداً من بين مائة؟ البيان يقول "الإنسان حاضر"، لكنه لا يشرح ما إذا كان هذا الإنسان يقوم بعمل جيد حقاً.
4. لعبة "الآباء والأبناء" (لعبة الهاتف المكسور)
النتيجة: العديد من الوكالات الحكومية الصغيرة لا تكتب قوائمها الفريدة الخاصة. بدلاً من ذلك، تقوم ببساطة بنسخ قائمة القسم "الأب" الكبير.
التشبيه: تخيل عربة طعام صغيرة مملوكة لسلسلة مطاعم كبيرة. قائمة الطعام الخاصة بعربة الطعام تقول فقط: "راجع قائمة المطعم الرئيسي للحصول على التفاصيل". هذا يجعل من الصعب عليك معرفة ما إذا كانت عربة الطعام تستخدم روبوتاً معيناً لموقعها الخاص، أم أنها تستخدم فقط القواعد العامة للسلسلة الكبيرة.
5. معيار "المساعد الطيار" (Copilot)
النتيجة: أكثر شيء تعترف الوكالات باستخدامها هو Microsoft 365 Copilot (أداة ذكاء اصطناعي لكتابة رسائل البريد الإلكتروني والمستندات).
التشبيه: تقريباً كل مكتب حكومي لديه نفس "المساعد الذكي" لكتابة الرسائل. الخطر ليس في الأداة نفسها (بما أنها منتج قياسي)، بل في كيفية استخدام الموظفين لها. الأمر يشبه إعطاء الجميع مثقاباً كهربائياً قوياً؛ الأداة آمنة، ولكن إذا استخدمها شخص ما لبناء منزل بدلاً من إصلاح رف، فهذا خطر لا تستطيع قائمة الطعام استيعابه بالكامل.
الخلاصة
تخلص الورقة البحثية إلى أن النظام الحالي لبيانات شفافية الذكاء الاصطناعي يعمل بشكل جيد من أجل المساءلة الحكومية (أي استيفاء المتطلبات لإظهار اتباع القواعد)، ولكنه يفشل في تحقيق الفهم العام.
الاستعارة النهائية:
لقد قامت الحكومة ببناء خزانة ملفات منظمة ومرتبة للغاية (AITS) لإثبات مسؤوليتها. ولكن إذا فتحت الدرج، ستجد أن الوثائق بداخله مكتوبة بلغة لا يستطيع الجمهور فك رموزها. الحكومة تخبرنا: "نحن آمنون"، لكنها لا تخبرنا حقاً: "إليكم بالضبط كيف نحن آمنون".
يقترح المؤلفون أنه لكي يثق الجمهور حقاً في هذه الأنظمة، يجب إعادة كتابة "قوائم الطعام" بلغة بسيطة وواضحة تشرح التكنولوجيا فعلياً، بدلاً من مجرد سرد الامتثال القانوني.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.