Who gets to verify AI? Provenance, authority and accountability in digital government
تجادل هذه الورقة بأن الحوكمة الفعالة لمحتوى الذكاء الاصطنا-عي تتطلب تجاوز أدوات الوسم أو إثبات المصدر المنعزلة عبر تبني إطار عمل شمولي يميز بين الوضوح العام، والقابلية للتحقق البنيوي، والمسؤولية المؤسسية عبر دورة حياة المحتوى لضمان المساءلة الحقيقية بدلاً من مجرد الامتثال الرمزي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في العالم الحديث، تعتمد الوكالات الحكومية بشكل متزايد على الذكاء الاصطناعي لصياغة الإخطارات الرسمية، وترجمة الوثائق، وإنشاء الصور، وحتى تشغيل برامج الدردشة الآلية التي تجيب على تساؤلات المواطنين. توفر هذه التكنولوجيا السرعة والكفاءة، لكنها تجلب خطراً فريداً من نوعه: فهي تجعل من الممكن إنشاء نسخ مزيفة ومقنعة للغاية من المعلومات الرسمية. إن صورة اصطناعية لمسؤول عام أو تنبيهاً طارئاً مفبركاً يمكن أن ينتشر بسرعة أكبر من الحقيقة، مما يترك الناس في حالة من عدم اليقين بشأن ما هو حقيقي وما هو مُصنّع. ولمكافحة ذلك، لجأ المنظمون وشركات التكنولوجيا إلى فكرة بسيطة: وهي "الوسم" (Labeling). والمنطق وراء ذلك هو أنه إذا استطعنا تمييز المحتوى بوضوح كونه "مصنوعاً بواسطة الذكاء الاصطناعي"، فسيعرف الناس ضرورة توخي الحذر. ومع ذلك، يفترض هذا النهج أن مجرد علامة تحذيرية بسيطة كافية لاستعادة الثقة، متجاهلاً الشبكة المعقدة من القواعد والبرمجيات والقرارات البشرية المطلوبة لجعل مثل هذا النظام يعمل فعلياً.
تبحث دراسة جديدة أجراها "شواي وانغ" وزملاؤه فيما إذا كانت أنظمة الوسم هذه تضمن حقاً مساءلة الحكومات وشركات التكنولوجيا، أم أنها تكتفي بمجرد خلق مظهر من مظاهر الأمان. فحص الباحثون أحد عشر وثيقة تنظيمية ومعياراً تقنياً رئيسياً من الصين والاتحاد الأوروبي والمنظمات الدولية. وقد نظروا في كل شيء، بدءاً من قوانين الوسم الإلزامية وصولاً إلى المواصفات التقنية لـ "العلامات المائية" الرقمية التي تتبع مصدر الملف. ويكشف تحليلهم أن الشفافية ليست مفتاحاً واحداً يمكن تشغيله، بل وجدوا أن النظام الفعال يتطلب ثلاث طبقات متميزة يجب أن تعمل معاً: جعل المحتوى مفهوماً للجمهور، وجعل أصل المحتوى قابلاً للتحقق بواسطة الآلات، وضمان إمكانية محاسبة المؤسسات عندما تسوء الأمور.
اكتشف الباحثون أن مجرد إرفاق وسم مرئي بقطعة من المحتوى غالباً ما ينقل عبء التحقق إلى المواطن العادي. فإذا رأى المستخدم تحذيراً بأن الصورة ناتجة عن ذكاء اصطناعي ولكن ليس لديه وسيلة للتحقق من المصدر أو فهم ما يعنيه هذا التحذير فعلياً، يصبح الوسم شكلاً من أشكال "إدارة المسؤولية القانونية" للمؤسسة بدلاً من أن يكون أداة لسلامة الجمهور. وتُظهر الدراسة أن الوسم بدون وسيلة للتحقق منه يشبه الإيصال الذي لا يحتوي على عنوان المتجر؛ فهو يخبرك بأن عملية تجارية قد تمت، لكنه لا يقدم أي دليل على مصدرها. علاوة على ذلك، فإن الأنظمة التقنية المصممة لتتبع تاريخ الملف - والمعروفة باسم "الأصل" (Provenance) - غالباً ما تركز السلطة في أيدي عدد قليل من شركات التكنولوجيا الكبرى وهيئات المعايير. يمكن لهذه الأنظمة التحقق من أن الملف جاء من خادم معين، لكنها لا تستطيع التحقق مما إذا كانت المعلومات داخل الملف حقيقية. إذ يمكن توثيق مستند بدقة من لحظة إنشائه حتى نشره، ومع ذلك يظل محتواه كاذباً أو مضللاً.
ولعل النتيجة الأكثر أهمية هي أنه حتى عندما تكتمل جميع القطع التقنية، فإن المساءلة غالباً ما تفشل بسبب كيفية تنظيم النظام. حدد الباحثون ست طرق شائعة تنهار من خلالها هذه الأنظمة. يحدث أحد الإخفاقات الرئيسية عندما تكون القواعد الخاصة بأنواع المحتوى المختلفة فضفاضة للغاية، حيث تعامل صورة إبداعية غير ضارة بنفس طريقة التعامل مع تنبيه طوارئ حرج، مما يهدر الموارد ويترك المعلومات الخطيرة دون حماية كافية. ويحدث إخفاق آخر عندما لا يكون هناك ربط بين الوسم المرئي والبيانات التقنية المخفية، مما يسمح للمؤسسة بعرض تحذير بينما تضيع الأدلة الأساسية أو تصبح غير قابلة للوصول. كما تسلط الدراسة الضوء على أنه عند تعديل ملف أو مشاركته عبر منصات مختلفة، فإن الأثر الرقمي غالباً ما ينقطع، مما يترك مجالاً دون وسيلة لتتبع المحتوى وصولاً إلى مصدره. وفي هذه السيناريوهات، تصبح المسؤولية مجزأة؛ حيث يلقي مزود البرمجيات باللوم على المنصة، وتلقي المنصة باللوم على المستخدم، ويفتقر المنظم إلى القدرة أو القدرة التقنية لجمع خيوط القصة معاً.
ويرى المؤلفون أنه لكي تكون الشفافية ذات مغزى، يجب التعامل معها كبنية تحتية عامة وليس كمجرد حل تقني بسيط. وهذا يعني أن قواعد الوسم يجب أن تكون مرتبطة بأدوات تحقق يمكن الوصول إليها تتيح للمواطنين التحقق من مصدر المعلومات. ويتطلب الأمر أيضاً أن تمتلك المؤسسات السلطة والقدرة على الوصول إلى السجلات اللازمة لتحديد المسؤولية وفرض التصحيحات عندما تنتشر المعلومات المضللة. وتشير الدراسة إلى أن النظام الناجح هو الذي يفصل بين سؤال "من صنع هذا؟" وسؤال "هل هذا صحيح؟"، لضمان أن المصدر الذي تم التحقق منه لا يعني تلقائياً أن المحتوى دقيق. وفي الختام، تخلص الأبحاث إلى أن المزيد من الإفصاح لا يؤدي تلقائياً إلى المزيد من المساءلة. فبدون ربط الملصقات المرئية بالأدلة القابلة للتحقق وضمان قدرة المؤسسات على التصرف بناءً على تلك الأدلة، فإن الموجة الحالية من وسم الذكاء الاصطناعي تخاطر بالتحول إلى شكل من أشكال "مسرح الثقة"، حيث تكون علامات الأمان مرئية، لكن القدرة على حماية الجمهور فعلياً تظل بعيدة المنال.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.