💻 computer science

Who is Responsible? The Data, Models, Users or Regulations? A Comprehensive Survey on Responsible Generative AI for a Sustainable Future

يُقيّم هذا المسح الشامل الموجه وفق منهجية "بريزما" (PRISMA) لـ 232 دراسة الحالة الراهنة للذكاء الاصطناعي التوليدي المسؤول عبر أربعة أنواع من الأنظمة، ويحدد الفجوات الحرجة في تغطية المعايير المرجعية ومنهجيات التقييم، ويقترح إطاراً هيكلياً من القواعد واللوائح ومؤشرات الأداء الرئيسية وجدول أعمال بحثي لمواءمة التقييم التقني مع احتياجات الحوكمة من أجل نشر آمن ومستدام.

المؤلفون الأصليون: Shaina Raza, Rizwan Qureshi, Anam Zahid, Amgad Muneer, Anas Zafar, Safiullah Kamawal, Ferhat Sadak, Joseph Fioresi, Muhammaed Saeed, Ranjan Sapkota, Aditya Jain, Muneeb Ul Hassan, Aizan Zafar, Hasan M

نُشر 2026-03-10

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Shaina Raza, Rizwan Qureshi, Anam Zahid, Amgad Muneer, Anas Zafar, Safiullah Kamawal, Ferhat Sadak, Joseph Fioresi, Muhammaed Saeed, Ranjan Sapkota, Aditya Jain, Muneeb Ul Hassan, Aizan Zafar, Hasan Maqbool, Ashmal Vayani, Jia Wu, Maged Shoman

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن عالم الذكاء الاصطنا-عي قد تخرج للتو من قاعة دراسية جامعية وهو الآن يبدأ أول وظيفة حقيقية له. لم يعد مجرد طالب يكتب مقالات؛ بل أصبح موظفًا جديدًا يمكنه كتابة الأكواد، وتشخيص الأمراض، وابتكار الفنون، وحتى قيادة السيارات. ولكن مثل أي موظف جديد، فإنه يرتكب أخطاءً، وأحيانًا تكون جسيمة.

هذه الورقة البحثية هي في الأساس "تقرير تقييم شامل للسلامة والمسؤولية" لهذا القوى العاملة الجديدة من الذكاء الاصطناعي. لقد طرح المؤلفون سؤالاً كبيًرا: "من المسؤول عندما تسوء الأمور؟" هل هي البيانات التي "تغذى" عليها الذكاء الاصطناعي؟ أم النموذج نفسه؟ أم الأشخاص الذين يستخدمونه؟ أم القواعد التي وضعناها؟

إليك تفصيل لنتائجهم، مشروحة ببعض التشبيهات من الحياة اليومية.

1. الصورة الكبيرة: موظف جديد يمتلك قدرات خارقة

الذكاء الاصطناعي التوليدي (مثل روبوتات الدردشة التي تعرفونها) يتحرك بسرعة. الأمر يشبه توظيف متدرب عبقري يمكنه إنجاز عمل سنة كاملة في يوم واحد. لكن هذا المتدرب لديه بعض العادات الخطيرة:

الهلوسة (Hallucinations): يخبرك بثقة عن أكاذيب تبدو حقيقية (مثل طالب يختلق استشهاداً وهمياً في ورقة بحثية).
تسريب الذاكرة (Memory Leaks): قد يكشف بالخطأ أسراراً قرأها في كتب تدريبه (مثل متدرب يفشي أسرار الشركة).
كسر الحماية (Jailbreaking): يمكن خداعه ليتجاهل قواعده إذا سأل الشخص بطريقة معينة (مثل حارس يتشتت انتباهه بسبب ساحر).

تجادل الورقة بأننا لا يمكننا مجرد الأمل في أن يتصرف هذا المتدرب بشكل جيد. نحن بحاجة إلى نظام للتحقق من عمله.

2. المشكلة: فخ "الغسيل بالسلامة" (Safety Washing)

نظر المؤلفون في مئات الدراسات ووجدوا اتجاهاً مقلقاً. حالياً، لدينا العديد من "الاختبارات" للتحقق مما إذا كان الذكاء الاصطناعي آمناً، لكنها تشبه اختبارات القيادة في موقف سيارات فارغ.

ما نختبره: هل يستطيع الذكاء الاصطناعي قول "لا" للكلمات السيئة الواضحة؟ (نعم، هو جيد في ذلك).
ما نغفله: هل يستطيع الذكاء الاصطناعي التعامل مع خطة معقدة متعددة الخطوات تتطلب استخدام أدوات؟ هل يمكنه إيقاف فيديو "تزييف عميق"؟ هل يمكنه حماية البيانات الخاصة أثناء العمل في مكتب حقيقي؟

يسمي المؤلفون هذا "الغسيل بالسلامة" (Safety Washing). إنه يشبه شركة سيارات تضع ملصق "آمن" لامع على سيارة لم تخضع فعلياً لاختبار التصادم تحت المطر أو على الطرق الجليدية. الذكاء الاصطناعي يجتاز الاختبارات السهلة لكنه يفشل في العالم الحقيقي.

3. الحل: نظام "رخصة قيادة" جديد

لإصلاح ذلك، ابتكر المؤلفون نموذج تقييم من 10 نقاط (ورقة تسجيل درجات) ومجموعة من مؤشرات الأداء الرئيسية (KPIs). فكر في هذا كاختبار رخصة قيادة جديد وأكثر صرامة بكثير.

بدلاً من مجرد السؤال، "هل يمكنك التوقف عند الإشارة الحمراء؟" (وهو أمر سهل)، فإن اختبارهم الجديد يسأل:

اختبار "الحقيقة": إذا أعطيت الذكاء الاصطناعي سؤالاً طبياً، كم مرة يخترع حقائق وهمية؟ (نحن بحاجة لعد هذه الأخطاء).
اختبار "الخصوصية": إذا طلبت من الذكاء الاصطناعي تلخيص مستند، هل يسرب عنوان منزل شخص ما بالخطأ؟
اختبار "التزييف العميق": هل يمكنه التمييز بين فيديو حقيقي لشخص وفيديو مزيف تم إنشاؤه بواسطة الذكاء الاصطناعي؟
اختبار "العمل الجماعي": إذا كان الذكاء الاصطناي يتحكم في روبوت أو بوت تداول، هل يصاب بالارتباك ويتسبب في تعطل النظام؟

كما أنشأوا أيضاً "خريطة ممرات المشاة" (Crosswalk Map). هذا يشبه المترجم الذي يأخذ القوانين الحكومية المعقدة (مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي) ويحولها إلى مهام هندسية بسيطة. إنه يخبر المطورين: "حسناً، القانون يقول إن عليك أن تكون شفافاً. إليك الاختبار المحدد الذي يجب عليك تشغيله لتثبت ذلك".

4. من المسؤول؟ (نموذج المسؤولية المتماثل)

تخلص الورقة إلى أن المسؤولية ليست على شخص واحد فقط. إنها سباق تتابع:

البناؤون (المطورون): هم مسؤولون عن بناء السيارة بمكابح ووسائد هوائية جيدة. يجب عليهم ضمان توافق الذكاء الاصطناعي مع القيم البشرية وعدم وجود "أخطاء" خفية تسمح له بالقيام بأشياء سيئة.
السائقون (المستخدمون/الشركات): لا يمكنك شراء سيارة فيراري وقيادتها نحو منحدر لمجرد أن "السيارة كانت سريعة". يجب على المستخدمين معرفة كيفية استخدام الذكاء الاصطناعي بأمان. إذا استخدمت الذكاء الاصطناعي لكتابة عقود قانونية، فأنت مسؤول عن قراءتها. إذا استخدمته لتشخيص المرضى، فأنت مسؤول عن جعل الطبيب يراجع النتائج.
شرطة المرور (الجهات التنظيمية): يحتاجون إلى وضع قواعد الطريق والتأكد من أن اختبارات "رخصة القيادة" صعبة بما يكفي بالفعل.

5. الرهانات في العالم الحقيقي

يوضح المؤلفون أن هذا ليس مجرد نظرية. هناك أشخاص حقيقيون يتضررون:

في الرعاية الصحية: قدم ذكاء اصطناعي لطبيب دراسة طبية مزيفة، مما أدى إلى تشخيص خاطو محتمل.
في التمويل: قدم ذكاء اصطناعي نصيحة استثمارية سيئة، أو استخدم مخترق "صوتاً مزيفاً" لخداع بنك وتحويل 25 مليون دولار.
في الدفاع: تُستخدم أنظمة الذكاء الاصطناعي لتخطيط الاستراتيجيات العسكرية؛ وإذا هلوس النظام، فقد تكون العواقب هي الحرب.

الخلاصة

تقول الورقة: "توقفوا عن اللعب بالسيارات اللعبة."

نحن ننتقل من عصر "الغرب المتوحش" للذكاء الاصطناعي، حيث يمكن لأي شخص بناء أي شيء، إلى عصر "الطريق السريع المنظم". وللوصول إلى هناك، نحتاج إلى التوقف عن الاعتماد على قوائم التحقق البسيطة والبدء في استخدام اختبار مستمر وتكيفي يحاكي فوضى العالم الحقيقي.

الخلاصة: نحن بحاجة إلى معاملة الذكاء الاصطناعي ليس كصندوق سحري يعمل دائماً، بل كأداة قوية تتطلب كتيب تعليمات، وحزام أمان، ومشغلاً مسؤولاً. لقد قدم المؤلفون المخطط التفصيلي لحزام الأمان هذا.

إليك ملخص تقني مفصل للورقة البحثية بعنوان: "من المسؤول؟ البيانات، النماذج، المستخدمون أم التنظيمات؟ مسح شامل للذكاء الاصطائي التوليدي المسؤول من أجل مستقبل مستدام."

1. بيان المشكلة

إن الانتقال السريع للذكاء الاصطناائي التوليدي (GenAI) من النماذج التجريبية البحثية إلى عمليات النشر في بيئات الإنتاج (بما في ذلك النماذج اللغوية الكبيرة LLMs، ونماذج الرؤية واللغة، ونماذج الانتشار، وخطوط الأنابيب الوكيلة/العميلة) قد فاق سرعة تطوير أطر الحوكمة المسؤولة. وبينما توجد مبادئ الذكاء الاصطناائي المسؤول (RAI)، إلا أن هناك عدم توافق حرج بين:

تفويضات الحوكمة: مثل لوائح قانون الذكاء الاصطناعي للاتحاد الأوروبي وإطار عمل NIST لإدارة مخاطر الذكاء الاصطناعي.
التنفيذ التقني: معايير السلامة الهندسية وضوابط التحكم الحالية.
المخاطر الناشئة: يفرض الذكاء الاصطنائي التوليدي أنماط فشل فريدة مثل الهلوسة، وحقن الأوامر (Prompt Injection)، واسترجاع البيانات المحفوظة، والتزييف العميق، وفشل الأنظمة على مستوى النظام في الوكلاء المستقلين، وهي أمور تفشل تصنيفات مخاطر تعلم الآلة التنبؤية التقليدية في استيعابها.

تحدد الورقة ما يسمى بـ "فجوة التقييم": حيث إن المعايير المرجعية الحالية غالبًا ما تكون ثابتة، ومحلية المهمة، وكثيفة في تغطية التحيز والسمية، لكنها شحيحة في مجالات الخصوصية، والمنشأ (Provenance)، وكشف التزييف العميق، وفشل الأنظمة الوكيلية. يؤدي هذا إلى "الغسيل بالسلامة" (Safetywashing)، حيث تجتاز النماذج الاختبارات الثابتة ولكنها تفشل في السيناريوهات الواقعية أو العدائية أو متعددة الجولات.

2. المنهجية

أجرى المؤلفون مراجعة منهجية للأدبيات تلتزم بإرشادات PRISMA (عناصر التقارير المفضلة للمراجعات المنهجية والميتا-تحليل).

النطاق: 232 دراسة نُشرت بين نوفمبر 2022 وديسمبر 2025 (ما بعد عصر GPT).
المصادر: Scopus، وWeb of Science، وIEEE Xplore، وACM Digital Library، وarXiv.
عملية الاختيار:
- أسفر البحث الأولي عن 5,313 سجلاً.
- بعد إزالة التكرار والفحص بحثًا عن الدوريات المحكمة، والمؤتمرات، والمنشورات الأولية عالية التأثير التي تحتوي على أطر تقنية أو تقييمات تجريبية للمخاطر، تم اختيار 142 دراسة للتركيب النهائي.
إطار التحليل: تلخص المراجعة النتائج عبر أربعة مجالات موضوعية: نظرية علوم الحاسوب، التطبيق، السياسة، وخصوصيات الذكاء الاصطناعي التوليدي، مع ربطها بتصنيف جديد للمخاطر والضوابط.

3. المساهمات الرئيسية

تقدم الورقة أربع مساهمات تقنية رئيسية:

أ. التصنيف الشامل والمسح

تقدم أول مسح يربط بين مبادئ الحوكمة، والتقييم التقني، والنشر في المجالات عبر جميع أنواع أنظمة الذككاء الاصطناعي التوليدي الأربعة (LLMs، VLMs، Diffusion، Agentic). وتضع تصنيفًا هيكليًا للمخاطر (الشكل 1) يغطي:

تحديات البيانات: التلوث الاصطناعي، وانهيار النموذج، ومسارات الزحف الغامضة.
تحديات النموذج/النظام: التحيز، تسريب الخصوصية، الهلوسة، والمتانة.
التهديدات الناشئة: عكس التضمين (Embedding Inversion)، وأسراب الهويات الاصطناعية، و"تأثيرات الهيدرا" (حيث يؤدي التخفيف من خطر ما إلى كشف خطر آخر).
فشل الوكلاء (Agentic Failures): إساءة استخدام الأدوات، الهلوسة التكرارية، واختطاف الخطط.

ب. معيار المعاي العشرة (C1–C10) والربط بالسياسات

طوّر المؤلفون مقياس تسجيل لتقييم معايير سلامة الذكاء الاصطناعي مقابل احتياجات الحوكمة:

المعايير: C1 (التحيز)، C2 (السمية)، C3 (الأمن/المتانة)، C4 (المعلومات المضللة)، C5 (التزييف العميق)، C6 (الخصوصية)، C7 (الفشل على مستوى النظام)، C8 (واقعية الفاعل الضار)، C9 (صلاحية المقاييس)، C10 (التوافق مع الحوكمة).
الربط بالسياسات: أداة ربط تربط المعايير المرجعية المحددة بالمتطلبات التنظيمية (مثل قانون الذكاء الاصطناعي للاتحاد الأوروبي، وNIST AI RMF)، لتحديد أي المعايير توفر دعمًا إثباتيًا معقولًا للامتثال.

ج. التشغيل عبر مؤشرات الأداء الرئيسية لدورة الحياة ومنصات الاختبار

تترجم الورقة المبادئ المجردة إلى 12 مؤشر أداء رئيسي (KPI) لدورة الحياة قابلة للقياس، تشمل:

جودة البيانات ( $Q$ ) و الامتثال للخصوصية ( $P$ ).
مقاييس التحيز: فرق التماثل الإحصائي (SPD)، والأثر المتباين (DI).
المتانة ( $R$ ) و معدل نجاح الهجوم (ASR).
القابلية للتفسير ( $E$ ) و فجوة الإخلاص المحلي (LFG).
معدل الخطأ في الحالات عالية المخاطر ( $E_h$ ): وهو أمر بالغ الأهمية للرعاية الصحية والتمويل.
الاستدامة: الطاقة ( $E_{kWh}$ ) وانبعاثات الكربون ( $C_{CO2e}$ ).
كما توفر كتالوجًا لـ منصات الاختبار الجاهزة للذكاء الاصطناعي (مثل ToolSandbox، وChatbot Arena) التي تولد وثائق جاهزة للتدقيق.

د. التحليل الخاص بالمجالات

تطبق الدراسة عدسة ResGenAI على ستة قطاعات حيوية (الرعاية الصحية، التمويل، الدفاع، التعليم، الفنون، الزراعة)، مع تحديد ملفات المخاطر المحددة ومؤشرات الأداء المطلوبة لكل منها. فعلى سبيل المثال، تعطي الرعاية الصحية الأولوية لمعدلات الهلوسة ( $E_h$ )، بينما يعطي الدفاع الأولوية لاختبارات الفريق الأحمر (Red-teaming) والإشراف البشري.

4. النتالئ والنتائج الرئيسية

فجوات تغطية المعايير المرجعية: تميل المعايير المرجعية الحالية بشدة نحو التحيز والسمية (تغطية كثيفة) لكنها شحيحة للغاية في الخصوصية، والمنشأ، والتزييف العميق، وفشل الأنظمة الوكيلية على مستوى النظام.
- الأفضل أداءً: Rainbow Teaming (الدرجة: 0.50) نظرًا للتغطية التكيفية القوية للخصوم.
- الأقل أداءً: مجموعات القضايا الفردية مثل RealToxicityPrompts (الدرجة: 0.15).
التقييم الثابت مقابل الديناميكي: معظم التقييمات ثابتة ومحلية المهمة. وهي تفشل في التقاط "الخصوم المتكيفين" أو التفاعلات متعددة الجولات حيث يمكن "اختراق" النماذج أو التلاعب بها للقيام بسلوكيات ضارة (مثل حوادث Microsoft Bing Chat).
"فجوة التفسير": أدوات التفسير اللاحقة (مثل SHAP وLIME) غالبًا ما تولد روايات "معقولة ولكن غير مخلصة" لا تعكس الآليات الداخلية للنماذج المحولة (Transformers)، مما يخلق شعورًا زائفًا بالأمان.
عدم التوافق مع الحوكمة: توفر مجموعة فرعية فقط من المعايير المرجعية أدلة ملموسة لضوات التحكم في الخصوصية/الأمن. لا يوجد نظام واحد يغطي أكثر من نصف معايير المقياس بمستوى "قوي"، مما يعيق الامتثال التنظيمي عبر الحدود.
نموذج المسؤولية المتماثل: يقترح المؤلفون أن المسؤولية لا تقع على عاتق المطورين وحدهم. ويُقترح نموذج جديد حيث المطورون مسؤولون عن الشفافية والمواءمة، بينما المستخدمون مسؤولون عن النزاهة التشغيلية والثقافة الرقمية.

5. الأهمية والتوجهات المستقبلية

توفر هذه الورقة مسارًا مهيكلًا لمواءمة تقييم الذكاء الاصطناعي التوليدي مع احتياجات الحوكمة، والانتقال من "الغسيل بالسلامة" إلى الإشراف القابل للتحقق.

أولويات الأجندة البحثية:

التقييم متعدد الوسائط التكيفي: الانتقال من الأوامر الثابتة إلى الاختبارات الديناميكية، متعددة الجولات، وعبر الوسائط.
الخصوصية والمنشأ: دمج اختبارات استنتاج العضوية واستخراج البيانات في الاختبارات الروتينية.
تقييم مخاطر التزييف العميق: تطوير معايير محددة لكشف التزييف العميق متعدد الوسائط والمنشأ.
المراقبة المستمرة: التحول من التدقيق لمرة واحدة إلى المراقبة المستمرة لانحراف النموذج والتكتيكات العدائية.
تقارير الاستدامة: فرض تقارير الطاقة وانبعاثات الكربون مقننة حسب حجم الإنتاج (على سبيل المثال، لكل 1 ألف رمز/token).

الخلاصة:
تخلص المسح إلى أنه بدون سد الفجوة بين المعايير التقنية والأدلة التنظيمية، فإن نشر الذكاء الاصطناعي التوليدي يظل غير آمن. ومن خلال تقديم حلقة تدقيق ResGenAI (الشكل 9)، يقدم المؤلفون آلية لترجمة مؤشرات الأداء التقنية إلى وثائق تدقيق قابلة للنقل، مما يتيح مستقبلًا مستدامًا ومسؤولًا للذكاء الاصطناعي التوليدي عبر جميع المجالات.