A Closer Look at the Existing Risks of Generative AI: Mapping the Who, What, and How of Real-World Incidents
تقدم هذه الورقة تصنيفاً جديداً لإخفاقات الذكاء الاصطناعي التوليدي من خلال التحليل المنهجي لـ 499 حادثة من الواقع للكشف عن أن معظم الأضرار تنبع من مشكلات متعلقة بالاستخدام تؤثر على أصحاب المصلحة بما يتجاوز المستخدمين النهائيّين، مما يميز مشهد مخاطر الذكاء الاصطناعي التوليدي عن الذكاء الاصطناعي التقليدي ويدعو إلى استراتيجيات تخفيف غير تقنية مثل الإفصاح العام والتعليم والتنظيم.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل الذكاء الاصطناائي التوليدي كأنه مصنع فائق القدرة وشديد الإبداع يمكنه إنتاج النصوص والصور والملفات الصوتية ومقاطع الفيديو فوراً. إنه يشبه مطبعة سحرية لا تنام أبداً. ولكن تماماً مثل أي مصنع قوي، هو لا ينتج السلع فحسب؛ بل ينتج أيضاً "حوادث" و"فوضى".
هذه الورقة البحثية هي في الأساس تحقيق جنائي في 499 حادثة حقيقية من العالم الواقعي تسبب فيها هذا المصنع. لم يكتفِ الباحثون (من جامعة كارنيجي ميلون) بالتخمين حول ما قد يسوء؛ بل نظروا في كومة هائلة من تقارير الشرطة، والقصص الإخبارية، والشكاوى العامة لرسم خريطة توضح بالضبط ما حدث، ومن تضرر، ولماذا.
إليك تفصيل لنتائجهم بأسلوب مبسط:
1. المفاجأة الكبرى: مشكلة "الطرف الثالث" (المتفرج)
في معظم قصص السلامة، نفترض أن الشخص الذي يتضرر هو نفسه مستخدم الأداة. إذا كنت تقود سيارة بتهور، أنت من يصطدم.
لكن مع الذكاء الاصطناعي التوليدي، وجد الباحثون العكس هو الصحيما غالباً.
- التشبيه: تخيل أنك في حفلة. قررت استخدام فرشاة رسم سحرية لرسم صورة مضحكة لصديقك. أنت (المستخدم) تعتقد أن الأمر مضحك للغاية. لكن الشخص الموجود في الصورة (الطرف الثالث) يتعرض الآن للسخرية من قبل البلدة بأكملها، أو تتدمر سمعته.
- النتيجة: وجدت الدراسة أن معظم الضرر لم يقع على الشخص الذي يستخدم الذكاء الاصطناعي. بل وقع على أشخاص ليس لهم علاقة بالأمر؛ غرباء، أو مجتمعات، أو المجتمع ككل. "المستخدمون" غالباً ما حصلوا على الفوائد (المتعة، الإنتاجية)، بينما حصل "غير المستخدمين" على الكدمات (عمليات الاحتيال، سرقة الهوية، الارتباك).
2. الجانيان الرئيسيان: "الخلل التقني" مقابل "الشرير"
صنف الباحثون أسباب وقوع هذه الحوادث إلى فئتين رئيسيتين:
- الخلل (الأعطال التقنية): أحياناً يخطئ الذكاء الاصطناعي ببساطة. فهو "يهلوس" (يختلق حقائق)، أو يرتبك، أو يفشل في اتباع القواعد.
- من يتضرر؟ عادة ما يكون الشخص الذي يستخدم الذكاء الاصطعي. على سبيل المثال، يستخدم محامٍ الذكاء الاصطناعي لكتابة مذكرة قضائية، فيقوم الذكاء الاصطناعي باختلاق قضية وهمية، فيقع المحامي في ورطة.
- الشرير (الاستخدام الخبيث): كانت هذه أكبر مفاجأة. لم يكن السبب الأكثر شيوعاً للضرر هو تعطل الذكاء الاصطناعي، بل كان استخدام الناس لذكاء اصطناعي يعمل بشكل جيد للقيام بأشياء سيئة عن قصد.
- من يتضرر؟ دائماً تقريباً هم "الأطراف الثالثة".
- أمثلة: شخص يستخدم الذكاء الاصطناعي لإنشاء فيديو "تزييف عميق" (Deepfake) مزيف لسياسي للتسبب في أعمال شغب، أو إنشاء صور عارية مزيفة لزميلة له للتنمر عليها. لقد عمل الذكاء الاصطناعي تماماً كما صُمم؛ المشكلة كانت في الإنسان الذي يقف خلفه.
3. خريطة "من، وماذا، وكيف"
بنت الورقة البحثية خريطة جديدة (تصنيف) لتنظيم هذه الحوادث:
- ماذا حدث (الضرر): كانت أكثر أنواع الضرر شيوعاً هي المساس بـ الاستقلالية (الخداع أو انتحال الشخصية)، والسياسة/الاقتصاد (الأخبار المزيفة التي تؤثر على الانتخابات أو الأسواق)، والسمعة (التشهير).
- كيف حدث (نمط الفشل): كان السبب الأكثر تكراراً هو الاستخدام الخبيث (الأطراف السيئة المتعمدة). والثاني من حيث الشيوع هو الاستخدام غير المعلن (استخدام الذكاء الاصطناعي عندما يُفترض بك القيام بعمل بشري، مثل غش الطلاب أو إغراق المجلات بمحتوى مزعج ناتج عن الذكاء الاصطناعي).
- من تضرر: كما ذكرنا، تحمل الأشخاص "غير المتفاعلين" (الجمهور، ضحايا التزييف العميق) العبء الأكبر من الأضرار.
4. لماذا لا تعمل القواعد الحالية؟
تجادل الورقة بأن طريقتنا الحالية في التفكير بشأن السلامة معطلة لأنها تفترض أن الشخص الذي يستخدم الأداة هو الوحيد الذي يحتاج إلى الحماية.
- التشبيه: الأمر يشبه امتلاك دليل سلامة للمطرقة يخبرك فقط بكيفية عدم ضرب إبهامك، لكنه لا يقول شيئاً عن عدم ضرب جارك بها.
- الواقع: بما أن الأشخاص الذين يستخدمون الذكاء الاصطناعي غالباً لا يعانون من العواقب، فليس لديهم دافع ليكونوا حذرين. "الفائدة" تذهب للمستخدم، لكن "المخاطرة" تذهب للغريب.
5. ماذا يجب أن نفعل؟
يقترح المؤلفون ثلاثة أمور رئيسية لإصلاح هذه الفوضى، مع التركيز على الناس والقواعد بدلاً من مجرد تحسين الأكواد البرمجية:
- تعليم الناس (الثقافة تجاه الذكاء الاصطناعي): نحن بحاجة لتعليم الجمهور العام كيف يعمل هذا "المصنع". إذا فهم الناس أن الذكاء الاصطناعي يمكن أن يكذب (يهلوس) أو يمكن استخدامه في عمليات الاحتيال، فلن يثقوا به ثقة عمياء. هذا يوقف بعض "الحوادث" الناتجة عن الجهل.
- تنظيم "الغرب المتوحش" للمصادر المفتوحة: تشير الورقة إلى أن العديد من الأدوات الأسوأ (مثل التطبيقات التي تنشئ صوراً عارية مزيفة) مبنية على نماذج "المصدر المفتوح" التي يمكن لأي شخص تحميلها وتعديلها. القواعد الحالية تسمح بوجود هذه الأدوات مع قيود قليلة. يقترح المؤلفون أننا بحاجة إلى قواعد أكثر صرامة هنا لمنع "الأشرار" من بناء أسلحتهم.
- تتبع "الأثر الورقي" (المصدر): نحن بحاجة إلى طرق أفضل لتمييز ما هو حقيقي وما هو نتاج ذكاء اصطناعي. إذا تمكنا من وضع علامات على محتوى الذكاء الاصطناعي (مثل "صُنع بواسطة الذكاء الاصطناعي") وكشف التزييف، فسيكون من الصعب على المحتالين نشر الأكاذيب أو تدمير سمعة الناس عبر التزييف العميق.
الخلا الخلاصة
الذكاء الاصطناعي التوليدي ليس مجرد أداة تتعطل من حين لآخر؛ بل هو أداة يتم استخدامها كسلاح من قبل البشر بشكل متكرر لإيذاء أشخاص لم يطلبوا ذلك حتى. الحل ليس فقط في جعل الذكاء الاصطناعي "أذكى"؛ بل في تغيير كيفية تنظيمه، وتعليم الجمهور كيفية كشف الخدع، وإدراك أن الأشخاص الذين يستخدمون التكنولوجيا ليسوا هم الوحيدين الذين يحتاجون إلى الحماية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.