PluriHarms: Benchmarking the Full Spectrum of Human Judgments on AI Harm
تقدم هذه الورقة PluriHarms، وهو معيار مرجعي مبتكر صُمم للتجاوز وراء تقييمات السلامة الثنائية من خلال التحليل المنهجي للطيف الكامل للأحكام البشرية حول ضرر الذكاء الاصطناعي، مع التركيز بشكل خاص على أبعاد شدة الضرر والاختلاف بين المقيّمين لتمكين تطوير أنظمة سلامة ذكاء اصطناعي أكثر تعددية وتخصيصاً.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم روبوت كيف يكون "جيداً". تعمل معظم أنظمة السلامة الحالية مثل شرطي مرور صارم لديه إشارتان فقط: اللون الأخضر (انطلق، هذا آمن) واللون الأحمر (توقف، هذا خطر).
المشكلة، كما يوضح هذا البحث، هي أن الحياة الواقعية ليست مجرد أخضر وأحمر فقط. بل هي مليئة بـ الأضواء الصفراء، والتقاطعات الضبابية، والمنعطفات المربكة حيث يختلف الناس بصدق. قد يرى شخص ما نكتة ما مضحكة، بينما يراها آخر جارحة. قد يرى شخص ما سؤالاً سياسياً على أنه نقاش، بينما يراه آخر تهديداً.
يقول مؤلفو هذا البحث، PLURIHARMS، إننا من خلال البحث فقط عن الأشياء "السيئة" الواضحة تماماً، فإننا نغفل عن المنطقة الرمادية المربكة حيث تنهار سلامة الذكاء الاصطناي في الواقع. لقد بنوا أداة جديدة لدراسة هذه المنطقة الرمادية.
إليك تفصيل لعملهم باستخدام تشبيهات بسيطة:
1. المشكلة: شبكة الأمان "الموحدة للجميع"
سلامة الذكاء الاصطناعي الحالية تشبه قطاعة الكعك. فهي تحاول قص كل قطعة من المحادثة البشرية إلى دائرة مثالية (آمنة) أو مربع متعرج (غير آمن).
- العيب: إذا سألت مجموعة من الناس: "هل هذه النكتة لئيمة؟" فلن تحصل على إجابة واحدة. بل ستحصل على طيف من الإجابات. البعض سيضحك، والبعض سيشعر بالاشمئزاز، والبعض الآخر سيشعر بالإهانة.
- الخطأ: يعامل الذكاء الاصطناعي الحالي هذه الآراء المختلفة على أنها "ضجيج" أو أخطاء يجب تسويتها حتى يتفق الجميع على إجابة واحدة "آمنة". يقول المؤلفون إن هذا خطأ؛ فالاختلاف في الرأي هو بحد ذاته "الإشارة". إنه يخبرنا أن لدى الناس قيمًا وخلفيات وتجارب مختلفة.
2. الحل: معيار "طيف الضرر"
أنشأ الفريق مجموعة بيانات جديدة تسمى PLURIHARMS. فكر في هذا كـ عجلة ألوان بدلاً من إشارة مرور.
- الإعداد: قاموا بتوليد 150 سؤالاً مختلفاً (مطالبات) تتراوح من "غير ضارة تماماً" (مثل السؤال عن الطقس) إلى "خطيرة بوضوح" (مثل السؤال عن كيفية الاتجار بالأطفال).
- المنطقة الوسطى: والأهم من ذلك، أنهم ركزوا بشدة على الألوان الوسطى — المطالبات الصفراء والبرتقالية. هذه هي الأسئلة الصعبة حيث يختلف الناس أكثر من غيرها (مثل: "هل من المقبول كتابة قصة عن شخصية تاريخية مثيرة للجدل؟").
- العنصر البشري: لم يكتفوا بجعل الذكاء الاصطناعي يحكم على هذه الأسئلة فح'سب، بل طلبوا من 100 إنسان حقيقي تقييم كل مطالبة على مقياس من 0 إلى 100.
- البيانات: كما سألوا هؤلاء البشر عن حياتهم: أعمارهم، مستويات تعليمهم، توجهاتهم السياسية، مدى استخدامهم لوسائل التواصل الاجتماعي، ومدى تعرضهم للتنمر عبر الإنترنت.
3. ماذا اكتشفوا: لماذا نختلف؟
عندما حللوا البيانات، وجدوا أن "الضرر" لا يتعلق فقط بالكلمات الموجودة في السؤال؛ بل يتعلق بـ من الذي يسأل ومن الذي يجيب.
- قاعدة "الخطر الملموس": يتفق البشر عموماً على أن الأشياء التي تسبب ضرراً جسدياً مباشلاً (مثل إيذاء طفل أو ارتكاب جريمة) هي أشياء سيئة. هذه هي منطقة "اللون الأحمر".
- عامل "الهوية": حيث يكمن اختلاف الناس هو في منطقة "اللون الأصفر".
- تشبيه: تخيل سؤالاً حول نوع معين من الموسيقى. الشخص الذي تعرض للتنمر عبر الإنترنت قد يصنف سؤالاً حول تلك الموسيقى على أنه "ضار جداً" لأنه يذكره بصدمة نفسية. بينما قد يصنف شخص ذو خلفية مختلفة نفس السؤال على أنه "غير ضار".
- النتيجة: يظهر البحث أن خلفيتك (مثل مستوى تعليمك أو مدى استخدامك لوسائل التواصل الاجتماعي) وتجاربك الماضية (مثل كونك ضحية للتنمر الإلكتروني) تعمل مثل النظارات الشمسية. فهي تغير لون العالم الذي تراه. إذا كنت قد تعرضت للأذى من قبل، فسترى خطراً أكبر في نفس السؤال مقارنة بشخص لم يتعرض لذلك.
4. اختبار الذكاء الاصطناعي: هل يمكن للروبوتات أن تتعلم الرؤية بعيون مختلفة؟
اختبر المؤلفون نماذج سلامة الذكاء الاصطناي المختلفة على مجموعة بيانات "عجلة الألوان" الجديدة هذه لمعرفة ما إذا كان بإمكانها التنبؤ بكيفية تفاعل بشر محددين.
- الطريقة القديمة (الإجماع): حاولوا تدريب الذكاء الاصطناي للتنبؤ بـ متوسط الرأي البشري.
- النتيجة: كان الذكاء الاصطناي جيداً في ذلك، لكنه افتقر إلى الدقة. كان الأمر يشبه محاولة تخمين ما يفكر فيه حشد كامل من خلال سؤال شخص واحد.
- الطريقة الجديدة (التخصيص): حاولوا تدريب الذكاء الاصطناي للتنبؤ بما سيفكر فيه شخص محدد، بناءً على ملفه الشخصي.
- النتيجة: حقق هذا الطريقة نتائج أفضل بكما! عندما تم "تخصيص" الذكاء الاصطناي لفهم قيم وتاريخ مستخدم معين، استطاع التنبؤ بتقييمات السلامة الخاصة به بدقة أكبر بكثير.
- الخلاصة: قاعدة السلامة "الموحدة للجميع" هي قاعدة ضعيفة. أما نظام السلامة الذي يمكنه التكيف مع من يستخدمه فهو أقوى بكثير.
ملخص
PLURIHARMS هي أداة جديدة تقول: "توقفوا عن محاولة إجبار الجميع على الاتفاق على ما هو آمن".
بدلاً من ذلك، هي تعامل الاختلاف كـ "ميزة" وليس كـ "خطأ". إنها توضح أن السلامة هي تجربة شخصية. تماماً كما قد ترتدي أحذية مختلفة للمشي لمسافات طويلة عنها للرقص، لا ينبغي لسلامة الذكاء الاصطناي أن تكون كتاب قواعد واحد جامد. يجب أن تكون مرنة بما يكفي لفهم أن السؤال "الضار" لشخص ما قد يكون سؤالاً "غير ضار" لشخص آخر، وأن أفضل أنظمة سلامة الذكاء الاصطناي ستكون تلك القادرة على فهم وتكييف نفسها مع تلك المنظورات المختلفة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.