Empowering Affected Individuals to Shape AI Fairness Assessments: Processes, Criteria, and Tools
تقدم هذه الورقة دراسة نوعية للمستخدمين تستكشف كيف يمكن للأفراد المتأثرين بالذكاء الاصطناعي الخاص بالتصنيف الائتماني صياغة وتفعيل معايير العدالة المخصصة الخاصة بهم، مما يوفر رؤى تجريبية لمساعدة الخبراء في تصميم أدوات تقييم للذكاء الاصطناعي أكثر شمولاً وحساسية للقيم.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
مشكلة "وصفة العدالة": جعل قرارات الذكاء الاصطناعي أكثر إنسانية
تخيل أنك تتقدم بطلب للحصول على قرض من بنك. وبدلاً من أن ينظر موظف بنك بشري إلى تفاصيل حياتك، يقوم "روبوت" (نظام ذكاء اصطناعي) باتخاذ القرار.
في الوقت الحالي، عندما يتحقق الخبراء مما إذا كان هذا الروبوت "عادلاً"، فإنهم يستخدمون قائمة مراجعة رياضية جامدة للغاية. قد يتحققون من أمر مثل: "هل يرفض الروبوت النساء بمعدل أكبر من الرجال؟" فإذا قالت الرياضيات "لا"، يعلن الخبراء أن الروبوت "عادل".
المشكلة؟ هذا يشبه قيام طاهٍ بتحديد ما إذا كانت الوجبة "جيدة" فقط من خلال التحقق مما إذا كانت تحتوي على 500 سعرة حرارية بالضبط. إن هذا يتجاهل النكهة، والقوام، وما إذا كان الشخص الذي يأكلها يحبها حقاً. فالأشخاص الأكثر تأثراً بقرار الروبوت — وهم الناس العاديون — لا تُتاح لهم أبداً فرصة قول كلمتهم فيما يتعلق بما تبدو عليه "العدالة" في الواقع.
ماذا فعل هذا البحث
قرر فريق من الباحثين التوقف عن سؤال "خبراء الرياضيات" عما تعنيه العدالة، وبدأوا في سؤال "الأشخاص الذين هم في قلب الحدث".
جلسوا مع 18 شخصاً عادياً وأعطوهم محاكاة لنظام ذكاء اصطناعي لتقييم الائتمان. وبدلاً من مجرد سؤالهم: "هل يعجبكم هذا الروبوت؟"، منحوهم مجموعة أدوات رقمية لـ كتابة قواعدهم الخاصة التي يجب على الروبوت اتباعها.
الاكتشاف: كيف "يبني" الناس العدالة
وجد الباحثون أن الناس لا يفكرون في العدالة بطريقة واحدة فقط، بل يتبعون عملية تشبه بناء وصفة مخصصة:
- فحص المكونات (استكشاف الميزات): أولاً، ينظر الناس إلى ما "يأكله" الروبوت (البيانات). ينظرون إلى أشياء مثل العمر، والوظيفة، والمدخرات.
- لعبة "ماذا لو" (تحديد التحيز): يبدأون في تخيل سيناريوهات. "ماذا لو كان الروبوت متحيزاً ضد المهاجرين؟" أو "ماذا لو كان متحيزاً ضد الشباب؟"
- وضع الحدود (التصنيف): يقررون بالضبط من يحتاج إلى الحماية. فبدلاً من مجرد قول "العمر"، قد يقولون: "أي شخص تحت سن 25 أو فوق 65 عاماً يجب التعامل معه بعناية خاصة".
النتيجة: "بوفيه العدالة"
وجد الباحثون أن الناس لم يريدوا قاعدة واحدة فقط، بل أرادوا قائمة كاملة من الحمايات. لقد أنشأوا ثلاثة أنواع رئيسية من "وصفات العدالة":
- وصفة "النتيجة" (المخرج): "لا يهمني كيف تفعل ذلك، فقط تأكد من أن الأش kişiler الذين لديهم نفس الدخل يحصلون على نفس النتيجة، بغض النظر عن جنسهم".
- وصفة "المزيج" (التركيبة): "أريد من الروبوت أن يكون عادلاً تجاه المجموعات (مثل الرجال مقابل النساء) وَ عادلاً تجاه الأفراد (معاملة شخصين متشابهين بنفس الطريقة) في آن واحد".
- وصفة "العملية" (الطريقة): كان هذا مفاجأة كبيرة! الكثير من الناس لم يهتموا فقط بالإجابة النهائية، بل اهتموا بـ كيفية تفكير الروبوت. قالوا: "لا ينبغي للروبوت حتى أن ينظر إلى رقم هاتفك أو جنسك عند اتخاذ القرار. هذه المكونات لا ينبغي أن تكون موجودة في المطبخ أصلاً!".
لماذا يهم هذا الأمر؟
في الوقت الحالي، تعتبر عدالة الذكاء الاصطناعي عملية "من الأعلى إلى الأسفل": الخبراء يخبرون الجمهور: "ثقوا بنا، الرياضيات عادلة".
تجادل هذه الورقة البحثية بضرواة اتباع نهج "من القاعدة إلى القمة". وهي تقترح أنه يجب علينا بناء أدوات تسمح للناس العاديين بالجلوس على الطاولة وقول: "هذه هي القواعد التي أريدكم أن تتبعوها. هكذا أعرف أنا العدالة. الآن، أروني ما إذا كنتم تتبعونها".
الصورة الكبيرة: من خلال منح الناس الأدوات لتعريف "وصفات العدالة" الخاصة بهم، يمكننا الانتقال بعيداً عن الرياضيات الآلية الباردة نحو أنظمة ذكاء اصطناعي تحترم القيم الإنسانية حقاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.