(Un)fair devices: Moving beyond AI accuracy in personal sensing
تسلط هذه المراجعة الأدبية الضوء على التحيزات الخفية في أجهزة الاستشعار الشخصية المدفوعة بالذكاء الاصطناعي عبر مختلف الفئات الديموغرافية، وتدعو إلى الانتقال من التقييمات القائمة حصرياً على الأداء إلى نهج متمحور حول الإنسان، مع توفير إرشادات لضمان تطوير تقنيات صحية عادلة وغير منحازة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن ساعتك الذكية، أو خاتم اللياقة البدنية، أو تطبيقك الصحي هو محقق شخصي. هذا المحقق يراقب، ويستمع، ويقيس كل حركة تقوم بها باستمرار ليخبرك بمدى صحتك، أو جودة نومك، أو ما إذا كان قلبك يتخطى نبضة ما.
لسنوات، كنا نسأل هذا المحقق سؤالاً واحداً: "هل أنت دقيق؟" فإذا قال المحقق إنك خطوت 10,000 خطوة، نريد أن نعرف ما إذا كانت بالفعل 10,000 خطوة.
لكن هذه الورقة البحثية تجادل بأن السؤال عن الدقة فقط يشبه سؤال طباخ: "هل هذا الحساء مذاقه جيد؟" دون أن تسأله: "هل مذاقه جيد للجميع؟"
يقول المؤلفون، وهم فريق من الباحثين من جامعات وشركات تقنية عملاقة: "لا، أجهزتنا الشخصية ليست عادلة مع الجميع." فهي غالباً ما تكون منحازة، مما يعني أنها تعمل بشكل رائع لبعض الناس، لكنها تفشل فشلاً ذريعاً مع آخرين.
إليك تفصيل المشكلة والحل، باستخدام بعض التشبيهات من الحياة اليومية.
1. المشكلة: المحقق الذي "لا يناسب أحداً"
تكمن المشكلة الجوهرية في أن "بيانات التدريب" المستخدمة لتعليم هذه الأجهزة منحرفة. فكر في الأمر كأنها مدرسة تعليم طبخ، حيث 90% من الطلاب هم من الرجال البيض الطوال من الدول الغنية.
- النتيجة: المدرسة تعلم الطلاب كيفية الطبخ للرجال البيض الطوال.
- الواقع: عندما تحاول امرأة قصيرة، أو شخص مسن، أو شخص ذو لون بشرة مختلف تناول الطعام، يكون المذاق خاطئاً.
تسلط الورقة الضوء على عدة أمثات واقعية لهذا "الطبخ السيئ":
- العمى تجاه لون البشرة: أجهزة قياس نسبة الأكسجين في الدم (التي توضع على الإصبع للتحقق من الأكسجين) غالباً ما تعطي قراءات خاطئة للأشخاص ذوي البشرة الداكنة. الأمر يشبه كاميرا مع "فلاش" تمت معايرته للوجوه الشاحبة؛ حيث تبالغ في الإضاءة على البشرة الداكنة، مما يجعلها تبدو وكأنها تفتقر للأكسجين بينما هي ليست كذلك. وهذا قد يكون خطيراً أثناء الحالات الطبية الطارئة.
- العمى تجاه نوع الجسم: مستشعرات معدل ضربات القلب في الساعات الذكية غالاً ما تواجه صعوبة مع الأشخاص الذين لديهم أذرع ضخمة أو كتلة عضلية كبيرة. الأمر يشبه محاولة قياس عمق نهر بمسطرة مخصصة لحوض استحمام؛ الأداة ببسا طريقة لا تناسب السياق.
- العمي تجاه العمر: المساعدات الصوتية أو السماعات الطبية غالباً ما تفشل في فهم الأطفال أو كبار السن لأنها تدربت في الغالب على أصوات البالغين في منتصف العمر. الأمر يشبه مترجماً يتحدث فقط "لغة الجيل الجديد" ولا يستطيع فهم لهجة أحد الأجداد.
2. الخطر الخفي: "العطل غير المرئي"
في البرمجيات التقليدية، إذا تعطل برنامج ما، سترى رسالة خطأ حمراء كبيرة. ولكن في الأجهزة الشخصية، يكون الانحياز غير مرئي.
تخيل تطبيق ملاحة (GPS). إذا كان نظام الملاحة منحازاً، فهو لن يقول "خطأ"، بل سيرسلك بهدوء عبر طريق وعر وخطير لأنه يعتقد أنك تفضل الطرق الوعرة، لمجرد أنه قد تعامل دائماً مع أشخاص يعيشون في طرق وعرة.
تحذر الورقة من أن هذه الأجهزة باتت تتخذ قرارات عالية المخاطر:
- تشخيص أمراض القلب (مثل الرجفان الأذيني).
- التنبؤ بالخصوبة.
- اكتشاف انقطاع النفس النومي.
إذا كان "المحقق" منحازاً، فقد يخبر مريضاً أسود اللون بأنه بخير بينما هو في خطر حقيقي، أو يخبر امرأة أن فرص خصوبتها أقل مما هي عليه في الواقع. وجدت الورقة أنه في السنوات القليلة الماضية، أقل من 10% من الأوراق البحثية حول هذه الأجهزة اهتمت حتى بالتحقق مما إذا كانت أدواتها عادلة لمختلف الفئات من البشر.
3. لماذا يصعب إصلاح هذا الأمر؟
يوضح المؤلفون أن بيانات الأجهزة الشخصية معقدة.
- هدف متحرك: على عكس الصورة الثابتة، فإن إشارة معدل ضربات القلب تتغير كل ثانية. الأمر يشبه محاولة الحكم على فيلم من خلال النظر إلى إطار واحد ضبابي.
- بيانات فوضوية: ارتفاع معدل ضربات القلب قد يعني أنك تركض، أو قد يعني أنك متوتر، أو أنك شربت القهوة للتو. يجب على الجهاز تخمين السبب، وإذا أخطأ في التخمين لبعض المجموعات، فهذا هو الانحياز.
- فخ الـ "WEIRD": معظم الأبحاث تُجرى على سكان الدول الغربية (W)، المتعلمة (E)، الصناعية (I)، الغنية (R)، والديمقراطية (D). الأمر يشبه اختبار سيارة جديدة فقط على الطرق السريعة الناعمة في كاليفورنيا، ثم بيعها لأشخاص يقودون في طرق طينية تحت المطر.
4. الحل: "العدالة بالتصميم"
يقترح المؤلفون قواعد جديدة تسمى "العدالة بالتصميم" (Fairness by Design). بدلاً من بناء الجهاز أولاً ثم التحقق من الانحياز لاحقاً (مثل التحقق من وجود شقوق في جسر بعد بنائه)، يجب علينا بناء العدالة في الأساس.
لقد قدموا 14 إرشداً للباحثين والشركات، والتي يمكن تلخيصها فيما يلي:
- استقطاب طاقم متنوع: لا تختبر أجهزتك على أصدقائك في الجامعة فقط. اختبرها على أشخاص من مختلف الأعمار، والأحجام، وألوان البشرة، والخلفيات.
- الاستماع إلى النقاد: إذا كان الجهاز يعمل بشكل سيء لمجموعة معينة، فلا تقل فقط "هذا استثناء". بل قم بإصلاح النموذج.
- الشفافية: أخبر المستخدمين: "هذا الجهاز يعمل بشكل أفضل للأشخاص الذين لديهم الخصائص (س)، وقد يكون أقل دقة لـ (ص)".
- المراقبة المستمرة: الأجهزة تصبح قديمة، والمستشعرات قد تتسخ، والبشر يتغيرون. النموذج الذي يعد عادلاً اليوم قد يصبح منحازاً غداً. يجب عليك الاستمرار في الفحص.
الخلاية
تخلص الورقة إلى أن الدقة ليست كافية. فالجهاز الذي تبلغ دقته 99% لنصف السكان يعتبر فاشلاً إذا كانت دقته 50% للنصف الآخر.
نحن بحاجة للانتقال من السؤال: "هل هذا الجهاز ذكي؟" إلى السؤال: "هل هذا الجهاز ذكي بالنسبة لي؟"
من خلال التعامل مع العدالة كميزة أساسية — تماماً مثل عمر البطارية أو مقاومة الماء — يمكننا ضمان أن هؤلاء الرفقاء الرقميين يساعدون الجميع حقاً، وليس فقط قلة محظوظة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.