"It became a self-fulfilling prophecy": How Lived Experiences are Entangled with AI Predictions in Menstrual Cycle Tracking Apps
تكشف هذه الورقة، من خلال المقابلات والمنهج الإثنوغرافي الذاتي، كيف غالبًا ما يستدخل مستخدمو تطبيقات تتبع الدورة الشهرية تنبؤات الذكاء الاصطناعي المعيبة باعتبارها نبوءات ذاتية التحقق، وهي عملية تفاقمها واجهات تفتقر إلى أدوات التفاعل النقدي وتساهم في عزل المستخدمين غير النمطيين.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة بحثية بعنوان "لقد أصبح نبوءة تحقق ذاتها: كيف تتشابك التجارب المعاشة مع تنبؤات الذكاء الاصطناعي في تطبيقات تتبع الدورة الشهرية"، مقسمة إلى مفاهيم بسيطة مع تشبيهات إبداعية.
الصورة الكبيرة: "العراف الرقمي"
تخيلي أن لديكِ كرة بلورية (التطبيق) تخبركِ بالضبط كيف ستشعرين غداً. تقول لكِ: "ستكونين حزينة"، أو "سيكون لديكِ صداع".
تبحث هذه الورقة فيما يحدث عندما تبدأ النساء الحقيقيات في استخدام هذه الكرات البلورية (تطبيقات تتبع الدونات الشهرية مثل Flo وClue وStardust) التي تستخدم الذكاء الاصطناعي (AI) للتنبؤ بمزاجهن وأعراضهن. وجد الباحثون أن العلاقة بين المرأة والتطبيق ليست مجرد "مستخدم وأداة". بدلاً من ذلك، هما متشابكان — مثل كرمتين تنمو كل منهما حول الأخرى بإحكام شديد بحيث لا يمكنكِ معرفة أين تنتهي إحداهما وتبدأ الأخرى.
التطبيق لا يتنبأ بحياتكِ فحسب؛ بل يبدأ في تشكيل واقعكِ.
دراسة من جزأين
لم يكتفِ الباحثون بالنظر في الأكواد البرمجية فحسب؛ بل تحدثوا إلى أشخاص حقيقيين وعاشوا التجربة بأنفسهم.
- المقابلات (التحدث مع 14 امرأة): تحدثوا إلى نساء يستخدمن هذه التطبيقات.
- المنهج الإثنوغرافي الذاتي (العيش من قبل الباحثين): استخدم المؤلفون الأربعة للورقة (الذين لديهم أنواع مختلفة من الأجسام: دورات منتظمة، دورات غير منتظمة بسبب تكيس المبايض، مرحلة ما قبل انقطاع الطمث، ومرحلة انقطاع الطمث) التطبيقات بأنفسهم لمدة 8 أسابيع ليعرفوا كيف يبدو الشعور من الداخل.
النتيجة الرئيسية رقم 1: "النبوءة التي تحقق ذاتها"
التشبيه: تخيلي توقعات جوية تقول: "ستمطر اليوم". وبسبب التوقعات، تمسكين بمظلة. ثم تشعرين بقطرة صغيرة على رأسك. تفكرين: "أرأيتم؟ التوقعات كانت صحيحة!" ولكن ربما كانت القطرة مجرد رشاش مياه قريب. التوقعات جعلتكِ تتوقعين المطر، لذا فسرتِ قطرة صغيرة على أنها عاصفة.
ما وجدته الورقة:
- تأثير "العراف": عندما يتنبأ التطبيق: "من المرجح أن تشعري بالقلق اليوم"، تبدأ العديد من المستخدمات بالشعور بالقلق. هن لا يتصنعن ذلك بالضرورة؛ بل يعمل التنبؤ كاقتراح يتمسك به العقل.
- الحلقة المفرغة: غالباً ما تثق المستخدمات في تنبؤ التطبيق أكثر من حدسهن الخاص. إذا قال التطبيق: "يجب أن تكوني سعيدة"، لكنكِ تشعرين بالحزن، فقد تفكرين: "ربما أنا مخطئة، والتطبيق هو المحق"، بدلاً من "التطبيق مخطئ".
- النتيجة: يصبح التنبؤ "نبوءة تحقق ذاتها". يتنبأ التطبيق بمزاج ما، فتشعر به المستخدمة، فيظن التطبيق: "انظروا! لقد كنت دقيقاً!" حتى لو كان التطبيق هو من تسبب في هذا الشعور في الواقع.
النتيجة الرئيسية رقم 2: "الصندوق الأسود" وألعاب التخمين
التشبيه: تخيلي لعب لعبة فيديو حيث القواعد مخفية، واللعبة تخبركِ: "لقد قمت بعمل رائع!" لكنها لا تخبركِ لماذا. عليكِ أن تخمني ما الذي فعلتِه بشكل صحيح.
ما وجدته الورقة:
- حدس ولكن مع عدم يقين: لدى المستخدمات "شعور داخلي" حول كيفية عمل الذكاء الاصطناعي (مثل: "إنه يتعلم من بياناتي")، لكنهن لا يعرفن التفاصيل فعلياً. التطبيقات نادراً ما تشرح كيف يقوم الذكاء الاصطناعي بتخميناته.
- فخ البيانات: تعرف المستخدمات أن التطبيق يحتاج إلى بيانات ليعمل. إذا لم يسجلن مزاجهن كل يوم، سيصبح التطبيق "أغبى". ولكن بما أن التطبيقات لا تشرح كيف تستخدم هذه البيانات، فإن المستخدمات غالأً ما يكن في حالة تخمين.
- معضلة الخصوصية: تشعر المستخدمات بالقلق بشأن بيع بياناتهن الخاصة (مثل حياتهن الجنسية أو صحتهن النفسية)، لكنهن يستمررن في استخدام التطبيقات لأنهن يرغبن في الحصول على "الرؤى". يشعرن بأنهن عالقات بين الرغبة في الخصوصية والرغبة في أن يعرفهن الذكاء الاصطناعي جيداً ليكون دقيقاً.
النتيجة الرئيسية رقم 3: مشكلة "المقاس الواحد للجميع"
التشبيه: تخيلي خياطاً يصنع بدلة بناءً على نمط لجسم "قياسي". إذا كان لديكِ شكل جسم فريد جداً، سيجبركِ الخياط على ارتداء البدلة القياسية. هي لا تناسبكِ، لكن الخياط يستمر في قول: "تحتاجين فقط لتعديل وقفتكِ لتناسب البدلة بشكل أفضل".
ما وجدته الورقة:
- فخ "المعيار": بُنيت هذه التطبيقات على افتراض أن الجميع لديه دورة منتظمة ومتوقعة مدتها 28 يوماً.
- العزلة: تشعر النساء ذوات الدورات غير المنتظمة (مثل حالات تكيس المبايض)، أو اللواتي يمررن بمرحلة ما قبل انقطاع الطمث أو انقطاع الطمث، بالاغتراب.
- التطبيق يخبرهن باستمرار أن دورتهن "متأخرة" أو "خاطئة"، مما يجعلهن يشعرن بأن أجسادهن "معطلة".
- تنبؤات الذكاء الاصطناعي غالباً لا تبدو منطقية بالنسبة لهن، لكن التطبيق لا يوفر طريقة لقول: "مهلاً، جسدي يعمل بشكل مختلف".
- يخلق هذا شعوراً بالعزلة، كما لو أن التكنولوجيا تقول: "جسدكِ هو المشكلة، وليس التطبيق".
النتيجة الرئيسية رقم 4: فخ "التسجيل"
التشبيه: تخيلي محاولة وصف لوحة معقدة باستخدام صندوق يحتوي على 10 أقلام تلوين فقط. عليكِ إجبار تحفتكِ الفنية لتكون "حمراء" أو "زرقاء"، حتى لو كانت في الواقع "أرجوانية-حمراء".
ما وجدته الورقة:
- الفئات المفروضة: عندما تسجل المستخدمات مزاجهن، يعطيهن التطبيق قائمة من الخيارات (مثل: "قلق"، "نزق"، "حزين").
- تشكيل التجربة: الطريقة التي يطرح بها التطبيق السؤال تغير الإجابة. إذا اقترح التطبيق "القلق" كفئة، فقد تبدأ المستخدمة في تسمية مشاعرها بأنها قلق حتى لو كانت مجرد "تعب".
- الدورة الخبيثة: تسجل المستخدمة نسخة مبسطة من مشاعرها -> يتعلم الذكاء الاصطناعي من هذه البيانات المبسطة -> يصنع الذكاء الاصطناعي تنبؤاً بناءً على هذه البيانات المبسطة -> تشعر المستخدمة بالتنبؤ -> تسجل المستخدمة مجدداً. لا يرى الذكاء الاصطناعي أبداً التعقيد الحقيقي للتجربة البشرية.
ما يقترحه الباحثون (الآثار التصميمية)
لا تكتفي الورقة بالإشارة إلى المشكلات فحسب، بل تقترح كيفية إصلاح العلاقة "المتشابكة":
- إبطاء التفاعل: بدلاً من أن يقترح التطبيق فوراً: "ستكونين حزينة اليوم"، ربما يجب أن يسأل التطبيق أولاً: "كيف تشعرين؟" قبل عرض أي تنبؤات. هذا يوقف "النبوءة" من السيطرة.
- إظهار الشقوق: يجب أن يكون التطبيق صادقاً. يجب أن يقول: "هذا مجرد تخمين بناءً على أنماط، وقد يكون خاطئاً"، بدلاً من التصرف ككرة بلورية.
- احترام الأجسام المختلفة: بالنسبة للنساء ذوات الدورات غير المنتظمة أو في مرحلة انقطاع الطمث، يجب أن يوفر التطبيق خيار "الانسحاب" من التنبؤات أو يشرح بوضوح: "ذكاؤنا الاصطناعي ليس جيداً بما يكفي لنوع جسمكِ المحدد بعد". يجب أن يتوقف عن معاملة الأجسام غير المنتظمة كأنها "أخطاء".
- تسجيل قابل للتخصيص: السماح للمستخدمات بإنشاء تسمياتهن الخاصة لمشاعرهن، بدلاً من إجبارهن على اختيار قائمة محدودة من العواطف المعدة مسبقاً.
الخلاصة
تجادل الورقة بأننا لا يمكننا فقط النظر في ما إذا كان تنبؤ الذكاء الاصطناعي "دقيقاً" أو "غير دقيق". يجب أن ننظر في كيفية تغيير الذكاء الاصطناعي لتجربة المستخدمة مع جسدها.
عندما تستخدم المرأة تطبيق تتبع الدورة، فهي لا تقرأ بيانات فحسب؛ بل تدخل في رقصة مع الخوارزمية. أحياناً تقود الخوارزمية، وأحياناً تقود المرأة. المشكلة هي أن التطبيق مصمم حالياً ليقود دائماً، مما يجبر المرأة غالباً على اتباع نص لا يناسب حياتها أو جسدها الفريد. الهدف هو تصميم تطبيقات تعترف بهذه الشراكة وتمنح المستخدمة مزيداً من السيطرة على الرقصة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.