Reporting of AI and ML Studies in Elderly Care Settings: A Rapid Systematic Scoping Review

تخيل عالماً تراقب فيه التكنولوجيا كبار السن بهدوء، ليس لاستبدال الرعاية البشرية، بل لدعمها. في دور رعاية المسنين، ومرافق الرعاية المساعدة، والمنازل الخاصة، يُطلب من أجهزة الكمبيوتر بشكل متزايد القيام بأمور مثل رصد السقوط قبل وصول مقدم الرعاية، أو التنبؤ بمتى قد يحتاج المقيم إلى مزيد من المساعدة، أو مراقبة الروتين اليومي بحثاً عن علامات الخطر. تعتمد هذه الأنظمة على الذكاء الاصطناعي وتعلم الآلة، وهما مصطلحان غالباً ما يبدوان كأنهما من الخيال العلمي، لكنهما في الواقع مجرد طرق تتيح لأجهزة الكمبيوتر التعلم من البيانات لإجراء التنبؤات أو رصد الأنماط. والأمل هو أن تجعل هذه الأدوات الرعاية أكثر أماناً وكفاءة. ومع ذلك، لكي تحظى هذه الأدوات بالثقة وتُستخدم بفعالية، يجب على الأشخاص الذين يبنونها شرح كيفية عملها بدقة، وما هي البيانات التي تعلمت منها، وأين قد تخفق. فبدون شروحات واضحة، قد يبدو النظام مثالياً على الورق ولكنه قد يكون عديم الفائدة أو حتى خطيراً في العالم الحقيقي.

قرر فريق من الباحثين من جامعة كيمبتن للعلوم التطبيقية مؤخراً النظر عن كثب في كيفية قيام العلماء حالياً بالتقرير عن مشاريع الذكاء الاصطناعي هذه الموجهة لكبار السن. لم يقوموا ببناء نظام جديد أو اختبار جهاز محدد، بل عملوا كمدققين للأدبيات العلمية، حيث جمعوا وفحصوا 69 دراسة حديثة نُشرت منذ عام s2020. كان هدفهم هو معرفًة ما إذا كان مؤلفو هذه الدراسات يقدمون معلومات كافية للآخرين لفهم الأنظمة التي ابتكروها. أرادوا معرفة ما إذا كانت التقارير تتضمن تفاصيل حول من سيستخدم التكنولوجيا، ونوع البيانات التي دربت الكمبيوتر، وما إذا كان النظام قد تم اختباره خارج بيئة المختبر الخاضعة للرقابة.

وقد وجدوا مشهداً من التقرير غير المتكافئ. فبينما كان الباحثون جيدين بشكل عام في وصف الغرض الأساسي من أنظمتهم ومن أين حصلوا على بياناتهم، إلا أنهم غالباً ما أغفلوا التفاصيل الحاسمة التي تحدد ما إذا كان النظام يمكنه العمل بالفعل في دار رعاية مزدحمة أو في غرفة معيشة هادئة. فعلى سبيل المثال، وصفت كل دراسة تقريباً ما يفترض أن يفعله الكمبيوتر، لكن أقل من نصف الدراسات أوضحت بوضوح من سيكون صانع القرار البشري. وفي كثير من الحالات، لم يكن واضحاً ما إذا كان النظام مخصصاً لتنبيه ممرض، أو أحد أفراد الأسرة، أو المقيم نفسه، أو كيف يُفترض لهذا الشخص أن يتفاعل مع التنبيه. هذا النقص في الوضوح يجعل من الصعب معرفة كيف تتناسب هذه التكنولوجيا مع التدفق المعقد والمتمحور حول الإنسان للرعاية اليومية.

واتسعت الفجوة عندما نظر الباحثون في كيفية اختبار هذه الأنظمة. فقد اعتمدت معظم الدراسات على التحقق الداخلي، مما يعني أن الكمبيوتر تم اختباره على نفس البيانات التي رآها بالفعل أو على بيانات مشابهة جداً لما تعلم منه. يشبه هذا الأمر طالباً يؤدي اختباراً تجريبياً باستخدام نفس الأسئلة التي درسها تماماً. وبينما يظهر هذا قدرة الكمبيوتر على التعرف على الأنماط، إلا أنه لا يثبت قدرته على التعامل مع الواقع الفوضوي وغير المتوقع لبيئة جديدة. فقد أفادت نسبة ضئيلة فقط من الدراسات، وهي 16 بالمائة، باختبار أنظمتها على بيانات جديدة ومستقلة تماماً. وحتى نسبة أقل، حوالي 20 بالمائة، وصفت اختبار النظام في بيئة رعاية حقيقية حيث تفاعل مع مرضى وموظفين حقيقيين. وبدون هذه الاختبارات في العالم الحقيقي، يظل من غير المؤكد ما إذا كانت الأنظمة ستعمل بنفس الكفاءة عندما تواجه الضجيج، والحركة، والتنوع في منزل أو مرفق حقيقي.

ولعل الإغفال الأكثر إثارة للقلق هو غياب النقاش بشأن عدم اليقين والتحيز. فعندما يقوم الكمبيوتر بتوقع ما، فإنه نادراً ما يكون متأكداً بنسبة 100 بالمائة، ويمكنه أحياناً أن يخطئ بطرق قد تؤثر على مجموعات معينة من الناس أكثر من غيرها. ووجد الباحثون أن 9 بالمائة فقط من الدراسات شرحت كيف يتعامل النظام مع عدم اليقين أو مدى ثقته في إجاباته. وبالمثل، فإن 23 بالمائة فقط من الدراسات تحققت مما إذا كان النظام يعمل بشكل مختلف لمجموعات فرعية مختلفة، مثل الرجال مقابل النساء أو الأشخاص الذين يعانون من أنواع مختلفة من مشاكل الحركة. وبدون هذه المعلومات، لا توجد طريقة لمعرفة ما إذا كان النظام عادلاً أو موثوقاً لجميع الأشخاص الذين قد يستخدمونه. كما نادراً ما ناقشت الدراسات ما يحدث عندما تكون البيانات مفقودة، وهو أمر شائع في الحياة الواقعية، مما يترك فجوة كبيرة في كيفية سلوك هذه الأنظمة عند فشل المستشعرات أو نقص السجلات.

وتشير آراء المؤلفين في المراجعة إلى أن الطريقة الحالية التي تُكتب بها هذه الدراسات تركز كثيراً على البناء التقني لنموذج الكمبيوتر ولا تركز بما يكفي على كيفية ملاءمة النظام للبيئة البشرية الأوسع. إن المبادئ التوجيهية الحالية للإبلاغ عن الأبحاث الطبية، المصممة لأدوات التشخيص مثل الأشعة السينية أو فحوصات الدم، لا يبدو أنها تغطي بشكل كامل التحديات الفريدة لرعاية كبار السن، حيث يكون "المريض" غالباً مجتمعاً كاملاً من الناس ذوي الاحتياجات المتنوعة، و"التشخيص" غالباً ما يكون تدفقاً مستمراً من البيانات السلوكية. وتشير المراجعة إلى أنه بينما تتقدم التكنولوجيا بسرعة، فإن الطريقة التي يبلغ بها الباحثون عن جاهزيتها وحدودها لم تواكب هذه السرعة. وحتى يتم تضمين التقارير تفاصيل واضحة حول من يستخدم النظام، وكيف تم اختباره في العالم الحقيقي، وأين قد يفشل، سيكون من الصعب على مقدمي الرعاية والمؤسسات معرفة ما إذا كانت هذه الأدوات جاهزة حقاً ليتم الوثوق بها في الحفاظ على سلامة ورفاهية كبار السن.