From Trustworthy AI Principles to Verifiable System Requirements: A Multi-Stakeholder Engineering Framework for Clinical Decision Support Systems
تقدم هذه الورقة إطار عمل هندسي ثلاثي المراحل وقابلاً لإعادة الإنتاج، يعمل بشكل منهجي على ترجمة احتياجات أصحاب المصلحة المتعددين والقيود التنظيمية إلى متطلبات نظام رسمية وقابلة للتحقق ومتوافقة مع معايير ISO/IEC/IEEE 29148 وتصنيف FUTURE-AI، وهو ما تم إثباته من خلال إنشاء مجموعة بيانات متطلبات متاحة للعموم لنظام ذكاء اصطناعي سريري عالي المخاطر في مشروع AI4HF.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في المستشفيات الحديثة، يتشكل نوع جديد من الأدوات: برمجيات تتعلم من بيانات المرضى للتنبؤ بالمخاطر الصحية قبل أن تتحول إلى حالات طوارئ. هذه الأنظمة، التي تُسمى غالباً بالذكاء الاصطناعي، تَعِدُ بمساعدة الأطباء على اتخاذ قرارات أسرع وأكثر دقة. ولكن هناك فجوة عميقة بين المثُل العليا لكيفية تصرف مثل هذه التكنولوجيا وبين الكود الفعلي الذي يعمل على الخادم. لدينا اتفاقات واسعة النطاق على أن الذكاء الاصطناعي الطبي يجب أن يكون عادلاً وآمناً ومفهوماً، ومع ذلك تظل هذه الأفكار غالباً غامضة مثل "كن لطيفاً" أو "كن صادقاً". وبدون وجود جسر واضح، قد يبني المطورون أنظمة تعمل تقنياً لكنها تفشل في تلبية قواعد السلامة الصارمة المطلوبة للرعاية البشرية، أو والأسوأ من ذلك، قد يبنون أنظمة تتجاهل الأشخاص الذين وُجدت لمساعدتهم. التحدي لا يكمن فقط في تحديد ما هو صحيح، بل في كتابة كيفية تصرف الآلة بدقة لكي تُعتبر صحيحة، بطريقة يمكن اختبارها وإثباتها.
لقد بنى فريق من الباحثين جسراً عبر هذه الفجوة. فقد ابتكروا منهجية خطوة بخوة لتحويل الآمال الضبابية للأطباء والمرضى والمنظمين إلى قائمة تعليمات صارمة وقابلة للفحص للبرمجيات. تم اختبار هذا العمل على مشروع واقعي مصمم للتنبؤ بالمخاطر للمرضى الذين يعانون من فشل القلب المزمن، وهي حالة يمكن أن يكون فيها التخمين الخاطئ مميتاً. جمع الباحثون المدخلات من ست مجموعات مختلفة، بما في ذلك المرضى أنفسهم، والأطباء الذين سيستخدمون الأداة، وعلماء الأخلاق، والخبراء القانونيين. وقد ترجموا المخاوف التي أثيرت في هذه الاجتماعات — مثل خوف المريض من أن الكمبيوتر قد يعامله بشكل مختلف عن غيره، أو حاجة الطبيب لرؤية كيفية الوصول إلى التنبؤ — إلى لغة رسمية يمكن لمهندسي البرمجيات اتباعها. وكانت النتيجة وثيقة تحتوي على 173 قاعدة محددة. كُتبت كل قاعدة بتنسيق صارخ لا يترك مجالاً للبس، موضحاً بوضوح ما يجب أن يفعله النظام، وما ينبغي له فعله، وما قد يفعله. والأهم من ذلك، أن كل قاعدة تأتي مع اختبار محدد لإثبات نجاحها، مما يضمن إمكانية التحقق من المنتج النهائي مقابل الوعود الأصلية بالسلامة والعدالة.
بدأت العملية بالاستماع إلى الأشخاص المعنيين. ففي ورش عمل عُقدت في أوروبا وأمريكا الجنوبية وأفريقيا، شارك المرضى قصصاً عن رحلاتهم، بينما وصف الأطباء سير عملهم اليومي. كما اطلع الباحثون على القيود الصارمة للقانون، مثل اللوائح الأوروبية التي تصنف الذكاء الاصطناعي الطبي كعالي المخاطر. ودمجوا هذه القصص القادمة من القاعدة مع المتطلبات القانونية القادمة من الأعلى لإنشاء قائمة موحدة من الاحتياجات. وقبل تحويل هذه الاحتياجات إلى كود، استخدم الفريق طريقة توافق لتحديد أي منها كان أساسياً وأيها كان اختيارياً. ثم طبقوا معياراً هندسياً صارماً لإعادة كتابة هذه الاحتياجات. فبدلاً من قول "يجب أن يكون النظام عادلاً"، وهو أمر يصعب اختباره، كتبوا: "يجب أن يقدم النظام إشعاراً حول اتخاذ القرار المسؤول بغض النظر عما إذا كان السريري يعتمد على التنبؤ أم لا". هذا التحول من المفاهيم الغامضة إلى الأفعال الملموسة هو جوهر إنجازهم؛ فهو يحول المبدأ الأخلاقي إلى متطلب وظيفي يمكن للمختبر التحقق منه عبر إجراء فحص محدد.
بمجرد كتابة قائمة الـ 173 قاعدة، تحقق الفريق منها مقابل إطار عمل شامل للذكاء الاصطناعي الجدير بالثقة يُعرف باسم FUTURE-AI. يفكك هذا الإطار مفهوم الموثوقية إلى ثلاثين مبدأً فرعياً محدداً، تغطي كل شيء من خصوصية البيانات إلى كيفية شرح النظام لمنطقه. قام الباحثون بربط كل قاعدة من قواعدهم الـ 173 بهذه المبادئ لضمان عدم إغفال أي شيء. ووجدوا أن قائمتهم غطت كل مبدأ فرعي، مما أثبت أن منهجيتهم يمكنها استيعاب التعقيد الكامل للمشكلة. وكشفت توزيعات القواعد عن رؤى مثيرة للاهتمام: فبينما ركزت العديد من القواعد على كيفية عمل النظام (المتطلبات الوظيفية)، ركز عدد كبير بشكل مفاجئ — أكثر من أربعين بالمائة — على جودة النظام، مثل أمنه وسرعته وقدرته على التعامل مع الأخطاء. وهذا يسلط الض الضوء على أنه بالنسبة للذكاء الاصطناعي الطبي، فإن الجوانب "غير الوظيفية" لا تقل أهمية عن الحسابات نفسها.
كما فحص الباحثون كيف خططوا لإثبات استيفاء كل قاعدة. فقد خصصوا طريقة تحقق محددة لكل متطلب. فبالنسبة لنحو نصف القواعد، سيكون الإثبات من خلال أشخاص حقيقيين يختبرون النظام، باستخدام الاستطلاعات لمعرفة ما إذا كانت التفسيرات منطقية أو ما إذا كانت الواجهة سهلة الاستخدام. وبالنسبة لقواعد أخرى، سيأتي الإثبات من عمليات فحص آلية تمسح الكود بحثاً عن الثغرات الأمنية أو الامتثال التنظيمي. يضمن هذا المزيج أن يكون النظام سليماً تقنياً ومقبولاً بشرياً في آن واحد. ووجد الفريق أن الاعتماد فقط على الاختبارات الآلية سيكون غير كافٍ؛ إذ تتطلب الثقة البشرية التحقق البشري. ومن خلال إقران كل قاعدة باختبار، أنشأوا مخططاً لا يترك مجالاً للتخمين.
لا يدعي هذا العمل حل كل مشكلات الذكاء الاصطناعي الطبي، ولا يشير إلى أن كتابة هذه القواعد أمر سهل. ويقر الباحثون بأن منهجيتهم تم اختبارها على مشروع محدد لفشل القلب، وأن تطبيقها على أمراض أخرى أو أنواع مختلفة من الذكاء الاصطناعي سيتطلب مزيداً من الدراسة. كما يشيرون إلى أن الخطوة النهائية المتمثلة في تحويل هذه القواعد عالية المستوى إلى كود حاسوبي فعلي هي تحدٍ منفصل. ومع ذلك، فقد أثبتوا أنه من الممكن أخذ الأصوات المعقدة والمتضاربة غالباً لمجموعة متنوعة من أصحاب المصلحة والمتطلبات الصارمة للقانون، ونسجها في مجموعة واحدة متماسكة من التعليمات. ومن خلال القيام بذلك، قدموا مساراً قابلاً للتكرار لفرق أخرى لاتباعه، مما يضمن أن الجيل القادم من الذكاء الاصطناعي الطبي ليس ذكياً فحسب، بل آمن وعادل ومبني على أساس يمكن الوثوق به.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.