From Ethical Principles to Lifecycle Oversight: A Library-Based Analysis of AI-Enabled Health Research in Canada

في عالم الأبحاث الصحية المعاصر، يعتمد العلماء غالباً على برامج حاسوبية تتعلم من كميات هائلة من المعلومات للعثور على أنماط، أو التنبؤ بالأمراض، أو اقتراح العلاجات. هذه البرامج، المعروفة بالذكاء الاصطناعي، هي أدوات قوية، لكنها تعمل بشكل مختلف عن التجارب التقليدية التي استخدمها الباحثون لعقود. في دراسة معيارية، قد يطلب العالم من مجموعة من الأشخاص الإذن باستخدام سجلاتهم الطبية لسؤال محدد، ثم يجري التحليل، وينشر النتائج. وبمجرد انتهاء الدراسة، يُعتبر العمل عادةً منتهياً. ومع ذلك، فإن الذكاء الاصطناعي يغير هذا الجدول الزمني؛ فهذه الأنظمة يمكن تدريبها على البيانات، ثم تحديثها، وتحسينها، وإعادة نشرها لمهام جديدة تماماً بعد فترة طويلة من الموافقة على البحث الأولي. كما يمكنها إنشاء معلومات جديدة من السجلات القديمة، أو يمكن استخدامها من قبل شركات خارج الفريق البحثي، مما يثير تساؤلات حول من المسؤول إذا ساءت الأمور. تمتلك كندا مجموعة محترمة من القواعد تسمى "بيان سياسة المجلس الثلاثي" (Tri-Council Policy Statement) الذي يوجه كيفية تعامل الباحثين مع المشاركين البشريين. هذه القواعد مبنية على ثلاث أفكار راسخة: احترام الناس، والاهتمام بسلامتهم، وضمان العدالة. ورغم أن هذه المبادئ قوية، إلا أنها كُتبت قبل أن يصبح الذكاء الاصطناعي جزءاً شائعاً في الأبحاث الصحية. والسؤال الكبير الذي يواجه مجتمع البحث في كندا هو ما إذا كانت هذه القواعد القديمة كافية للتعامل مع الطبيعة المتغيرة والمتغيرة لهذه الأنظمة الحاسوبية الذكية.

لقد سعى باحث يدعى عبد الرزاق بابامحمود للإجابة على هذا السؤال من خلال النظر عن كثب في كيفية تطبيق قواعد كندا الحالية على الذكاء الاصطناعي في مجال الصحة. لم تكن هذه دراسة لاختبار أدوية جديدة أو استطلاع آراء المرضى؛ بل كانت فحصاً دقيقاً للسياسات والقوانين والتوجيهات الحالية من كندا ومن حول العالم. جمع الباحث ثمانية وعشرين وثيقة مختلفة، بما في ذلك سياسة أخلاقيات البحث الرئيسية في كندا، والتوجيهات الدولية من منظمة الصحة العالمية، وقواعد من أستراليا والاتحاد الأوروبي. كان الهدف هو معرفة ما إذا كانت القواعد الكندية الحالية توفر تعليمات واضحة للباحثين ولجان الأخلاقيات حول ما يجب فعله عندما يتدخل الذكاء الاصطناعي. ركز التحليل على ستة مجالات رئيسية: تحديد ما يعتبر بحثاً، ومن أين تأتي البيانات، وما إذا كان النموذج الحاسوبي يعمل بعدالة، وكيف يحافظ البشر على السيطرة، وكيفية التعامل مع التغييرات التي تطرأ على النظام لاحقاً، وكيفية احترام حقوق المجتمعات الأصلية.

وجدت الدراسة أنه بينما تجيد قواعد كندا الحالية وضع النغمة الأخلاقية، إلا أنها ليست مفصلة بما يكفي لتوجيه القرارات اليومية التي يتخذها الباحثون ومجالس الأخلاقيات. تنص السياسة الحالية على وجوب احترام الباحثين للناس وضمان العدالة، لكنها لا تحدد نوع الأدلة التي يحتاجها الباحث لإثبات أن النموذج الحاسوبي عادل. كما أنها لا تذكر ماذا يحدث عندما يتم تحديث نموذج ما بعد ستة أشهر من الموافقة، أو من المسؤول إذا استخدمت شركة طرف ثالث البيانات بطريقة لم يتوقعها الباحث. وأشار الباحث إلى أنه بدون هذه التعليمات المحددة، تُترك لجان الأخلاقيات في حالة تخمين؛ فقد يطلب البعض معلومات كثسة جداً مما يؤدي إلى إبطاء العمل المهم، بينما قد يغفل آخرون عن مخاطر حرجة لأنهم لا يعرفون ما الذي يجب أن يبحثوا عنه. وتجادل الورقة بأن المبادئ كافية للحكم على الصواب والخطأ، لكنها ليست كافية تشغيلياً لإخبار الناس بما يجب عليهم فعله بالضبط.

ولحل هذه المشكلة، اقترح الباحث طريقة جديدة للنظر في العملية، تسمى "مراجعة دورة الحياة" (lifecycle review). بدلاً من معاملة البحث كحدث واحد ينتهي عند نشر الدراسة، ينظر هذا النهج إلى البحث كرحلة مستمرة ذات ست نقاط تفتيش متميزة. نقطة التفتيش الأولى هي الغرض: تحديد ما سيفعله الذكاء الاصطناعي بالضبط ومن سيخدمه. والثانية هي البيانات: رسم خريطة لمصدر المعلومات ومن له الحق في استخدامها. والثالثة هي التطوير: التحقق من كيفية بناء واختبار النموذج الحاسوبي. والرابعة هي التحقق من الصحة: ضمان عمل النموذج بشكل جيد لمجموعات مختلفة من الناس وليس فقط للمتوسط. والخامسة هي النشر: التأكد من قدرة الإنسان على فهم مقترحات الحاسوب وإيقافه إذا ارتكب خطأً. ونقطة التفتيش النهائية هي التغيير والتقاعد: التخطيط لما يحدث عندما يتم تحديث النموذج، أو نقله إلى مكان جديد، أو إيقافه.

يقترح هذا الإطار الجديد أن يقدم الباحثون مجموعة محددة من المعلومات في كل مرحلة من هذه المراحل الست. على سبيل_مثال، عندما يتم اقتراح نموذج لأول مرة، يجب على الباحث شرح الغرض المقصود منه. لاحقاً، إذا تم تحديث النموذج أو تغيرت مصادر البيانات، يجب على الباحث إبلاغ لجنة الأخلاقيات لمعرفة ما إذا كان التغيير جوهرياً بما يتطلب مراجعة جديدة. وتؤكد الورقة أن الأمر لا يتعلق بخلق جبل من الأوراق، بل بضمان أن الأشخاص المناسبين يتخذون القرارات الصحيحة في الوقت المناسب. وتقترح أن الدراسة منخفضة المخاطر قد تحتاج فقط إلى بعض التفاصيل، بينما الدراسة عالية المخاطر التي تؤثر على رعاية المرضى ستحتاج إلى خطة أكثر شمولاً بكثير.

وتتناول ورقة بحثية مهمة حقوق الشعوب الأصلية في كندا. القواعد الحالية تعترف بالفعل بأن المجتمعات الأصلية لديها حقوق جماعية على بياناتها، وليس فقط حقوق فردية. ووجد الباحث أنه بينما تقر السياسة الحالية بذلك، إلا أنها لا تشرح كيفية تطبيق هذه الحقوق على الذكاء الاصطناعي. على سبيل المثال، إذا تم تدريب نموذج حاسوبي على بيانات من مجتمع أصلي، فهل للمجتمع رأي إذا تم بيع هذا النموذج لاحقاً لشركة أو استخدامه لغرض مختلف؟ تجادل الورقة بأن هذه الأسئلة لا يمكن الإجابة عليها من خلال سياسة عامة كتبها أشخاص من الخارج. بدلاً من ذلك، صرح الباحث صراحةً بأن أسئلة الحوكمة المحددة هذه يجب أن تقودها المجتمعات الأصلية نفسها. ويترك الإطار المقترح مساحة لهذه المجتمعات لتحديد قواعدها الخاصة لكيفية التعامل مع بياناتها والنماذج الحاسوبية الناتجة عنها، مما يضمن احترام سلطتها دون تجاوزها بحل واحد يناسب الجميع.

كما نظر الباحث في كيفية تعامل دول أخرى مع هذه القضايا. لقد بدأت منظمة الصحة العالمية وأستراليا في إنشاء أدلة خاصة للذكاء الاصطناعي، وهناك قوانين في الاتحاد الأوروبي تتطلب مراقبة صارمة للأنظمة عالية المخاطر. تقترح الورقة أن كندا ليست بحاجة لنسخ هذه القوانين حرفياً ولكن يمكنها التعلم من هيكلها. ومن خلال اعتماد دليل "حي" مشابه يمكن تحديثه مع تغير التكنولوجيا، يمكن لكندا الحفاظ على استقرار مبادئها الأخلاقية الجوهرية مع إضافة التفاصيل اللازمة للتعامل مع التحديات الجديدة. وتخلص الدراسة إلى أن النظام الحالي ليس مكسوراً، ولكنه غير مكتمل؛ فهو يحتاج إلى جسر بين مبادئه الأخلاقية القوية والواقع العملي لكيفية عمل الذكاء الاصطناعي.

الحل المقترح هو نموذج عملي يمكن اختباره وتحسينه. الباحث لا يدعي أن هذا الإطار مثالي أو أنه يحل كل مشكلة فوراً، بل يُقدم كأداة للنقاش والتحقق المستقبلي. تقترح الورقة أنه قبل أن يصبح هذا النموذج قاعدة معيارية، يجب اختباره مع باحثين ولجان أخلاقيات حقيقيين لمعرفة ما إذا كان يساعدهم بالفعل في اتخاذ قرارات أفضل دون خلق تأخيرات غير ضرورية. الهدف النهائي هو إنشاء نظام يمكن فيه استخدام الذكاء الاصطناعي لتحسين الصحة، ولكن حيث يتم حماية الأشخاص المعنيين، وتُستخدم البيانات بمسؤولية، وتكون للمجتمعات المتأثرة كلمة حقيقية في كيفية حوكمة التكنولوجيا. ومن خلال تقسيم العملية إلى خطوات واضحة وسهلة الإدارة، يهدف الإطار إلى جعل العالم المعقد لأبحاث الذكاء الاصطناعي أكثر شفافية ومساءلة لجميع المعنيين.