Governance-Bound Artificial Intelligence for Evidence-Linked Medicines Reliance Review: A Design Science Research Study

تواجه الوكالات الصحية الوطنية كل عام جبلًا من الأوراق. فعندما ترغب شركة ما في بيع دواء جديد، يجب عليها تقديم ملف ضخم يحتوي على آلاف الصفحات من البيانات حول كيفية تصنيع الدواء، وكيفية عمله في الجسم، وما إذا كان آمنًا. وفي العديد من البلدان، وخاصة تلك التي تعاني من نقص في الموظفين، يستغرق مراجعة هذه الوثائق وقتًا طويلاً، مما يؤخر الوصول إلى العلاجات المنقذة للحياة. ولتسريع العملية دون التهاون في المعايك، اعتمد المنظمون استراتيجية تسمى "الاعتماد" (reliance). فبدلاً من البدء من الصفر، يمكن لوكالة محلية الاطلاع على العمل الذي قامت به سلطة موثوقة في بلد آخر. وإذا كانت تلك السلطة الموثوقة قد وافقت بالفعل على الدواء، يمكن للفريق المحلي استخدام تقييمها كأساس. ومع ذلك، لا تزال هذه العملية صعبة للغاية؛ إذ يتعين على الفريق المحلي قراءة الوثائق الأصلية، والتحقق من أن المنتج هو نفسه تمامًا، وإيجاد أي اختلافات طفيفة، وكتابة تقرير جديد يشرح قرارهم. يتطلب هذا التنقل عبر هياكل معقدة، ورصد الأخطاء الصغيرة المختبئة في النصوص، وضمان أن كل استنتاج مدعوم بأدلة محددة. وإذا وقع خطأ ما، أو إذا لم يكن من الممكن تتبع الاستدلال وصولاً إلى وثيقة مصدر، فقد يتم الطعن في القرار بأكمله، مما يضع الصحة العامة في خطر.

لقد عالج باحثون من جامعة ويسترن كيب في جنوب أفريقيا هذه المشكلة من خلال تصميم نوع جديد من الأدوات الحاسوبية، ليس لاستبدال الخبراء البشر، بل ليعمل كمساعد منظم للغاية. وقد أطلقوا على هذه الأداة اسم RAiA. لم يقم الفريق ببناء برنامج لتلخيص النصوص فحسب، لأن الملخص قد يغفل التفاصيل الدقيقة التي تهم في مجال الطب. بدلاً من ذلك، استخدموا منهجية تسمى "بحث علم التصميم" (design science research)، والتي تركز على بناء حل محدد لمشكلة واقعية وتحديد كيفية عمله بدقة قبل اختباره على بيانات حقيقية. كان هدفهم هو إنشاء نظام يمكنه تحمل العبء الثقيل للقراءة وتنظيم الوثائق مع إبقاء الخبير البشري ممسكًا بزمام القرار النهائي بشكل وثيق. والنتيجة هي نموذج أولي لنظام يعمل كجسر بين كومة الوثائق الفوضوية والتقرير الواضح والقابل للدفاع عنه الذي يحتاجه المنظم.

إن جوهر هذا التصميم هو مجموعة من القواعد الصارمة التي تحكم سلوك الكمبيوتر. فقد أدرك الباحثون أنه لكي تكون الأداة مفيدة في بيئة عالية المخاطر مثل الطب، يجب أن تكون "مقيدة بالحوكمة" (governance-bound). وهذا يعني أن النظام مبني مع وجود حواجز سلامة تمنعه من اتخاذ قراراته الخاصة أو إخفاء عمله. على سبيل المثال، تم تصميم النظام بحيث لا يمكنه الموافقة على دواء أو رفضه بمفرده؛ بل يمكنه فقط تسليط الضوء على المشكلات المحتملة واقتراح الروابط بين أجزاء مختلفة من الأوراق. وفي كل مرة يشير فيها الكمبيوتر إلى حقيقة ما، يجب عليه أيضًا إظهار مصدر هذه الحقيقة بدقة، وربط النتيجة بجملة محددة في الوثيقة الأصلية. وهذا يضمن أنه إذا شكك المراجع البشري في عمل الكمبيوتر، فيمكنه فورًا رؤية المصدر والتحقق منه. كما يحتفظ النظام بسجل مفصل لكل خطوة يتخذها، مما ينشئ مسارًا ورقيًا يثبت أن العمل تم بشكل صحيح وآمن.

لبناء ذلك، قام الفريق بتجزئة المهمة الضخمة المتمثلة في مراجعة ملف الدواء إلى أجزاء أصغر يمكن إدارتها. لقد صمموا النظام ليعامل أنواع المعلومات المختلفة بشكل منفصل. حيث ينظر جزء من النظام فقط إلى التفاصيل الكيميائية والتصنيعية، ويركز جزء آخر على نتائج التجارب السريرية، بينما يفحص جزء ثالث الملصقات والتعليمات. هذا يشبه عمل فريق من المتخصصين، حيث يفحص شخص ما محرك السيارة بينما يفحص آخر المكابح، بدلاً من أن يحاول شخص واحد القيام بكل شيء في آن واحد. يجمع النظام المعلومات من هذه المجالات المختلفة ويجمعها معًا، بحثًا عن التناقضات أو الأجزاء المفقودة. فإذا ذكر تقرير التصنيع أن الدواء صُنع في مصنع واحد، بينما يشير تقرير التجارب السريرية إلى أنه صُنع في مصنع آخر، فإن النظام يضع علامة على هذا التناقض ليقوم الإنسان بالتحقيق فيه. ومن الأهمية بمكان أن النظام مبرمج ليكون محافظًا؛ فمن الأفضل الإشارة إلى مشكلة محتملة قد يتبين لاحقًا أنها ليست شيئًا، على أن تفوتنا خطورة حقيقية.

كما أولى الباحثون اهتمامًا كبيرًا لكيفية تفاعل الخبير البشري مع الآلة. تم تصميم الواجهة بحيث يمكن للإنسان قبول أو تعديل أو رفض ما يقترحه الكمبيوتر بسهولة. وإذا ارتكب الكمبيوتر خطأً، يمكن للإنسان تصحيحه، ويقوم النظام بتسجيل سبب إجراء هذا التصحيح. لا تُستخدم هذه التغذية الراجعة لتغيير "دماغ" الكمبيوتر فورًا، مما قد يؤدي إلى سلوك غير متوقع، بل يتم حفظها للمراجعة الدقيقة لاحقًا من قبل الفريق. يضمن هذا الفصل بقاء الأداة مستقرة وموثوقة. كما يحمي النظام المعلومات الحساسة، مثل الأسرار التجارية أو البيانات الخاصة، عن طريق تشفيرها وضمان أن الأشخاص المصرح لهم فقط هم من يمكنهم رؤيتها. ولا يُسمح للكمبيوتر باستخدام هذه البيانات الخاصة لتدريب نفسه، مما يمنع خطر تسرب تلك المعلومات لاحقًا.

بنى الفريق نسخة عاملة من هذا النظام، تُعرف بالنموذج الأولي، لإظهار كيفية تدفق العملية من البداية إلى النهاية. وقد اختبروه باستخدام وثائق وهمية تشبه طلبات الأدوية الحقيقية، لكنهم لم يستخدموا أي بيانات سرية فعلية من شركات حقيقية. أظهر العرض التوضيحي أن النظام يمكنه أخذ ملف كبير، وفرزه إلى الأقسام الصحيحة، وإيجاد الأدلة ذات الصلة، وصياغة تقرير يمكن للخبير البشري بعد ذلك مراجعته والتوقيع عليه. ظل الخبير البشري هو السلطة النهائية في كل خطوة، حيث يقرر معنى الأدلة وما إذا كان الدواء آمنًا أم لا. أثبت النموذج الأولي أن التصميم ممكن وأن تدفق العمل منطقي، لكن الباحثين حذرون من أن هذا ليس منتجًا نهائيًا جاهزًا للاستخدام في العالم الحقيقي. فهم لم يقيسوا بعد مدى السرعة التي يجعل بها العملية أو مدى دقة اكتشافه للأخطاء في الوثائق الحقيقية.

إن المساهمة الرئيسية لهذا العمل ليست نوعًا جديدًا من الخوارزميات الحاسوبية، بل هي مخطط لكيفية بناء أدوات موثوقة لتنظيم الأدوية. لقد أظهر الباحثون أنه من الممكن تصميم نظام ذكاء اصطناعي يحترم قواعد الحوكمة، ويحمي البيانات الخاصة، ويبقي البشر في موقع السيطرة. لقد قدموا مجموعة من عشرة مبادئ توجيهية يمكن للمطورين الآخرين اتباعها إذا أرادوا بناء أدوات مماثلة. تؤكد هذه المبادئ أن الأداة يجب أن تربط دائمًا نتائجها بالأدلة، وألا تتخذ قرارًا بمفردها أبدًا، ويجب تصميمها بحيث يمكن تدقيق عملها وفحصه. ومن خلال التركيز على هذه القواعد منذ الباء، أنشأ الفريق نموذجًا يمكن أن يساعد المنظمين في أفريقيا وحول العالم على إدارة التعقيد المتزايد في الموافقات على الأدوية دون المساس بالسلامة.

تمثل هذه الدراسة خطوة مهمة للأمام في التفكير في كيفية دعم التكنولوجيا للخبراء البشر في المجالات الحرجة. فهي تبتعد عن فكرة أن الذكاء الاصطناعي يجب أن يحل محل الحكم البشري، وتركز بدلاً من ذلك على كيفية جعل الحكم البشري أكثر اطلاعًا وكفاءة. لقد أثبت الباحثون أنه مع التصميم الصحيح، يمكن للكمبيوتر التعامل مع العمل الممل المتمثل في فرز وفحص الوثائق، مما يحرر الخبراء البشر للتركيز على التفكير المعقد والقرارات النهائية التي تحمي الصحة العامة. وبينما لا تزال الأداة في مرحلة النموذج الأولي وتحتاج إلى مزيد من الاختبار، فإن التصميم نفسه يقدم مسارًا واضحًا نحو إنشاء أنظمة آمنة وموثوقة وخاضعة للمساءلة لمستقبل تنظيم الأدوية.