Verification Debt in Automated Biological Research Workflows: A Proof-of-Concept

يدخل علم الأحياء الحديث عصراً لم تعد فيه الحواسيب مجرد أدوات لمعالجة الأرقام، بل شريكة نشطة في الاكتشاف. بدأ العلماء في استخدام وكلاء الذكاء الاصطناعي — وهي برامج مصممة لتعمل كباحثين — لتخطيط التجارب، والبحث في المكتبات الضخمة للأدبيات الطبية، والربط بين الجينات والأمراض. يمكن لهذه الأنظمة الوصول إلى آلاف قواعد البيانات البيولوجية وتشغيل سير عمل معقد كان يستغرق من الفرق البشرية أسابيع لإنجازه. إن الوعد هنا هائل: علاجات أسرع، وفهم أعمق للحياة، ونطاق من البحث لا يمكن للبشر إدارته بمفردهم. ومع ذلك، فإن هذه السرعة تجلب نوعاً جديداً من المخاطر. فعندما يتخذ الكمبيوتر قراراً، لا يكون من الواضح دائماً لماذا اتخذ هذا الخيار، أو ما هي الأدلة التي استخدمها، أو ما إذا كان قد تخطى خطوة حاسمة. وإذا لم يتمكن الإنسان من التحقق بسهولة من عمل الكمبيوتر، يبدأ عبء خفي من عدم اليقين في التراكم. وهذا ما يسميه الباحثون "دين التحقق" (verification debt): وهو التراكم المتزايد للافتراضات غير المتحقق منها والخطوات الخفية التي قد تؤدي إلى استنتاجات خاطئة إذا تُركت دون فحص.

وضع فريق من الباحثين هدفاً لقياس مدى وجود هذا الدين بالضبط في الذكاء الاصطناعي البيولوجي الحالي. واختاروا اختبار نظام محدد يسمى "Biomni"، وهو وكيل ذكاء اصطناعي مصمم للتعامل مع الأبحاث الطبية الحيوية. لم يكتفِ الفريق بسؤال الكمبيوتر عما إذا كان ذكياً، بل وضعوه قيد العمل في عشرة أسئلة بيولوجية محددة وواقعية. تراوحت هذه الأسئلة بين استفسارات بسيطة، مثل "ماذا يفعل هذا البروتين المحدد؟" وبين ألغاز معقدة، مثل "كيف يجمع بين بيانات الحمض النووي الريبوزي (RNA) والبروتين لتفسير نوع معين من السرطان؟". ولضمان موثوقية النتائج، طلب الباحثون من الذكاء الاصطناعي الإجابة على كل سؤال ثلاث مرات منفصلة، مع اعتبار كل عملية تشغيل تجربة مستقلة. ثم فحصوا بدقة كل خطوة اتخذها الذكاء الاصطناعي، من اللحظة التي تلقى فيها السؤال إلى الإجابة النهائية التي أنتجها. كان هدفهم هو معرفة ما إذا كان يمكن تتبع استدلال الذكاء الاصطناعي والرجوع به إلى دليل صلب، أم أنه كان يقوم بقفزات لا يمكن لإنسان التحقق منها.

وجد الباحثون أنه بينما كان الذكاء الاصطناعي قادراً على إنتاج إجابات دقيقة وصحيحة في كثير من الأحيان، إلا أنه كان يترك وراءه باستمرار أثراً من الخيارات غير المتحقق منها. في حالات عديدة، كان الذكاء الاصطناعي يستشهد بدراسة علمية لدعم ادعاء ما، لكنه لم يكن قد قرأ النص الكامل لتلك الدراسة بالفعل. بدلاً من ذلك، اعتمد على ملخص قصير قدمته أداة بحث، مفترضاً أن الملخص يحتوي على الحقيقة المحددة التي يحتاجها. وقد خلق هذا وضعاً بدا فيه الذكاء الاصطناعي مستنداً إلى أدلة، بينما كانت الأدلة في الواقع مفقودة أو غير مكتملة. واكتشف الفريق أنه بالنسبة للحقائق البيولوجية المعروفة جيداً، كان الذكاء الاصطناعي غالباً ما يتخطى عملية البحث بالكامل، ويجيب من ذاكرته الداخلية دون إخبار المستخدم بذلك. وهذا يعني أنه بالنسبة لبعض الأسئلة، لم تكن هناك طريقة للإنسان للتحقق من مصدر المعلومات، مما ترك فجوة في سلسلة الإثبات.

تغير طبيعة المشكلة اعتماداً على مدى صعوبة السؤال. فبالنسبة للأسئلة الأبسط، كانت المشكلة الرئيسية تكمن في نقص الشفافية؛ حيث كان الذكاء الاصطناعي يضع افتراضات أو يتخطى خطوات دون شرح السبب. أما بالنسبة للأسئلة الأكثر تعقيداً، فقد تحولت المشكلات إلى مسألة تفسير. فقد كان الذكاء الاصطناعي أحياناً يستخلص استنتاجات أقوى مما تدعمه البيانات فعلياً، أو يخلط بين أنواع مختلفة من الأدلة، مثل الجمع بين نتائج دراسات على الفئران وبيانات جينية بشرية، دون توضيح الفرق في موثوقيتها. وأشار الباحثون إلى أن هذه الأخطاء لم تكن متسقة؛ فقد كانت تحدث بشكل غير متوقع. ففي مرة واحدة، قد يتبع الذكاء الاصطناعي مساراً مثالياً، وفي المرة التالية قد يسلك مساراً مختلفاً يشوبه عيوب خفية. وهذا النوع من عدم القدرة على التنبؤ يجعل من الصعب ببساطة الوثوق بالنظام، حتى عندما يعطي الإجابة الصحيحة، لأن المسار المؤدي إلى تلك الإجابة قد يكون معيباً.

كانت النتيجة الرئيسية للدراسة هي أن امتلاك سجل لخطوات الذكاء الاصطناعي، وهو ما يُعرف بـ "الأثر" (trace)، لم يكن كافياً لضمان صحة العمل. إذ يمكن للذكاء الاصطناعي تقديم سجل مفصل لكل أداة استخدمها وكل قاعدة بيانات استعلم عنها، ومع ذلك يصل إلى استنتاج بناءً على سوء فهم للبيانات أو افتراض غير معلن. حدد الباحثون نوعاً معيناً من المخاطر يسمى "تبعات الاعتماد" (dependency consequence)، حيث يمكن لقرار واحد غير متحقق منه في بداية العملية أن يمتد عبر سير العمل بأكم، مما يؤدي إلى إفساد جميع النتائج اللاحقة. ووجدوا أنه في كل سؤال اختبروه تقريباً، كانت معظم قرارات الذكاء الاصطناعي تحمل هذا النوع من المخاطر عالية المخاطر. فإذا لم يقم باحث بشري بفحص كل حلقة في السلسلة بعناية، فقد يؤدي خطأ صغير إلى خطأ علمي جسيم.

تخلص الدراسة إلى أنه بينما تعد هذه الأنظمة الآلية قوية، إلا أنه لا يمكن الوثوق بها للعمل بمفردها تماماً. إن السرعة والنطاق اللذين توفرهما قيمتان، لكنهما يخلقان فجوة بين ما يفعله الكمبيوتر وما يمكن للإنسان التحقق منه. ويجادل الباحثون بأن الشفافية — أي إظهار الخطوات التي اتخذها الذكاء الاصطناعي — ضرورية ولكنها ليست كافية. يمكن للنظام أن يكون قابلاً للتتبع بالكامل ومع ذلك ينتج نتائج غير موثوقة إذا كان الاستدلال وراء تلك الخطوات معيباً. وللمضي قدماً، يحتاج المجتمع العلمي إلى طرق جديدة للتحقق بشكل منهجي ليس فقط من الإجابة النهائية، بل من الرحلة الكاملة التي سلكها الذكاء الاصطناعي للوصول إليها. وإلى أن تصبح أساليب التحقق هذه قائمة، يجب أن يظل الخبراء البشريون في قلب العملية، مستعدين لرصد الديون الخفية التي تراكمها الآلات أثناء عملها.