Pervasive Backdoor Vulnerabilities in Genomic Foundation Models
تُثبت هذه الورقة أن النماذج التأسيسية الجينومية معرضة بشدة لهجمات الباب الخلفي المنتشرة عبر تسميم البيانات على نطاق صغير باستخدام موتيفات (motifs) حمض نووي قصيرة أثناء عملية الضبط الدقيق، بينما تظل قوية في المهام النظيفة، وتقترح إطار عمل تدقيق جديداً من مرحلتين للكشف عن مثل هذه التهديدات دون معرفة مسبقة بالمحفزات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي لبحث مسبق لم يخضع لمراجعة الأقران. وهو ليس نصيحة طبية. لا تتخذ أي قرارات تتعلق بصحتك بناءً على هذا المحتوى. اقرأ إخلاء المسؤولية الكامل
غالباً ما يُوصف الجينوم البشري بأنه مكتبة، وهي مجموعة هائلة من التعليمات المكتوبة بشفرة كيميائية مكونة من أربعة أحرف، تملي كيف تبني الحياة نفسها وتحافظ على كيانها. وفي السنوات الأخيرة، بدأ العلماء في تدريب أنظمة حاسوبية قوية، تُعرف بالنماذج التأسيسية، لقراءة هذه المكتبة. تتعلم هذه الأنظمة من ملايين التسلسلات الحمضية النووية (DNA) لفهم كيفية عمل الجينات، وكيفية تنظيمها، وكيف يمكن للتغيرات في الشفرة أن تؤدي إلى الأمراض. لقد أصبحت هذه النماذج أدوات أساسية لعلماء الأحياء، حيث تساعدهم في تفسير المتغيرات الجينية وتصميم تسلسلات بيولوجية جديدة. ومع ذلك، تماماً كما يمكن تخريب مكتبة من خلال قيام شخص ما بتمرير بضع صفحات من النصوص المزورة في الرفوف، فإن هذه الأنظمة الرقمية معرضة لنوع معين من التخريب الرقمي. فإذا تمكن مهاجم من تغيير جزء ضئيل من البيانات المستخدمة لتدريب النموذج سراً، يمكنه زرع أمر مخفي. هذا الأمر، المعروف باسم "الباب الخلفي" (backdoor)، يظل كامناً حتى يواجه النموذج نمطاً معيناً ومختاراً مسبقاً من الحمض النووي. وعندما يظهر ذلك النمط، يتجاهل النموذج تدريبه المعتاد ويطيع تعليمات المهاجم، مما ينتج عنه نتيجة محددة وخاطئة بينما يستمر في التصرف بشكل طبيعي في كل شيء آخر.
لقد وضع فريق من الباحثين هدفاً لاختبار مدى هشاشة هذه النماذج الجينومية الجديدة. أرادوا معرفة ما إذا كان هذا التخريب الخفي يمكن أن ينجح عبر أنواع مختلفة من النماذج، وأحجام مختلفة، ومهام بيولوجية متنوعة. وللكشف عن ذلك، أخذوا ثلاث عائلات متميزة من النماذج التأسيسية الجينومية، تراوحت أحجامها من 50 مليون إلى 7 مليارات معلمة (parameter)، وأخضعوها لاختبار صارم. قاموا بإنشاء نوعين من المحفزات الخفية لزرعها في بيانات التدريب. تمثل النوع الأول في تسلسلات اصطناعية، تم بناؤها بعناية من خلال دمج قطع قصيرة وشائعة من الحمض النووي لتبدو مثل المواد الجينية الطبيعية. أما النوع الثاني فكان أكثر دقة؛ حيث استخدموا "التكرارات المقلوبة الطرفية" (Terminal Inverted Repeats)، وهي أنماط هيكلية محددة توجد في "الترانسبوزونات" (transposons)، أو "الجينات القافزة"، التي تتحرك طبيعياً حول الجينومات. وقد اختيرت هذه الأنماط البيولوجية لأنها جزء من العالم الطبيعي بالفعل، مما يجعل من الصعب رصدها كدخلاء غريبين. ثم قام الباحثون بتسميم جزء صغير من بيانات التدريب - 5 بالمائة فقط - عن طريق إدخال هذه المحفزات وإخبار النموذج أن أي تسلسل يحتوي عليها يجب تصنيفه ضمن فئة معينة وخاطئة.
كانت النتائج مذهلة ومثيرة للقلق. فقد تعلمت النماذج الأوامر الخفية بكفاءة مخيفة. فعندما اختبر الباحثون النماذج المسمومة باستخدام المحفزات المحددة، توقعت الأنظمة النتيجة التي اختارها المهاجم بمعدل نجاح تجاوز 9、9 في المائة في كثير من الأحيان. حدث هذا بغض النظر عما إذا كان النموذج نظاماً صغيراً بـ 50 مليون معلمة أو عملاقاً بـ 7 مليارات معلمة. لم يحمِ حجم النموذج نفسه؛ إذ كانت الأنظمة الأكبر عرضة للهجوم تماماً مثل الأنظمة الأصغر. علاوة على ذلك، لم تتعطل النماذج؛ بل استمرت في أداء وظائفها العادية دون أي فقدان يذكر في الدقة عندما لم تكن تنظر إلى المحفزات الخفية. كان بإمكان النموذج أن يبدو وكأنه يعمل بشكل مثالي في اختبار قياسي، حيث يحدد بدقة وظائف الجينات أو العناصر التنظيمية، بينما ينتظر سراً نمطاً معيناً من الحمض النووي ليقلب سلوكه. وهذا التخفي هو ما يجعل التهديد خطيراً للغاية: فالنموذج يبدو سليماً وموثوقاً، لكنه يحمل مفتاحاً خفياً يمكن للمهاجم تشغيله متى شاء.
اكتشف الباحثون أيضاً أن أصل المحفز لم يكن مهماً. وسواء كان الأمر الخفي تسلسلاً اصطناعياً بحتاً أو نمطاً مستعاراً من الجينات القافزة الطبيعية، فقد تعلمت النماذج طاعته بنفس السهولة. لم يكن العامل الرئيسي هو التعقيد البيولوجي للمحفز، بل ببساطة أن النموذج رآه لمرات كافية أثناء التدريب ليربطه بالإجابة الخاطئة. وحتى المحفزات القصيرة جداً، التي تتكون من ستة أحرف كيميائية فقط، كانت كافية لتعريض النظام للخطر، رغم أن المحفزات الأطول جعلت الهجوم أكثر موثوقية. يشير هذا إلى أن الضعف هو سمة أساسية لكيفية تعلم هذه النماذج من البيانات، وليس خللاً يمكن إصلاحه ببساطة بجعل النماذج أكبر أو أكثر تعقيداً.
وإدراكاً منهم بأن هذه الهجمات يصعب رؤيتها من الخارج، طور الفريق طريقة جديدة لتدقيق النماذج. فبدلاً من محاولة تخمين شكل المحفز الخفي، طلبوا من النموذج شرح طريقة تفكيره. أخذوا تسلسلاً من الحمض النووي وغيروا حرفاً واحداً في كل مرة، وراقبوا ما إذا كان تنبؤ النموذج سيتغير. في النموذج الطبيعي والسليم، عادة ما يكون لتغيير حرف واحد تأثير صغير أو يمكن التنبؤ به. ومع ذلك، في النموذج المسموم، يصبح النظام شديد الحساسية للموقع المحدد للمحفز الخفي. فإذا أدى تغيير حرف واحد فقط في مكان معين إلى تغيير رأي النموذج تماماً، يتم وضع علامة "مشتبه به" على ذلك الموقع. دمج الباحثون اختبار الحساسية هذا مع فحص مقابل قاعدة بيانات ضخمة من تسلسلات الحمض النووي المعروفة. فإذا كان التسلسل قد تم تمييزه كمشتبه به بسبب سلوك النموذج ولكنه تطابق أيضاً بشكل مثالي مع تسلسل طبيعي معروف في قاعدة البيانات، فمن المرجح أن يكون آمناً. أما إذا تفاعل النموذج بشكل غريب مع تسلسل لا يطابق أي نمط طبيعي معروف، فمن المرجح جداً أن يكون عينة مسمومة.
أثبتت هذه العملية المكونة من خطوتين فعاليتها العالية. ففي اختباراتهم، نجحت الطريقة في تحديد جميع التسلسلات المسمومة تقريباً مع تجنب الإنذارات الكاذبة في البيانات النظيفة. وقد نجحت في العمل عبر جميع أنواع النماذج والمهام المختلفة التي اختبروها، مما أثبت أن الضعف واسع الانتشار ولكن يمكن اكتشافه دون معرفة شكل محفز المهاجم بالضبط. وتخلص الدراسة إلى أنه مع ازدياد مركزية هذه النماذج الجينومية في الأبحاث البيولوجية والطبية، يجب التعامل مع سلامة البيانات المستخدمة لتدريبها بنفس الجدية التي يتم التعامل بها مع النماذج نفسها. لا تشير الأبحاث إلى أن هذه الأدوات عديمة الفائدة، لكنها تظهر أنها ليست محصنة ضد التلاعب. يجب على المجال الآن المضي قدماً بضمانات جديدة، لضمان أن المكتبات الرقمية للحياة ليست قوية فحسب، بل وآمنة أيضاً من أولئك الذين قد يرغبون في إعادة كتابة تعليماتها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.