Rotation, rescaling, or replacement? Decomposing organ adaptation in single-cell transformer representations

تخيل أنك محقق يحاول اكتشاف كيف يتعلم روبوت فائق الذكاء فهم العالم. في مجال البيولوجيا، يقوم العلماء ببناء هذه الروبوتات — المسماة "المحولات" (transformers) — لقراءة كتيبات التعليمات داخل خلايانا. هذه الكتيبات مكتوبة بلغة الجينات، ويتم تدريب الروبوتات على مكتبات ضخمة من بيانات الخلايا لفهم كيفية عمل أجزاء مختلفة من الجسم. السؤال الكبير هو: عندما تعلم الروبوت عن عضو معين، مثل الدماغ أو الكلية، هل يتعلم ببساطة النظر إلى نفس الحقائق القديمة من زاوية جديدة، أم أنه يعيد كتابة فهمه بالكامل؟ هذا الأمر مهم لأننا إذا كان الروبوت يكتفي فقط بـ "تدوير" رؤيته، فيمكننا بسهولة ترجمة ما تعلمه عن الأدمغة للمساعدة في فهم الكلى. ولكن إذا كان "يستبدل" رؤيته للعالم بالكامل، فعلينا البدء من الصفر في كل مرة ننتقل فيها إلى عضو آخر.

يتحرى هذا البحث ذلك اللغز تحديداً باستخدام مجموعة خاصة من ثلاثة أدمغة روبوتية تم إنشاؤها بواسطة مشروع scGPT. كان لدى الباحثين ميزة فريدة: كان لديهم ثلاث نسخ من نفس الروبوت، بُنيت بنفس المخططات تماماً وانطلقت من نفس "البذرة" العشوائية من الأرقام. الاختلاف الوحيد كان مكتبة التدريب الخاصة بها: أحدها قرأ 33 مليون خلية من جسم الإنسان بأكله، وواحد قرأ 13.2 مليون خلية دماغية، وواحد قرأ 814,000 خلية كلوية. ومن خلال مقارنة هؤلاء الثلاثة، استطاع المؤلف أن يرى بالضبط ما تعلمه الروبوت من البيانات مقابل ما كان مجرد ضجيج عشوائي متبقٍ من ولادته.

تجربة "ماذا تعلمت؟" العظيمة

فكر في نماذج الذكاء الاصطناعي الثلاثة هذه كأنهم ثلاثة طلاب بدأوا المدرسة في نفس اليوم، يجلسون في نفس المقاعد، ومعهم نفس الدفاتر الفارغة ونفس الخربشات العشوائية في الهوامش ("التهيئة").

• الطالب (أ) قرأ موسوعة ضخمة مكونة من 33 مليون صفحة تغطي كل جزء من جسم الإنسان.
• الطالب (ب) قرأ كتاباً دراسياً سميكاً مكوناً من 13.2 مليون صفحة، ولكن عن الدماغ فقط.
• الطالب (ج) قرأ كتيباً رفيعاً مكوناً من 814,000 صفحة، ولكن عن الكلية فقط.

أراد الباحثون معرفة: عندما انتهى الطالب (ب) والطالب (ج) من القراءة، هل اكتفيا بإمالة رؤوسهما للنظر إلى نفس الحقائق بشكل مختلف (دوران/Rotation)، أم غيرا حجم الكلمات التي يهتمان بها (إعادة تحجيم/Rescaling)؟ أم أنهما رميا الحقائق القديمة وكتبا حقائق جديدة تماماً (استبدال/Replacement)؟

"الشبح" في الآلة

قبل الإجابة على السؤال الكبير، وجد الباحثون دليلاً مخيفاً. لاحظوا أن آلاف السطور المحددة في دفاتر الطلاب الثلاثة كانت متطابقة "بتّاً ببتّ" (bit-for-bit). كانت هذه سطوراً لم يقرأها أو يتعلم منها أي طالب قط. وبما أن دفاترهم بدأت بخربشات عشوائية ولم تتغير هذه السطور أبداً، أدرك الباحثون: "آها! لقد بدأ الطلاب الثلاثة جميعاً بنفس الخربشات العشوائية تماماً!".

كان هذا نقطة تحول. فقد يعني هذا أن الباحثين عرفوا بالضبط كيف يبدو "الضجيج". استطاعوا رسم خط في الرمال: أي شيء تحت هذا الخط كان مجرد خربشات عشوائية ابتدائية؛ وأي شيء فوقه كان تعلماً حقيقياً.

النتائج الصادمة: إنه ليس دوراناً، بل إعادة كتابة

بمجرد تصفية الخربشات العشوائية، كانت الإجابة على سؤالهم الرئيسي واضحة ومفاجئة.

1. "طالب الكلية" لم يتعلم الكثير حقاً
الطالب الذي قرأ كتيب الكلية فقط (814,000 خلية) لم يغير دفتره كثيراً. من بين 512 اتجاهاً ممكناً تعلمها، كان هناك 12 اتجاهاً جديداً فقط. أما الباقي فكان مجرد الخربشات العشوائية الأصلية. الأمر يشبه محاولة تعلم لغة جديدة عبر قراءة مجلة مصورة واحدة؛ أنت لا تعرف اللغة بعد. وجد الباحثون أنه بالنسبة لهذا الطالب، كان "التعلم" ضعيفاً جداً لدرجة أنه كان مجرد ضجيج في الغالب.

2. "طالب الدماغ" غير الخريطة، وليس فقط الزاوية
الطالب الذي قرأ كتاب الدماغ السميك (13.2 مليون خلية) تعلم أكثر — حوالي 104 اتجاهات جديدة. ولكن إليكم المفاجأة: هو لم يقم فقط بتدوير الخريطة أو تكبير الطرق الموجودة. لقد استبدل الطرق.

حاول الباحثون مطابقة خريطة طالب الدماغ مع خريطة طالب الجسم الكامل باستخدام "الدوران" (تدوير الخريطة) أو "إعادة التحجيم" (تمديد الخريطة). لم ينجح الأمر جيداً.

• الدوران البسيط لم يفسر سوى أقل من 30% من التغييرات.
• حتى إضافة "تمدد" لكل طريق على حدة لم يفسر إلا قدراً ضئيلاً جداً.
• لجعل الخرائط تتطابق، اضطروا لاستخدام خريطة خطية معقدة وفوضوية لم تفسر سوى حوالي 57% من التغييرات.

هذا يعني أنه عندما يتعلم الروبوت عن عضو معين، فإنه لا ينظر فقط إلى الحقائق البيولوجية من زاوية مختلفة. بل يتخلص من معظم "المحاور" القديمة (الطرق الرئيسية التي ينظم بها المعلومات) ويكتب محاور جديدة. طالب الدماغ وطالب الكلية يتحدثان لهجات مختلفة من نفس اللغة، وليسا مجرد نفس اللهجة بلكنة مختلفة.

3. "المنتصف" هو حيث يحدث السحر
نظر الباحثون أيضاً إلى أين حدث التعلم في عقل الروبوت. وجدوا أن التعلم تركز في الطبقات الوسطى من شبكة الروبوت، وتحديداً في الأجزاء التي تولي اهتماماً للروابط (Attention) والأجزاء التي تعالج المعلومات (Feed-forward). أما أجزاء "التطبيع" (Normalization) (التي تحافظ على استقرار الروبوت) فلم تتغير تقريباً. الأمر يشبه أن الطالب أعاد كتابة الفصول الوسطى من كتابه المدرسي لكنه ترك المقدمة والخاتمة تماماً كما كانت عند بدايته.

4. الاتجاه أهم من الحجم
عندما تعلم الروبوت عن الدماغ مقابل الكلية، لم يخبرهم حجم التغيير عن العضو. فالجين الذي تغير كثيراً يمكن أن يكون من أي مكان. لكن اتجاه التغيير كان دليلاً قاطعاً. إذا تحرك جين في اتجاه معين، فمن المؤكد تقريباً أنه جين دماغي. وإذا تحرك في الاتجاه المعاكس، فهو جين كلوي. تعلم الروبوت التعرف على الأعضاء من خلال الطريقة التي تحركت بها المعلومات، وليس من خلال مقدار تحركها.

الخلاصة للمستكشفين المستقبليين

تقدم الورقة بعض القواعد العملية لأي شخص يحاول استخدام هذه الروبوتات الذكية لفهم البيولوجيا:

• التزم بالنموذج العام: إذا كنت تريد فهم البيولوجيا، فاستخدم النموذج المدرب على جسم الإنسان بالكامل (نموذج الـ 33 مليون خلية). فهو يمتلك أكبر عدد من الاتجاهات "المتعلمة" وأكثر بنية وضوحاً.
• لا تفترض قابلية النقل: لا يمكنك ببساطة أخذ اكتشاف من نموذج "الدماغ" وتطبيقه على نموذج "الكلية" بمجرد تدوير مقبض. الخرائط الداخلية مختلفة جداً. إذا أردت استخدام نتائج نموذج الدماغ للكلية، فعليك إعادة تعلمها من الصفر.
• احذر من مجموعات البيانات الصغيرة: إذا تم تدريب نموذج على أقل من حوالي 10 ملايين خلية (مثل نموذج الكلية في هذه الدراسة)، فقد لا يكون قد تعلم أي شيء حقيقي على الإطلاق. قد يكون مجرد صدى لخربشاته العشوائية الأصلية. قبل الوثوق في أي نموذج خاص بعضو معين، يجب أن تتحقق مما إذا كان قد تعلم أي شيء فعلياً يتجاوز الضجيج.

باختصار، الروبوت لا يكتفي بـ "تدوير" رأسه ليرى عضواً جديداً؛ بل عليه أن ينمي رأساً جديداً. وإذا لم يكن لديه وقت كافٍ للقراءة (بيانات كافية)، فقد لا ينمي رأساً جديداً على الإطلاق — بل قد يظل يحدق بجمود في الخربشات العشوائية التي بدأ بها.