Analysing Self-Harm Representations in Language Models: a Cross-Architecture Study
تحلل هذه الدراسة كيفية تمثيل النماذج اللغوية الكبيرة لمحتوى إيذاء النفس عبر أربع بنيات ومجموعتي بيانات، كاشفةً أن هذه المعلومات تتبلور في الـ 3-7% الأخيرة من طبقات الشبكة، وأن مجسات الكشف الأكثر دقة لا تعتمد بالضرورة على الاتجاهات الأكثر قابلية للفصل خطياً، مع إظهار نموذج Gemma-3-4B لنمط تمثيلي متميز.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مكتبة سحرية عملاقة تحتوي على كل كتاب كُتب على الإطلاق، لكن الكتب مكتوبة بشفرة سرية لا يستطيع قراءتها إلا روبوتات المكتبة. هذه المكتبة هي "نموذج لغوي كبير" (ذكاء اصطنا undergoes)، ومهمتها هي فهم اللغة البشرية، من كتابة القصائد إلى الإجابة على الأسئلة. لكن الجزء الصعب هنا هو أن هذه الروبوتات لا "تعرف" الأشياء كما نعرفها نحن؛ بل لديها خريطة داخلية خفية مكونة من آلاف الطبقات من الروابط الرياضية. يحاول العلماء فهم كيف "تفكر" هذه الروبوتات في المواضيع الخطيرة، مثل إيذاء النفس. فكر في عقل الروبوت كأنه ناطحة سحاب متعددة الطوابق. عندما تدخل رسالة إلى المبنى، فإنها تنتقل عبر الطوابق صعوداً. في الطابق السفلي، تكون الرسالة مجرد ضجيج خام، ولكن مع صعودها، يبدأ الروبوت في استيعاب معناها. السؤال الكبير الذي يطرحه الباحثون هو: في أي طابق بالضبط يدرك الروبوت أخيراً: "أوه، هذه صرخة استغاثة"؟ وبمجرد أن يدرك ذلك، هل يخزن هذا الفكر في خط بسيط ومستقيم، أم أن الفكرة مخبأة في متاهة معقدة وملتوية؟ إن فهم هذا الأمر أمر بالغ الأهمية، لأننا إذا أردنا بناء ذكاء اصطناعي يمكنه اكتشاف الأشخاص الذين يمرون بأزمات بأمان وتقديم المساعدة لهم، فنحن بحاجة إلى معرفة أين وكيف تضيء "إشارة الخطر" تلك داخل الآلة بدقة.
في هذه الدراسة، عمل الباحثون كالمحققين الذين يتلصصون على العمليات الداخلية لأربع ناطحات سحاب مختلفة للذكاء الاصطناعي (تحديداً النماذج المسماة Qwen3-0.6B وLlama 3.2-1B وLlama 3.2-3B وGemma-3-4B). أرادوا معرفة كيف تمثل هذه النماذج المنشورات المتعلقة بإيذاء النفس. أجروا تجربتين رئيسيتين. أولاً، قاموا ببناء "كاشف" بسيط (يسمى مسباراً خطياً) عند كل طابق من طوابق المبنى ليروا ما إذا كان بإمكان الذكاء الاصطناعي التمييز بين منشور عن إيذاء النفس ومنشور طبيعي. ووجدوا أن الذكاء الاصطناعي لا "يفهم الأمر" حقاً حتى يصل إلى أعلى المبنى. وتحديداً، فإن المعلومات المتعلقة بإيذاء النفس "تتبلور" — أي تصبح واضحة وصلبة — في آخر 3% إلى 7% من الطبقات. بالنسبة لمبنى يتكون من 34 طابقاً، يعني هذا أن الذكاء الاصطناعي لا يستوعب الخطر بشكل كامل إلا في الطابقين أو الثلاثة الأخيرة. قبل ذلك، تكون الإشارة غامضة جداً بحيث يصعب رصدها بشكل موثوق.
التجربة الثانية كانت أكثر إثارة للاهتمام. حاول الباحثون العثود إلى "اتجاه" واحد في الفضاء الرياضي للذكاء الاصطناعي يشير مباشرة إلى إيذاء النفس، تماماً مثل البحث عن إبرة بوصلة تشير دائماً إلى "الخطر". توقعوا أن نماذج الذكاء الاصطناعي الأفضل في اكتشاف إيذاء النفس ستكون أيضاً ذات "إبرة بوصلة" أكثر وضوحاً واستقامة. لكنهم وجدوا شيئاً مفاجئاً: لم يكن ذلك صحيحاً. فقد كان النموذج المسمى Gemma-3-4B هو الأفضل في اكتشاف إيذاء النفس (محققاً أعلى درجات الدقة)، ومع ذلك كانت "بوصلة الخطر" الخاصة به هي الأقل استقامة وبساطة. اتضح أن Gemma لا يخزن فكرة إيذاء النفس في خط واحد بسيط وسهل العثلة، بل ينشر الإشارة عبر اتجاهات عديدة مختلفة في دماغه، مما يجعل العثور عليها باستخدام بوصلة بسيطة أمراً صعباً، ولكنه في الواقع يجعلها أفضل في التعرف على الشيء الحقيقي.
كما اكتشف الفريق أن طريقة تمثيل الذكاء الاصطناعي لهذا الخطر تتغير مع تحرك الرسالة صعوداً في المبنى. إن اتجاه "إشارة الخطر" في أسفل المبنى يختلف تماماً عن الاتجاه في الأعلى. الأمر كما لو أن الرسالة تبدأ كسهم أحمر في الأسفل، ولكن بحلول الوقت الذي تصل فيه إلى الأعلى، تكون قد دارت وتحولت إلى لولب أزرق. وهذا يعني أنه لا يمكنك مجرد النظر إلى الطبقات المبكرة للذكاء الاصطناعي لفهم ميزات السلامة الخاصة به؛ بل يجب عليك النظر إلى النهاية تماماً.
أخيراً، قارن الباحثون بين مجموعتين مختلفتين من البيانات التي استخدموها لتدريب كاشفاتهم. كانت إحدى المجموعتين فوضوية بعض الشيء، حيث احتوت على منشورات تستخدم الاستعارات أو تتحدث عن إيذاء النفس في سياق الأخبار، بينما كانت المجموعة الأخرى واضحة ومباشرة للغاية. ووجدوا أن الذكاء الاصطناعي كان يعمل بشكل أفضل وأكثر اتساقاً مع البيانات الواضحة والمباشرة. يشير هذا إلى أن جودة الأمثلة التي نعطيها للذكاء الاصطناعي تفرق بشكل هائل. فإذا كانت بيانات التدريب مربكة أو مليئة بالاستعارات الخادعة، فإن خريطة الذكاء الاصطناعي الداخلية تصبح أكثر غموضاً.
باختصار، تشير الورقة البحثية إلى أن مفهوم إيذاء النفس في نماذج الذكاء الاصطنا هذه هو إدراك متأخر يعيش في الطبقات القليلة العليا من الشبكة. كما توضح أن الذكاء الاصطناعي الأكثر دقة ليس بالضرورة هو ذاك الذي يمتلك "إشارة خطر" أبسط، بل هو الذي يشفر الخطر بطريقة أكثر تعقيداً وتوزعاً. وهذا يعطينا طريقة جديدة للتفكير في كيفية بناء ذكاء اصطناعي أكثر أماناً: فبدلاً من مجرد الأمل في أن يعرف الروبوت الصواب، قد نتمكن من هندسة أجزاء محددة من دماغه للتعامل مع هذه اللحظات الحرجة، بشرط أن نفهم بالضبط أين وكيف تتشكل تلك الأفكار.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.