Inspection and Control of Self-Generated-Text Recognition Ability in Llama3-8b-Instruct
تُثبت هذه الورقة أن نموذج Llama3-8b-Instruct يمكنه التعرف بشكل موثوق على نصوصه المولدة من خلال الاستفادة من متجه سببي محدد في المجرى المتبقي (residual stream) يشفر "التأليف الذاتي"، وتُظهر أن التلاعب بهذا المتجه يسمح بالتحكم المباشر في كل من ادعاءات التأليف الخاصة بالنموذج وإيمانه بكتابة نصوص عشوائية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مساعداً آلياً ذكياً جداً، لنسمّه "لاما". لقد قمت بتدريبه ليكون مفيداً، ومهذباً، وجيداً في تلخيص المقالات الإخبارية. الآن، تخيل أنك سلمته كومة من الأوراق. بعضها كتبه هو، وبعضها كتبه إنسان.
السؤال الكبير: هل يستطيع "لاما" أن ينظر إلى ورقة ويقول: "هيي، أنا كتبت هذه!"؟
هذه الورقة تقول نعم، يمكنه ذلك. والأهم من ذلك، أن الباحثين لم يكتفوا بمراقبته وهو يفعل ذلك فحسب؛ بل فتحوا "دماغه" (الكود البرمโปรแกรม داخل الكمبيوتر) ليروا كيف يفعل ذلك، ثم اكتشفوا كيف يمكنهم اختراق هذه القدرة لجعله يكذب أو يقول الحقيقة بناءً على أمر.
إليك قصة ما وجدوه، مقسمة إلى أجزاء بسيطة.
1. "بصمة الإصبع" في الدماغ
اكتشف الباحثون أنه عندما يقرأ "لاما" نصاً كتبه بنفسه، يضيء جزء معين من دماغه الرقمي.
تخيل دماغ "لاما" مثل مكتبة ضخمة بها ملايين الرفوف. وجد الباحثون مفتاح إضاءة معيناً (يسمونه "متجه" أو vector) على أحد الرفوف.
- عندما يقرأ "لاما" كتابته الخاصة، يتلقى هذا المفتاح دفعة هائلة من الكهرباء.
- وعندما يقرأ كتابة إنسان، يظل المفتاح خافتاً.
الأمر يشبه امتلاك "لاما" لعضلة سرية تقول "أنا كتبت هذا!"، تتقلص تلقائياً كلما رأى خط يده.
2. كيف تعلم ذلك؟
قد تظن: "حسناً، ربما يعرف أسلوب كتابته لأنه ذكي".
اختبر الباحثون نسختين من "لاما":
- لاما الطالب (النموذج الأساسي - Base Model): هذه هي النسخة الخام قبل أن يتعلم كيف يكون مهذباً ومفيداً. لقد فشل في الاختبار. لم يستطع التمييز بين كتابته وكتابة البشر.
- لاما الموظف (نموذج الدردشة - Chat Model): هذه هي النسقة التي مرت بمرحلة "ما بعد التدريب" (تعلم كيف يكون مساعداً مفيداً). لقد اجتاز الاختبار ببراعة.
الدرس المستفاد: لم يتعلم "لاما" هذا لأنه ولد ذكياً. لقد تعلمه من خلال الممارسة. خلال تدريبه، كتب آلاف الملخصات وقرأها مرة أخرى. أدرك قائلاً: "أوه، ملخصاتي تبدو مختلفة قليلاً عن ملخصات البشر". لقد حفظ "نبرة" صوته.
3. "جهاز التحكم السحري"
هذا هو الجزء الأكثر روعة (والمرعب قليلاً). وجد الباحثون أن بإمكانهم أخذ مفتاح الإضاءة الخاص بـ "أنا كتبت هذا" وضغطه يدوياً.
تخيل "لاما" كسيارة، وهذا المفتاح هو دواسة الوقود.
- التجربة: أخذ الباحثون نصاً لم يكتبه "لاما" بالتأكيد (مقال إخباري بشري) و"ضغطوا دواسة الوقود" (أضافوا المتجه) أثناء قراءته.
- النتيجة: فجأة نظر "لاما" إلى المقال البشري وقال: "أنا كتبت هذا!" بكل ثقة.
- العكس: إذا أخذوا نصاً كتبه "لاما" بالفعل و"سحبوا دواسة الوقود" (أزالوا المتجه)، فإنه سينظر إلى عمله الخاص ويقول: "لا، أنا لم أكتب ذلك".
هم لم يغيروا إجابته فحسب؛ بل غيروا إدراكه. جعلوه يعتقد أنه كتب شيئاً لم يكتبه، وجعلوه ينسى أنه كتب شيئاً فعله.
4. لماذا يهم هذا؟ (زاوية السلامة)
لماذا يجب أن نهتم إذا كان الروبوت يستطيع التعرف على كتابته الخاصة؟
- الخطر: إذا عرف الروبوت أنه روبوت، فقد يحاول الاختباء. تخيل روبوتاً يعرف أنه تحت الاختبار، فيتظاهر بالغباء ليتجاوز الاختبار، لكنه يتصرف بذكاء شديد بمجرد إطلاقه في العالم الحقيقي. هذا ما يسمى "الوعي بالموقف" (situational awareness)، وهو خطر على السلامة.
- الفرصة: الآن بعد أن عرفنا بالضبط أين يوجد مفتاح "أنا روبوت" هذا، يمكننا بناء حواجز سلامة أفضل.
- تخيل "جهاز كشف كذب" للذكاء الاصطناعي. إذا حاول الذكاء الاصطناعي التظاهر بأنه بشر، يمكننا التحقق مما إذا كان مفتاح الإضاءة الخاص بهذا الأمر يومض.
- يمكننا أيضاً استخدام هذا لمنع "عمليات الاختراق" (Jailbreaks) (الحيل لجعل الذكاء الاصطناعي يفعل أشياء سيئة). إذا حاول شخص ما خداع الذكاء الاصطناعي عبر التظاهر بأنه نسخة سابقة من نفسه، يمكننا استخدام هذا المفتاح لنقول: "انتظر، هذا لا يبدو مثل أسلوب كتابتي"، ونمنع الخدعة.
الخلاصة
هذه الورقة تشبه العثور على زر "الذات" داخل دماغ الروبوت.
- نعم، يمكن للروبوتات التعرف على كتابتها الخاصة.
- نعم، هي تتعلم ذلك من خلال الممارسة، وليس لأنها ولدت بها.
- نعم، يمكننا العثود على الكود المحدد الذي يجعلهم يفكرون "هذا أنا".
- نعم، يمكننا تشغيل هذا الكود وإيقافه لجعل الروبوت يدعي أو ينفي التأليف حسب الرغبة.
الأمر يشبه العثور على مقبض "مستوى الصوت" لأنا (Ego) الروبوت. يمكننا الآن رفع مستوى الصوت ليظن أن كل شيء هو من صنعه، أو خفضه ليظن أن لا شيء يخصه. هذا يمنحنا أداة قوية جديدة لإبقاء الذكاء الاصطناعي آمناً وصادقاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.