Intrinsic Self-Correction in LLMs: Towards Explainable Prompting via Mechanistic Interpretability
تُثبت هذه الورقة أن التصحيح الذاتي الجوهري في النماذج اللغوية الكبيرة مدفوع بتوجيه التمثيلات الخفية على طول اتجاهات كامنة قابلة للتفسير، وهي آلية تم التحقق من صحتها من خلال تحليل المحاذاة وتدخلات التنشيط السببية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
"البوصلة الداخلية" للذكاء الاصطناعي: كيف تصحح النماذج اللغوية الكبيرة أخطاءها بنفسها
تخيل أنك طاهٍ في مطبخ مزدحم. قمت بطهي طبق، ثم تذوقته وأدركت: "مهلاً، هذا مالح جداً!". دون أن يخبرك أحد بذلك أو يعطيك وصفة جديدة، قررت ببساطة إضافة القليل من الكريمة أو البطاطس لموازنة الطعم. أنت لم تغير تدريبك ولم تعد إلى مدرسة الطهي؛ بل استخدمت فهمك الداخلي للنكهات لـ "توجيه" الطبق نحو الأفضل.
تستكشف هذه الورقة ظاهرة مماثلة في النماذج اللغوية الكبيرة (LLMs) تُسمى التصحيح الذاتي الجوهري (Intrinsic Self-Correction).
اللغز: التصحيح "السحري"
في بعض الأحيان، عندما يقول الذكاء الاصطناعي شيئاً فظاً، أو منحازاً، أو غير صحيح، يمكنك ببساطة أن تقول له: "مهلاً، يرجى جعل ذلك أكثر أدباً"، فيقوم الذكاء الاصطناعي بتصحيح نفسه فوراً.
لفترة طويلة، لم يكن العلماء متأكدين تماماً كيف يحدث هذا داخل "عقل" الذكاء الاصطناعي.
- هل كان الأمر مجرد زيادة في "الثقة"؟
- هل كان مجرد اتباع لطريق مختصر؟
- أم أن شيئاً أعمق كان يحدث؟
أراد الباحثون في هذه الورقة إلقاء نظرة تحت الغطاء لمعرفة ما إذا كان الذكاء الاصطناعي يقوم بالفعل بـ "توجيه" أفكاره الخاصة.
الاكتشاف: عجلة القيادة الداخلية
اكتشف الباحثون أن التصحيح الذاتي ليس مجرد تغيير عشوائي في الكلمات؛ بل هو تحول اتجاهي في الخريطة الداخلية للذكاء الاصطناعي.
تخيل عقل الذكاء الاصطناعي كمشهد شاسع متعدد الأبعاد. في هذا المشهد، يوجد "اتجاه" محدد يؤدي نحو الأدب، واتجاه معاكس تماماً يؤدي نحو الفظاظة.
وجد الباحثون أنه عندما تعطي للذكاء الاصطناعي أمراً بالتصحيح الذاتي (مثل "كن أكثر احتراماً" )، فإنه يعمل مثل عجلة القيادة. إنه يأخذ "موقع" الذكاء الاصطناعي الحالي في مشهده الذهني ويدفع تمثيلاته الداخلية فعلياً على طول "طريق الأدب السريع".
كيف أثبتوا ذلك (الاختبارات الثلاثة):
للتأكد من أنهم لا يخمنون فحسب، استخدموا ثلاث طرق ذكية:
- فحص الخريطة (المحاذاة): نظروا إلى "المسار" الذي اتخذه الذكاء الاصطناعي عندما صحح نفسه، وقارنوه بـ "بوصلة الأدب" التي بنوها. وجدوا أن المسارات تطابقت بشكل مثالي تقريباً. لم يكن الذكاء الاصطناعي يتخبط فحلق؛ بل كان يسير مباشرة نحو لافتة "السلوك الجيد".
- جهاز التحكم عن بعد (تدخل التنشيط): كان هذا هو الجزء الأكثر روعة. لقد أخذوا "بوصلة الأدب" التي بنوها وحقنوها يدوياً في عقل الذكاء الاصطناعي. حتى بدون أمر نصي، استطاعوا إجبار الذكاء الاصطناعي على أن يكون مؤدباً بمجرد دفع أفكاره الداخلية في ذلك الاتجاه. وقد نجح الأمر!
- اختبار العكس (السمية): جربوا العكس. طلبوا من الذكاء الاصطناعي أن يكون أكثر سمية. تحولت أفكار الذكاء الاصطناعي الداخلية في الاتجاه المعاكس تماماً، مما أثبت أن هذه "الاتجاهات" في عقل الذكاء الاصطناعي حقيقية ومتسقة.
لماذا يهم هذا؟
في الوقت الحالي، يمكن أن يكون الذكاء الاصطناعي "صندوقاً أسود" — نحن نرى ما يقوله، لكننا لا نعرف لماذا يقوله.
من خلال إثبات أن التصحيح الذاتي هو شكل من أشكال "توجيه التمثيلات" (Representation Steering)، يمنحنا هذا البحث وسيلة لـ:
- فهم الـ "لماذا": يمكننا رؤية متى وأين يقرر الذكاء الاصطناعي تغيير نبرته بالضبط.
- تحكم أفضل: بدلاً من مجرد الأمل في أن يستمع الذكاء الاصطناعي لأوامرنا، قد نتمكن في النهاية من "توجيه" بوصلته الداخلية لإبقائه آمناً، مهذباً، ومفيداً.
باخت-صريح: الذكاء الاصطناعي لا يغير كلماته فحسب؛ بل يغير عقله عبر توجيه أفكاره الداخلية نحو وجهة أفضل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.