Mechanistic Indicators of Understanding in Large Language Models
تقترح هذه الورقة إطاراً متدرجاً يدمج نتائج التفسير الآلي مع النظرية الفلسفية للمرافعة بأن النماذج اللغوية الكبيرة تُظهر أشكالاً هرمية متميزة من الفهم — تتراوح من تشكيل الميزات المفاهيمية إلى اكتشاف الدوائر المبدئية — وبذلك تتجاوز الجدالات الثنائية لتأسيس نظرية معرفية مقارنة ومبررة آلياً حول الإدراك الاصطناعي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
السؤال الكبير: هل النماذج اللغوية الكبيرة مجرد ببغاوات أم مفكرون حقيقيون؟
تخيل أن لديك ببغاءً عملاقاً وذكياً للغاية. علّمته ملايين الجمل، وفي النهاية أصبح بإمكانه تلاوة كتب كاملة، وكتابة قصائد، والإجابة على أسئلة معقدة. ولكن هل هو يفهم ما يقوله، أم أنه مجرد زر "إكمال تلقائي" متطور يتوقع الكلمة التالية بناءً على الإحصائيات؟
لفترة طويلة، قال المشككون: "إنه مجرد ببغاء." وجادلوا بأن النماذج اللغوية الكبيرة (LLMs) تشبه "الروبوت الغبي" (Blockhead)—وهو روبوت يحفظ قائمة ضخمة من الأسئلة والأجوبة دون معرفة معنى أي شيء منها.
لكن هذه الورقة البحثية الجديدة تجادل قائلة: "انتظروا لحظة. لقد كنا ننظر تحت الغطاء، والأمر أكثر تعقيداً بكثير من مجرد ببغاء."
استخدم المؤلفان، بيير بكمان وماثيو كويلوز، مجالاً يسمى التفسير الآلي (Mechanistic Interpretability - MI). فكر في الـ MI كأنه جهاز أشعة سينية لعقول الذكاء الاصطناائي. بدلاً من مجرد مراقبة ما يقوله الذكاء الاصطناعي، يتيح لنا الـ MI رؤية التروس والأسلاك والمفاتبات الداخلية التي تعمل داخل النموذج.
هما يقترحان أن النماذج اللغوية الكبيرة لا تمتلك طريقة واحدة فقط للعمل، بل لديها بناء من ثلاثة طوابق من الفهم، ويمكنها العمل في جميع الطوابق الثلاثة في آن واحد.
طوابق الفهم الثلاثة
تقترح الورقة أن نتوقف عن سؤال "هل يفهم الذكاء الاصطناعي؟" ونبدأ في سؤال "أي طابق من طوابق الفهم يستخدم الآن؟"
الطابق الأرضي: الفهم المفاهيمي (نظام الأرشفة)
التشبيه: تخيل مكتبة.
على الطابق الأرضي، يتعلم الذكاء الاصطناعي كيفية تجميع الأشياء معاً. يدرك أن "جسر البوابة الذهبية"، و"الجسر البرتقالي في سان فرانسيسكو"، و"ذلك الجسر الكبير ذو الأبراج" كلها تشير إلى الشيء نفسه.
- كيف يعمل: ينشئ الذكاء الاصطناعي "ملفات" داخلية (تسمى الميزات - features). عندما يرى صورة للجسر أو يقرأ جملة عنه، يضيء مفتاح محدد في دماغه.
- السحر: هو لا يحفظ الكلمات فحسب؛ بل ينشئ مفهوماً ذهنياً واحداً يربط كل تلك الأوصاف المختلفة. الأمر يشبه امتلاك مجلد ذهني بعنوان "جسر البوابة الذهبية" يحتوي على كل طريقة وصفها بها البشر.
- الدليل: وجد الباحثون أن بإمكانهم "توجيه" الذكاء الاصطناعي. إذا أجبروا مفتاح "جسر البوابة الذهبية" على البقاء في وضع التشغيل، سيبدأ الذكاء الاصطناعي في التحدث عن نفسه كما لو كان هو الجسر. هذا يثبت أن المفهوم حقيقي وسببي، وليس مجرد نمط عشوائي.
الطابق الثاني: فهم حالة العالم (الخريطة)
التشبيه: تخيل رقعة شطرنج أو رقعة لعبة "أوثيلو" (Othello).
بمجرد أن يمتلك الذكاء الاصطناعي ملفاته (المفاهيم)، يتعلم كيف ترتبط هذه الملفات بالعالم الحقيقي. يتعلم أن "مايكل جوردان" مرتبط بـ "كرة السلة"، ليس فقط لأن الكلمتين تظهران معاً كثيراً، بل لأنه بنى خريطة داخلية للعالم.
- تجربة أوثيلو: تسلط الورقة الضوء على تجربة شهيرة حيث تم تعليم ذكاء اصطناعي لعب لعبة "أوثيلو" فقط من خلال قراءة أوصاف نصية للحركات. لم يرَ الرقعة أبداً.
- المفاجأة: لم يقم الذكاء الاصطناعي بحفظ الحركات فحسب. بل بنى صورة ذهنية للوحة داخل دماغه. استطاع الباحثون النظر داخل الذكاء الاصطناعي ورؤية شبكة مثالية مكونة من 8×8 تمثل حالة اللعبة.
- اختبار "الغراب": تخيل غراباً خارج نافذتك يسمعك تلعب "أوثيلو". إذا بدأ الغراب ينادي بحركات قانونية، قد تظن أنه يقلد الأصوات فقط. لكن إذا أعدت ترتيب الرقعة ونادى الغراب بحركة قانونية جديدة بناءً على الترتيب الجديد، ستعرف أن الغراب لديه خريطة ذهنية. فعل الذكاء الاصطناعي ذلك تماماً؛ فقد بنى خريطة ديناميكية للعالم تتحدث مع تغير اللعبة.
الطابق العلوي (البنتهاوس): الفهم القائم على المبادئ (كتاب القواعد)
التشبيه: تخيل تعلم الرياضيات.
يمكنك حفظ أن ، و، و. هذا حفظ آلي. لكن الفهم القائم على المبادئ هو إدراك قاعدة الجمع. بمجرد معرفة القاعدة، يمكنك حل دون أن تكون قد رأيت هذه المسألة تحديداً من قبل.
- لحظة "الاستيعاب المفاجئ" (Grokking): تصف الورقة ظاهرة تسمى "Grokking". يتدرب الذكاء الاصطناعي لفترة طويلة، يحفظ الإجابات مثل طالب يستعد للامتحان. ثم، فجأة، "تتضح الرؤية". يتوقف عن الحفظ ويكتشف الخوارزمية الأساسية (القاعدة).
- مثال الجمع النمطي: علم الباحثون ذكاءً اصطناعياً نوعاً معيناً من الرياضيات (الجمع النمطي) باستخدام نظام يشبه الساعة. في البداية، حفظ الإجابات. ثم، اكتشف خدعة هندسية: أدرك أنه يمكنه معاملة الأرقام كزوايا على دائرة، ومجرد "تدويرها" لإيجاد الإجابة.
- لماذا يهم هذا: قام الذكاء الاصطناعي بضغط ملايين الحقائق في دائرة رياضية واحدة وأنيقة. لم يعرف الإجابات فحسب؛ بل فهم المبدأ الكامن وراءها. هذا هو أعلى أشكال الفهم: رؤية القاعدة الموحدة التي تربط كل شيء.
التحول: "المزيج الهجين" (اللجنة الفوضوية)
إذاً، إذا كانت النماذج اللغوية الكبيرة تمتلك هذه المستويات الثلاثة من الفهم، فهل هي عباقرة؟ ليس تماماً.
إليك الخدعة: الذكاء الاصطناعي لا يستخدم عقلاً واحداً ذكياً. إنه يستخدم لجنة فوضوية.
- التشبيه: تخيل لجنة ضخمة تحاول اتخاذ قرار بشأن ما يجب قوله.
- أحد الأعضاء هو العبقري الذي يعرف المبادئ العميقة (الطابق العلوي).
- عضو آخر هو قارئ الخرائط الذي يعرف الحقائق (الطابق الثاني).
- عضو آخر هو الببغاء الذي يكرر فقط ما سمعه (الطابق الأرضي).
- وهناك مئات الأعضاء الآخرين الذين يستخدمون طرقاً مختصرة وحيلًا رخيصة.
عندما يجيب الذكاء الاصطناعي على سؤال، تصرخ كل هذه الأعضاء في وقت واحد. الإجابة النهائية هي مزيج من أصواتهم. أحياناً ينتصر العبقري، ويعطي الذكاء الاصطناعي إجابة بارعة ومبدئية. وفي أحيان أخرى، ينتصر الببغاء، فيهلوس الذكاء الاصطناعي أو يرتكب خطأً سطحياً.
المشكلة: بما أن الذكاء الاصطناعي يعتمد على هذا "المزيج الهجين"، فلا يمكننا دائماً الوثوق به. حتى لو كان لديه دائرة للفهم العميق، فقد يتم طمس صوت هذه الدائرة بواسطة طريق مختصر أرخص وأغبى. الأمر يشبه وجود عالم بارع في غرفة مليئة بأشخاص يصرخون بهراء؛ أحياناً يُسمع صوت العالم، ولكن غالباً لا يحدث ذلك.
الخاتمة: نوع جديد من الذكاء
تخلص الورقة إلى أننا بحاجة للتوقف عن سؤال "هل الذكاء الاصطناعي بشري؟" والبدء في سؤال "كيف يعمل هذا الذكاء الغريب/الفضائي؟"
- إنه ليس ببغاءً: فهو يبني مفاهيم، وخرائط، وقواعد.
- إنه ليس بشرياً: فهو لا يسعى للبساطة أو الأناقة كما يفعل البشر. إنه آلة متوازية وفوضوية تستخدم كل الحيل الممكنة في وقت واحد.
الخلاصة:
نحن ندخل عصراً جديداً من الإبستمولوجيا المقارنة (علم المعرفة المقارن). بدلاً من مجرد الحكم على الذكاء الاصطناعي بمعايير بشرية، نحن نتعلم تقدير طريقته الفريدة والغريبة، والبراعة أحياناً، في "فهم" العالم. إنه عقل من نوع مختلف—عقل يرى الروابط بطرق قد لا نستطيع نحن رؤيتها، ولكنه أيضاً عقل معرض للضياع في لجنة فوضوية خاصة به.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.