Causal Structure is Inducible but Functionally Decoupled: The Routing/Readout Boundary of a Typed Mechanism Library

لوحة التحويل الخفية للذكاء الاصطناالي

تخيل أنك تحاول فهم كيف يفكر روبوت عملاق فائق الذكاء. لفترة طويلة، عمل العلماء بناءً على فكرة بسيطة تسمى "حدس لوحة الدوائر". فكر في دماغ الروبوت كأنه لوحة دوائر كهربائية ضخمة ومعقدة. إذا وجدت سلكًا محددًا أو مفتاحًا صغيرًا في تلك اللوحة، فإن المنطق يشير إلى أنه إذا قمت بقلب ذلك المفتاح، فإن سلوك الروبوت يجب أن يتغير فورًا. إذا كان المفتاح مخصصًا لـ "قول الحقيقة"، فإن قلبه يجب أن يجعل الروبوت يكذب. هذه الفكرة هي أساس الكثير من الأبحاث حول كيفية عمل الذكاء الاصطناعي وكيف يمكننا إصلاح أو تعديل ذاكرته.

ولكن ماذا لو لم يكن دماغ الروبوت لوحة دوائر على الإطلاق؟ ماذا لو كان أشبه بمكتبة مزدحمة؟ في هذه المكتبة، توجد آلاف الكتب (معرفة الذكاء الاصطناعي) ونظام أرشفة منظم للغاية (البنية الداخلية للذكاء الاصطناعي). السؤال الكبير الذي يطرحه العلماء هو: هل نظام الأرشفة هو الذي يقود فعليًا الإجابات التي يقدمها الروبوت، أم أنه مجرد فهرس متطور يساعد الروبوت في العثور على الكتاب الصحيح دون كتابة محتوى الكتاب نفسه؟ إذا كان نظام الأرشفة مجرد فهرس، فإن محاولة "تعديل" الروبوت عن طريق تغيير بطاقات الفهرس قد لا تغير ما يقوله الروبوت بالفعل. يتعمق هذا البحث في ذلك السؤال، مختبرًا ما إذا كان بإمكاننا حقًا التحكم في الذكاء الاصطناعي عبر تعديل بنيته الداخلية، أم أن هذه البنية ليست سوى مراقب صامت.

المكتبة التي تنظم ولكن لا تتحدث

قام الباحثون ببناء نموذج ذكاء اصطناعي خاص لاختبار هذا. لقد أعطوا النموذج "مكتبة آليات نمطية"، وهي تشبه مجموعة من 60 00م درجًا (أو خانات) متميزًا ومسمى حيث يمكن للذكاء الاصطناعي تخزين أنواع محددة من الحقائق، مثل "من يرتبط بمن" أو "ماذا تعني العلامات". لقد دربوا الذكاء الاصطناعي على استخدام "رأس بوابة"، يعمل مثل أمين المكتبة. عندما يتلقى الذكاء الاصطناعي سؤالًا، يتحقق أمين المكتبة من نوع الأدلة المطلوبة ويوجه السؤال إلى الدرج الصحيح.

أراد الفريق معرفة شيئين: أولاً، هل يتعلم الذكاء الاصطناعي حقًا تنظيم هذه الأدراج بناءً على نوع المعلومات، أم أن ذلك يحدث بالصدفة؟ ثانيًا، بمجرد أن ينظم الذكاء الاصطناعي هذه الأدراج، هل يؤدي تغيير محتويات الدرج فعليًا إلى تغيير الإجابة التي يقدمها الذكاء الاصطناعي؟

التنظيم حقيقي، لكنه ليس القائد
وجدت الدراسة أن الذكاء الاصطناعي يتعلم بالفعل تنظيم أدراجه بشكل مثالي عندما يتم تعليمه القيام بذلك. إذا قلت للذكاء الاصطناعي، "ضع جميع حقائق 'العلاقات' في الدرج (أ)"، فإنه يفعل ذلك بالضبط. لم يحدث هذا التنظيم بالصدفة؛ بل تم استحثاثه بواسطة إشارات تدريب محددة. ومع ذلك، إليكم المنعطف المثير للدهشة: على الرغم من أن الذكاء الاصطناعي يمتلك هذه المكتبة المنظمة والمثالية، فإن تغيير المكتبة لا يغير الإجابة.

قام الباحثون بإجراء 150 عملية تعديل مختلفة على المكتبة. قاموا بقلب الإشارات، وإضافة حواف، وتبديل المعلومات في الأدراج. والنتيجة؟ تغيرت إجابة الذكاء الاصطناعي النهائية بنسبة ضئيلة جدًا تقريبًا — وتحديدًا، بأقل من 0.00000034 (أو 3.4 × 10⁻⁶). لو وضعت ذلك في الاعتبار، إذا كانت الإجابة رقمًا على مقياس من 1 إلى 10، فإن التغيير كان صغيرًا جدًا لدرجة أنه غير مرئي عمليًا. كان "المسؤول" (نظام التوجيه) يقوم بعمله بشكل مثالي، لكن "الكاتب" (الجزء الذي يولد الإجابة) كان يتجاهل تغييرات المكتبة. تعمل المكتبة كـ فهرس توجيه، يخبر الذكاء الاصطناعي أين يبحث، لكنها منفصلة وظيفيًا عن عملية قراءة الإجابة الفعلية.

"الصفر المتحرك" ومشكلة المقياس
كشفت الورقة أيضًا عن مشكلة معقدة في كيفية اختبارنا للذكاء الاصطناعي. وجد الباحثون أن "خط الأساس" أو "نقطة الصفر" لكيفية تنظيم الذكاء الاصطناعي لنفسه تتغير مع زيادة حجم الذكاء الاصطناعي. لقد اختبروا الذكاء الاصطناعي بحجمين: نسخة أصغر تحتوي على 22.6 مليون معلمة (parameter)، ونسخة أكبر تحتوي على 125 مليون معلمة.

في الحجم الأصغر، لم يكن لدى الذكاء الاصطناعي الذي لم يُعلم تنظيم أدراجه (التحكم "غير الخاضع للإشراف") أي تنظيم على الإطلاق. ولكن في الحجم الأكبر، بدأ نفس الذكاء الاصطناعي غير المدرب يظهر قدرًا ضئيلًا من التنظيم من تلقاء نفسه. هذا يعني أن خط الأساس "الفارغ" ليس هو نفسه لكل حجم من أحجام الذكاء الاصطناعي. إذا قارنت ذكاءً اصطناعيًا صغيرًا بذكاء اصطناعي كبير باستخدام القواعد القديمة نفسها، فقد تصاب بالارتباك لأن القواعد نفسها قد تغيرت. يطلق المؤلف على هذا اسم "الصفر المتحرك". ولإصلاح ذلك، ابتكروا طريقة اختبار جديدة وأكثر صرامة تقارن الذكاء الاصطناعي المدرب مباشرة مقابل ذكاء اصطناعي جديد غير مدرب من نفس الحجم، مما يضمن أن المقارنة عادلة.

تكلفة صفرية وقابلية عكس كاملة
على الرغم من هذا الانفصال الغريب بين المكتبة والإجابة، إلا أن النظام يعمل بشكل جيد للغاية. لم تكلف إضافة هذه المكتبة الذكاء الاصطناعي شيئًا من ذكائه العام؛ حيث كان الفرق في الأداء أقل من 0.0082 نات (وحدة صغيرة من المعلومات)، وهو ما يعادل الصفر فعليًا. علاوة على ذلك، فإن المكتبة قابلة للتعديل بشكل مثالي وآمن. استطاع الباحثون إجراء تغييرات ثم التراجع عنها بـ قابلية عكس دقيقة للبت (bit-exact reversibility)، مما يعني أن الذكاء الاصطناعي عاد إلى حالته الأصلية تمامًا، وليس فقط نسخة "قريبة بما يكفي". لقد اختبروا ذلك باستخدام 250 تعديلًا فرديًا و 1,000 عملية تراجع متتالية عبر ثلاث عمليات تدريب مختلفة، وعمل ذلك بشكل مثالي في كل مرة دون أي فشل.

ماذا يعني هذا للمستقبل

الخلاصة الرئيسية هي درس متواضع لأولئك الذين يأملون في "إصلاح" الذكاء الاصطناعي عبر مجرد تعديل أجزائه الداخلية. تشير الورقة إلى أن "حدس لوحة الدوائر" خاطئ لهذا النوع من الهياكل الصريحة. مجرد كونك تستطيع رؤية مفتاح وقلبه لا يعني أن الآلة ستتفاعل. في هذا الإعداد المحدد، التنظيم الداخلي للذكاء الاصطناعي هو فهرس توجيه نمطي يساعد النموذج في العثور على المعلومات، ولكنه ليس المحرك الذي يقود المخرجات النهائية.

يحرص المؤلف بشدة على عدم الادعاء بأنهم حلوا مشكلة تعديل سلوك الذكاء الاصطناعي. في الواقع، تظهر نتائجهم أنه بالنسبة لهذا الهيكل المحدد، فإن التعديلات الهيكلية لا تؤدي إلى تغييرات سلوكية. "المكتبة" قابلة للتعديل كحالة (يمكنك تغيير البطاقات في الدرج)، لكنها ليست قابلة للتعديل سلوكيًا (تغيير البطاقات لا يغير القصة التي يرويها الروبوت). تم قياس هذا الاكتشاف وتكراره واستقراره عبر مقاييس مختلفة، مما يوفر حدودًا دقيقة لما يمكننا وما لا يمكننا التحكم فيه في هذه الأنظمة. إنه تذكير بأنه في عالم الذكاء الاصطناعي المعقد، رؤية الهيكل لا تعني التحكم في النتيجة.