تخيل أن لديك عقل روبوت فائق الذكاء، لكنه عالق داخل صندوق زجاجي. لا يمكنك تغيير طريقة تفكير هذا العقل أو تعلم أشياء جديدة؛ فأسلاكه وتوصيلاته مجمدة. ومع ذلك، يمكنك تغيير الغرفة التي يعيش فيها. يمكنك إعادة ترتيب الأثاث، إضافة أدوات جديدة إلى حزامه، أو إعطاؤه خريطة أفضل. في عالم الذكاء الاصطناائي، تسمى هذه "الغرفة" حاصرة (Harness). وهي مجموعة التعليمات والأدوات وأنظمة الذاكرة التي تحيط بنموذج ذكاء اصطناعي ضخم لتساعده على حل المشكلات. لفترة طويلة، اعتقد العلماء أنه لجعل الذكاء الاصطناعي أكثر ذكاءً، يجب عليهم ترقية "العقل" نفسه. ولكن ماذا لو استطعت جعل "الغرفة" مثالية لدرجة أن العقل المجمد سيصبح فجأة عبقرياً؟ هذا هو السؤال الكبير الذي تعالجه هذه الورقة البحثية: هل يمكن لعقل روبوت، لا يمكنه التعلم من تلقاء نفسه، أن يعلّم نفسه كيفية بناء غرفة أفضل؟

يقول الباحث وراء هذه الدراسة، تيلين جو (Tailin Zhou): "نعم، ولكن بحدود". لقد أنشأوا نظاماً يسمى التحسين الذاتي الهرمي (Hierarchical Self-Improvement - HSI). فكر في الأمر كبناء مكون من ثلاثة طوابق حيث يعيش نفس العقل المجمد في كل طابق، لكنه يؤدي وظائف مختلفة. في الطابق السفلي، يلعب العقل لعبة باستخدام مجموعة محددة من القواعد (الحاصرة). وفي الطالط الأوسط، ينظر العقل إلى تلك القواعد ويحاول إعادة كتابتها للحصول على درجة أعلى. وفي الطابق العلوي، ينظر العقل إلى كيفية إعادة كتابته للقواعد ويحاول أن يصبح أفضل في تلك العملية نفسها. الخدعة السحرية هي أن العقل في الطابق العلوي "مجمد" في منطقه الخاص — فهو لا يستطيع إعادة كتابة نفسه، مما يمنعه من الارتباك أو تخريب كل شيء. الأمر يشبه طباخاً يمكنه تغيير الوصفة (الطابق الأوسط) وحتى تغيير كيفية كتابة كتاب الوصفات (الطابق العلوي)، لكن يدي الطباخ وعقله ثابتان.

اختبر الفريق هذا النظام على مجموعة من الألغاز الشبيهة بألعاب الفيديو تسمى BALROG. ووجدوا أنه بالنسبة للألعاب متوسطة الصعوبة، عمل النظام بشكل رائع. فمن خلال السماح للذكاء الاصطناعي بإعادة كتابة تعليماته مراراً وتكراراً، أصبح أفضل بشكل ملحوظ في اللعبة دون تغيير عقله على الإطلاق. على سبيل المثال، في لعبة تسمى BabyAI، قفزت النتيجة بنسبة 39.3%، وفي لعبة Crafter، ارتفعت بنسبة 33.0%. حتى أنه تعلم لعب مستويات جديدة لم يرها من قبل، مما أثبت أنه لم يكن يحفظ الإجابات فحسب. ومع ذلك، وجدت الورقة أيضاً جداراً صلباً: إذا كانت اللعبة صعبة للغاية بحيث لا يستطيع العقل المجمد فهمها في المقام الأول (مثل لعبة متاهات معقدة جداً تسمى NLE)، فإن أي قدر من إعادة ترتيب الغرفة لن يساعد. فالعقل ببساطة لا يستطيع توليد الإشارات الصحيحة للتعلم.

لذا، الخلاصة الرئيسية هي أنه يمكنك عصر المزيد من الأداء من ذكاء اصطناعي ثابت من خلال السماح له بتحديث "دليل المستخدم" و"حزام الأدوات" الخاص به باستمرار، ولكن لا يمكنك تحويل عقل ضعيف إلى عقل خارق بمجرد تغيير الأثمر. التحسن حقيقي، وقابل للقياس، وفعال بشكل مدهش، ولكنه يصطدم بسقف تحدده مدى ذكاء العقل الأصلي في الواقع.

بناء العقل ذو الثلاث طوابق

لفهم كيف يعمل هذا، تخيل عقلاً واحداً للذكاء الاصطناعي ثابتاً (لنسمّه "M")، وهو ذكي جداً لدرجة تمنعه من تعلم حقائق جديدة، لكنه عنيد جداً لدرجة تمنعه من تغيير كوده البرمجي الخاص. بنى الباحث مبنى من ثلاثة طوابق لهذا العقل ليعيش فيه، حيث يمثل كل طابق وظيفة مختلفة.

الطابق الأرضي: اللاعب
هنا، يلعب العقل M لعبة. لديه "حاصرة" (H)، وهي تشبه بدلة درع مصممة خصياً بمجموعة محددة من الأدوات، ودفتر ملاحظات للذاكرة، ومجموعة من القواعد لكيفية التحدث إلى اللعبة. هذا هو الجزء الذي يقوم بالعمل الفعلي. إذا كانت اللعبة هي "ابحث عن المفتاح الأحمر"، فإن الحاصرة تخبر العقل بكيفية البحث عن المفاتيح وأين يضعها.

الطابق الثاني: المهندس المعماري
في الطابق العلوي، يعمل العقل M الآن كمهندس معماري. يراقب اللاعب في الطابق الأرضي، ويرى أين فشل، ثم يعيد كتابة الحاصرة. قد يقول: "مهلاً، اللاعب استمر في نسيان أن المفتاح كان في الغرفة اليسرى. دعونا نضيف ملاحظة لاصقة إلى نظام الذاكرة". هذا هو المطور (Evolver). هو لا يلعب اللعبة؛ بل يغير فقط قواعد اللعبة للاعب.

الطابق الثالث: مصمم المخططات
في الطابق العلوي تماماً، يعمل العقل M الآن كمصمم للمخططات. يراقب المهندس المعماري في الطابق الثاني. ربما يكون المهندس المعماري بطيئاً جداً في العثور على الأخطاء، أو ربما يرتكب نفس النوع من الأخطاء باستمرار. يقوم المصمم بإعادة كتابة استراتيجية المهندس المعماري. قد يقول: "توقف عن النظر إلى آخر 5 حركات؛ انظر إلى آخر 20 حركة". هذا هو المطور الفائق (Meta-Evolver).

قفل الأمان
هذا هو الجزء الأهم: المبنى يحتوي على قفل أمان. يمكن لمصمم المخططات (الطابق العلوي) تغيير استراتيجية المهندس المعماري، لكنه لا يستطيع تغيير الكود الخاص به. الكود الذي يشغل الطابق العلي "مجمد" وغير قابل للتغيير. هذا يمنع النظام من الدخول في حلقة مفرغة حيث يحاول إعادة كتابة نفسه إلى الأبد ويخرب كل شيء. إنه يشبه معلماً يمكنه تغيير خطة الدرس للطلاب، والمدير يمكنه تغيير خطة درس المعلم، لكن الوصف الوظيفي للمدير نفسه مكتوب في الحجر.

مفتاح "التفكير يعمل/لا يعمل"

للتأكد من أن الذكاء الاصطناعي لم يكن يستخدم فقط المزيد من قوة الدماغ لحل الألغاز، استخدم الباحث حيلة ذكية. عندما كان العقل يلعب اللعبة (الطابق الأرضي)، قاموا بإيقاف وضع "التفكير" لديه. كان عليه أن يتصرف بناءً على غريزته الأولى. ولكن عندما كان يعيد كتابة القواعد (الطابق الثاني والثالث)، قاموا بتشغيل وضع التفكير مرة أخرى. أثبت هذا أن التحسينات جاءت من القواعد الأفضل (الحاصرة)، وليس من كون العقل أصبح فجأة أكثر ذكاءً أو يفكر لفترة أطول.

النتائج: متى ينجح ومتى يفشل

اختبر الفريق هذا النظام على معيار يسمى BALROG، وهو مجموعة من ألعاب المغامرات النصية ذات مستويات صعوبة مختلفة.

قصص النجاح
في الألعاب متوسطة الصعوبة، كان النظام نجماً ساطعاً.

• BabyAI: تحسنت النتيجة بنسبة +39.3%.
• Crafter: ارتفعت النتيجة بنسبة +33.0%.
• TextWorld: زيادة بنسبة +25.0%.
• MiniHack: مكسب بنسبة +15.0%.

والأكثر إثارة للإعجاب، عندما اختبروا النظام في لعبة تسمى BabaIsAI، تعلم الذكاء الاصطناعي قواعد تعمل على مستويات جديدة لم يسبق له رؤيتها من قبل. في إحدى الألعاب الفرعية المسماة "BreakStop"، حصل على درجة 0.98 (شبه مثالية)، وفي "GoTo"، حصل على 1.00 (مثالية). هذا يعني أن الذكاء الاصطناعي لم يحفظ المستويات المحددة التي تدرب عليها فحسب، بل تعلم بالفعل كيفية بناء استراتيجية أفضل يمكن إعادة استخدامها.

الحدود الصعبة
ومع ذلك، وجدت الورقة أيضاً حدوداً واضة. عندما حاولوا تطبيق هذا على لعبة صعبة جداً تسمى NLE (التي تتطلب تفكيراً عميقاً وتوفر تلميحات قليلة جداً)، فشل النظام في التحسن. ظلت النتيجة عند 0.0.

لماذا؟ لأن العقل المجمد لم يكن ذكياً بما يكفي لفهم اللعبة في المقام الأول. يمكن للحاصرة إعادة ترتيب الأدوات، لكنها لا تستطيع منح العقل عيوناً جديدة ليرى الحل. تشير الورقة إلى أن تطور الحاصرة يشبه المضاعف: إذا كان العقل جيداً بالفعل في مهمة ما، يمكن للحاصرة أن تجعله رائعاً. ولكن إذا كان العقل سيئاً في المهمة، فلا يوجد قدر من إعادة ترتيب الأدوات سيجعله جيداً.

ماذا يعني هذا للمستقبل

تشير هذه الأبحاث إلى طريقة جديدة لجعل الذكاء الاصطناعي أفضل دون الحاجة إلى تدريب نماذج ضخمة ومكلفة جديدة. بدلاً من محاولة بناء عقل أكثر ذكاءً، يمكننا بناء "غرفة" أكثر ذكاءً ليعيش فيها العقل. توضح الورقة أن ذكاءً اصطناعياً واحداً ثابتاً يمكنه تعليم نفسه كيفية تحسين تعليماته، طالما أن المهمة ليست صعبة للغاية ويحصل الذكاء الاصطناعي على تغذية راجعة واضحة حول ما فعله بشكل صحيح أو خاطئ.

الأمر يشبه إعطاء شخص مجموعة ثابتة من المهارات ولكن السماح له بتصميم ورشته الخاصة. إذا كانت الوظيفة ضمن نطاق مهاراته، فيمكنه بناء ورشة عمل فعالة للغاية تجعله حرفياً ماهراً. ولكن إذا كانت الوظيفة تتطلب مهارة لا يملكها، فلن يساعد تصميم أي ورشة عمل في إنجاز المهمة. تثبت الورقة أنه بالنسبة للعديد من المهام، فإن تصميم ورشة العمل هو المفتاح المفقود لإطلاق الإمكانات الكاملة للأدوات التي نمتلكها بالفعل.