التعاون العظيم للذكاء الاصطناعي: لماذا لا يكفي مجرد "الدردشة"

تخيل أنك تحاول بناء قلعة ضخمة ومعقدة من قطع "ليجو". لديك صندوق يحتوي على آلاف القطع وفريق من الروبوتات الذكية والثرثارة للغاية. إذا أخبرت الروبوتات فقط: "أنت الملك، وأنت المهندس المعماري، وأنت البناء"، وتركتهم يدردشون مع بعضهم البعض، فقد يخوضون محادثة لطيفة. ولكن هل سيبنون القلعة فعلاً دون أن يسقطوا برجاً بالخطأ، أو ينسوا أين توجد الطوب الزرقاء، أو يتجادلوا حول من يحق له الإمساك بالمطرقة؟ هذا هو الوضع الحالي لـ "الأنظمة متعددة الوكلاء" (Multi-Agent Systems) في الذاء الاصطناعي. يحاول العلماء جعل مجموعات من نماذج الذكاء الاصطناعي تعمل معاً مثل شركة حقيقية، لكنهم حتى الآن غالباً ما يتصرفون كأنهم مجموعة من الأصدقاء في سلسلة رسائل نصية طويلة ومربكة قليلاً.

المشكلة الكبيرة هي أنه بينما هؤلاء "الموظفون" من الذكاء الاصطناعي أذكياء، إلا أنهم لا يملكون مديراً حقيقياً، أو خزانة ملفات حقيقية، أو كتاب قواعد حقيقي. إنهم يميلون إلى النسيان، ويصابون بالارتباك بشأن من يُسمح له بفعل ماذا، وإذا ارتكد أحدهم خطأً، فقد ينهار الفريق بأكتها. تسأل هذه الورقة سؤالاً بسيطاً ولكنه شائك: كيف نمنع فرق الذكاء الاصطناعي من كونها مجرد مجموعة من الشخصيات الثرثارة ونبدأ في تحويلها إلى منظمة حقيقية وموثوقة يمكنها إنجاز العمل فعلياً دون أن تنهار؟ الإجابة ليست في منحهم شخصيات أفضل؛ بل في منحهم هيكلاً أفضل.

المخطط: فريق مرن على أساس صلب

تقترح هذه الورقة طريقة جديدة لتصميم منظمات الذكاء الاصطناعي تسمى "هيكل مرن، سجل صلب" (Fluid Structure, Rigid Record). فكر في الأمر كأنه موقع بناء عالي التقنية. يمكن للعمال (وكلاء الذكاء الاصطناعي) التغيير، والتبادل، والتحرك بسرعة حسب ما يجب القيام به اليوم. هذا هو الجزء "المرن". لكن الأرض التي يقفون عليها، وقواعد السلامة التي يجب عليهم اتباعها، وسجل السجلات الدائم حيث يُكتب كل تحرك يقومون به، لا تتغير أبداً. هذا هو الجزء "الصلب".

يجادل المؤلف، لوسيان جو (Lucian Zhu)، بأن معظم أنظمة الذكاء الاصطناعي الحالية تشبه مسرحية يرتجل فيها الممثلون فقط. قد يقولون "أنا المدير التنفيذي"، لكنهم لا يملكون في الواقع القدرة على طرد أي شخص أو تغيير السيناريو. يقترح هذا الإطار الجديد أن نتوقف عن محاولة جعل الذكاء الاصطناعي يتصرف كالبشر الذين لديهم مسميات وظيفية، ونبدأ في معاملتهم كأدوات متخصصة تحتاج إلى قواعد صارمة للعمل معاً.

الطبقات الأربع للآلة

تخيل المنظمة كمبنى مكون من أربعة طوابق، لكل منها وظيفة محددة للغاية:

1. القبو (الطبقة المستمرة - The Persistent Layer): هذا هو التخزين العميق والهادئ. وهو يحتوي على شيئين: مجمع من القوالب المتخصصة (مثل مكتبة من ملفات تعريف العمال المعدة مسبقاً، مثل "محاسب خبير" أو "مصحح أكواد") ونظام سجل صلب. نظام السجل هذا هو "الحقيقة". إنه سجل دائم وغير قابل للتغيير يتتبع كل قرار، وكل ملف تم إنشاؤه، وكل قاعدة تم كسرها. لا يتم حذف أي شيء هنا؛ بل يتم أرشفته فقط.
2. البهو (طبقة التنسيق - The Coordination Layer): هذا هو مكتب الأمن. قبل أن يتمكن أي عامل من الصعود إلى أرض العمل، يجب أن يحصل على "عقد إيجار" (Lease). هذا العقد هو بطاقة هوية مؤقتة تحدد بالضبط ما يُسمح له برؤيته (الإذن/Permission) وما يُسمح له بتغييره (الامتياز/Privilege). إذا كنت "بناءً"، فإن هويتك تسمح لك بالتقاط الطوب ولكن ليس بطرد "المهندس المعماري". إذا انتهى وقتك، يتم إلغاء هويتك، ولا يمكنك فعل أي شيء بعد ذلك.
3. أرض العمل (طبقة التشغيل - The Runtime Layer): هذا هو المكان الذي يحدث فيه العمل الفعلي. عندما تأتي مهمة ما، يقوم النظام بسرعة بتجميع فريق مؤقت من قوالب القبو. يحصلون على بطاقات هويتهم، ويأخذون الأدوات المحددة التي يحتاجونها، ويبدأون في البناء. بمجرد انتهاء المهمة، يتفكك الفريق، وتُعاد الأدوات إلى مكانها، وتُمزق بطاقات الهوية. العمال لا يبقون؛ فقط المنتج النهائي وسجل لما حدث هما ما يتبقى.
4. غرفة التحكم (الطبقة البشرية - The Human Layer): هنا يجلس المدير البشري. لديه لوحة تحكم خاصة (Control Plane) لبدء المشاريع، والتحقق من السجلات، والضغط على زر "إيقاف" الأحمر الكبير إذا ساءت الأمور. لديه أيضاً وكيل "مترجم" يساعد في تحويل الأفكار البشرية إلى تعليمات واضحة للآلات، لكن هذا المترجم لا يملك القدرة على اتخاذ قرارات كبيرة بمفرده.

الأنواع الثلاثة من العمال

تقدم الورقة لمسة ذكية: بدلاً من إعطاء الجميع مسمى وظيفي مثل "مدير"، فإنها تفصل العمال إلى ثلاث مجموعات متميزة بناءً على قوتهم، مثل لعبة "حجر ورقة مقص" حيث يمتلك كل منهم قوة مختلفة:

• المشغلون (المنفذون - The Operators): هؤلاء هم العمال الذين يبنون أو يكتبون أو يحسبون فعلياً. لديهم إذن منخفض (يمكنهم فقط رؤية الملفات المحددة التي يحتاجونها لمهمتهم) وامتياز منخفض (لا يمكنهم تغيير القواعد أو طرد أي شخص). إنهم مثل عمال البناء الذين يمكنهم وضع الطوب ولكن لا يمكنهم إعادة تصميم المبنى.
• المراجعون (المقررون - The Reviewers): هؤلاء الوكلاء لديهم امتياز عالٍ ولكن إذن منخفض. يمكنهم الموافقة على العمل أو رفضه، أو تغيير القواعد، أو ترقية مشروع مكتمل إلى السجل الدائم. ومع ذلك، لا يمكنهم مجرد النظر في كل شيء متى أرادوا؛ فهم يحصلون فقط على رؤية الملفات المحددة المتعلقة بالقرار الذي يتخذونه. إنهم مثل القضاة الذين يمكنهم الحكم على مجرم ولكن لا يمكنهم التجول داخل السجن للتحدث مع النزلاء.
• المشرفون (المراقبون - The Supervisors): هؤلاء الوكلاء لديهم إذن عالٍ (يمكنهم رؤية كل شيء تقريباً لرصد الأخطاء) ولكن امتياز منخفض (لا يمكنهم تغيير أي شيء). إنهم مثل مفتشي السلامة الذين يمكنهم التجول في المصنع بأكمله، والتحقق من السجلات، والصراخ بكلمة "توقف!" إذا رأوا شيئاً خطيراً، لكن لا يمكنهم طرد أي شخص أو تغيير المخططات. هم موجودون لرصد الأخطاء، وليس لإصلاحها مباشرة.

لماذا هذا مهم: فكرة "عقد الإيجار" (The Lease)

الفكرة الأكثر أهمية في هذه الورقة هي مفهوم "عقد الإيجار" (Lease). في العديد من أنظمة الذكاء الاصطناعي الحالية، بمجرد إعطاء وكيل أداة ما، فإنه يحتفظ بتلك الأداة للأبد، أو حتى يتذكر شخص ما سحبها منه. تقترح هذه الورقة أن كل وكيل يجب أن يمتلك "عقداً" فقط على قوته. لهذا العقد تاريخ انتهاء وصلاحية محددة. إذا انتهت المهمة، أو إذا استغرق الوكيل وقتاً طويلاً، أو إذا حاول القيام بشيء غير مسموح له به، ينتهي العقد، وتُلغى سلطته فوراً. هذا يجعل النظام أكثر أماناً لأن الوكيل "المارق" لا يمكنه التسبب في ضرر لفترة طويلة؛ إذ يتم إغلاق الوصول أمامه ببساطة.

ما تفعله الورقة (وما لا تفعله)

لقد بنى المؤلف نموذجاً أولياً لهذا النظام ومارسه في اختبارات عينات صغيرة. وتوضح هذه الاختبارات أن التصميم يمكن تنفيذه وكان مفيداً في تحسين الآليات. ومع ذلك، تنص الورقة صراحة على أن هذه الاختبارات ليست تقييماً تجريبياً واسع النطاق وقوياً، وهي لا تبرر ادعاءً عاماً بأن هذا النظام أكثر موثوقية، أو أفضل في رصد الأخطاء، أو متفوق على الطرق الأخرى. النموذج الأولي يثبت أن الإطار ممكن البناء، وليس أنه الحل الأفضل لكل موقف.

الورقة هي مخطط ومجموعة من القواعد، وليست منتجاً نهائياً. إنها تقترح أنه إذا أردنا أن تكون منظمات الذكاء الاصطنا_ي آمنة وفعالة، فعلينا التوقف عن مطالبتهم بـ "التصرف بحكمة" والبدء في بناء نظام حيث لا يمكنهم التصرف بسوء، حتى لو أرادوا ذلك. الهيكل نفسه هو من يقوم بالعمل الشاق للحفاظ على كل شيء آمناً، منظماً، وخاضعاً للمساءلة.

باختصار، تجادل الورقة بأنه لجعل فرق الذكاء الاصطناعي تعمل، نحتاج إلى التوقف عن مطالبتهم بـ "السلوك الجيد" والبدء في بناء نظام حيث لا يستطيعون سوء التصرف، حتى لو أرادوا ذلك. الهيكل نفسه هو من يقوم بالجهد الأكبر في الحفاظ على كل شيء آمناً، منظماً، وخاضعاً للمساءلة.