فوضى الذكاء الاصطناي العظمى والحاجة إلى شرطي مرور

تخيل أنك تقوم ببناء روبوت لا يكتفي فقط باتباع مجموعة واحدة من التعليمات، بل يمكنه التفكير، والتخطيط، والخروج إلى العالم لإنجاز المهام. هذا هو الأفق الجديد والمثير لـ الذكاء الاصطناعي الوكيل (Agentic AI). وخلافًا لبرامج الدردشة الآلية (Chatbots) في الماضي التي كانت تنتظر فقط أن تكتب سؤالاً لتعطيك إجابة، فإن هؤلاء "الوكلاء" الجدد يشبهون الموظفين الرقميين الصغار؛ إذ يمكنهم البحث عن المعلومات، واستخدام الأدوات، والتحدث مع روبوتات أخرى، وحتى اتخاذ قرارات من تلقاء أنفسهم لحل المشكلات المعقدة.

لكن الجزء الصعب هنا هو: عندما يكون لديك روبوت واحد، فمن السهل مراقبته. أما عندما يكون لديك فريق كامل منهم، يتحدثون جميعًا مع بعضهم البعض، ويستعيرون الأدوات، ويتخذون القرارات في الوقت الفعلي، فقد تصبح الأمور فوضوية بسرعة. من هو المسؤول؟ إذا طلب الروبوت (أ) من الروبوت (ب) القيام بشيء ما، فهل يملك الروبوت (ب) الحق في القيام به؟ ماذا لو أخطأ الروبوت (ب)؟ في عالم علوم الحاسوب، نعتمد عادةً على نظام التشغيل (مثل ويندوز أو لينكس) لإدارة الأساسيات: من يحق له استخدام الذاكرة، ومن يمكنه فتح ملف، وكيفية الحفاظ على سير العمل بسلاسة. لكن أنظمة التشغيل التقليدية تشبه حراس النوادي الليليين؛ فهم يتحققون من الهويات ويعدون الرؤوس، لكنهم لا يفهمون لماذا أنت هناك أو ما إذا كانت خطتك منطقية. هم لا يعرفون الفرق بين روبوت يحاول كتابة قصيدة وروبوت يحاول حذف حساب بنكي.

هذا هو السبب في حاجتنا إلى شيء جديد. نحن بحاجة إلى نظام يفهم معنى العمل، وليس مجرد الرياضيات. نحن بحاجة إلى طريقة تضمن أنه حتى عندما يقوم الروبوتات بتخمينات احتمالية (ما يعني أنهم ليسوا متأكدين بنسبة 100% من الإجابة)، يظل الفريق بأكمله آمنًا، ويتبع القواعد، ويمكنه شرح ما فعله لاحقًا. هذه هي المشكلة التي تحاول ورقة البحث "AOS-0001" حلها.

---

نظام تشغيل الوكيل: مخطط لمدينة رقمية

تقترح الورقة التي تقرأها مخططًا جديدًا يسمى نظام تشغيل الوكيل (Agent Operating System - AOS). فكر في الأمر ليس كبرنامج محدد يمكنك تحميله اليوم، بل كمجموعة من القواعد المعمارية — "دستور" — لكيفية بناء مدينة آمنة ومنظمة لوكلاء الذكاء الاصطناعي. يقترح المؤلفان، أنكور شارما وديب شاه، أن عالم وكلاء الذكاء الاصطناعي حاليًا يشبه مدينة "الغرب المتوحش" حيث يبني الجميع أسوارهم وقواعدهم الخاصة، مما يؤدي إلى الارتباك والخطر المحتمل. إنهما يريدان رسم خريطة يمكن للجميع الاتفاق عليها.

مدينة المستويين: مكتب العمدة وفريق الإنشاءات

الفكرة الجورية لهذه الورقة هي تقسيم إدارة وكلاء الذكاء الاصطناعي إلى مستويين (Planes) متميزين، يعملان معًا ولكن بمهام مختلفة تمامًا. يستخدم المؤلفان تشبيهًا مفيدًا للمدينة:

1. مستوى التحكم والحوكمة (مكتب العمدة): هذا هو عقل العملية. مهمته هي الإجابة على الأسئلة الكبيرة: ما الذي نحاول القيام به؟ من منحنا الإذن للقيام بذلك؟ ما هي القواعد التي يجب أن نتبعها؟ ما مدى تأكدنا من أن هذه فكرة جيدة؟

   • تخيل عمدة ينظر إلى طلب لـ "إصلاح الحديقة". العمدة لا يحمل مجرفة. بدلاً من ذلك، يتحقق العمدة من الميزانية، ويتأكد من أن الشخص الذي طلب الإصلاح لديه السلطة للأمر بالإصلاحات، ويتحقق مما إذا كانت الحديقة تقع في منطقة معرضة للفيضانات، ويقرر ما إذا كانت الخطة آمنة.
   • في عالم الذكاء الاصطناي، يتعامل هذا المستوى مع القصد (الهدف)، والسلطة (من يُسمح له بفعل ماذا)، والسياسة (القواعد)، والثقة (مدى تأكدنا). وهو من يتخذ قرار "الانطلاق" أو "التوقف".

2. مستوى التشغيل والتنسيق (فريق الإنشاءات): هذه هي العضلات. بمجرد أن يقول العمدة "انطلق"، يتولى هذا المستوى العمل الفعلي. فهو يجد الأدوات المناسبة، ويوظف العمال المناسبين (والذين قد يكونون نماذج ذكاء اصطناعي أخرى، أو عمال بشر، أو أدوات برمجية)، ويتأكد من إنجاز العمل.

   • إذا قال العمدة "أصلح الحديقة"، فإن فريق الإنشاءات يجد أفضل مجرفة، وأفضل عامل، وأفضل وقت للقيام بالعمل. هم يتولون الخدمات اللوجستية، وحركة المرور، والجدولة.
   • في عالم الذكاء الاصطناعي، يدير هذا المستوى دورة حياة الوكيل (التأكد من بدء الوكلاء وتوقفهم بشكل صحيح)، والتوجيه (إرسال المهام إلى المكان الصحيح)، والجدولة (منع تراكم المهام).

تجادل الورقة بأننا لفترة طويلة كنا نخلط بين هذين الدورين. لقد كنا ندع فريق الإنشاءات (الكود الذي يشغل الذكاء الاصطناعي) يقرر ما إذا كان من الآمن القيام بشيء ما، وهو أمر يشبه ترك عامل البناء يقرر ما إذا كان لديه تصريح بناء. يقترح المؤلفان أن فصل هذه الأدوار أمر بالغ الأهمية للسلامة والتحكم.

خدعة "القدرة" (Capability) السحرية

أحد الأفكار المرحة والمهمة في الورقة هو مفهوم القدرة (Capability). عادةً، عندما نتحدث مع ذكاء اصطناعي، قد نقول: "استخدم كود بايثون الموجود على الخادم لحساب هذا". لكن الورقة تقترح أن نتوقف عن التفكير في كيفية القيام بالأمر ونبدأ في التفكير في ما يتم فعله.

تخيل أنك تطلب بيتزا. أنت لا تخبر المطعم: "اذهب إلى الفرن، خذ قطعة ببروني، ضعها على العجين، واخبزها عند درجة حرارة 400". أنت فقط تقول: "أريد بيتزا ببروني". المطعم (نظام الذكاء الاصطناعي) يكتشف أي طباخ متاح، وأي فرن ساخن، وأين العجين.

في نظام AOS، تسمى "بيتزا الببروني" هذه قدرة (Capability). إنها تسمية ثابتة لنتيجة ما، مثل "تلخيص هذا المستند" أو "التحقق من حالة الطقس". يمكن للنظام بعد ذلك استبدال "الطباخ" (نموذج الذكاء الاصطناعي المحدد أو الأداة) دون أن تعرف أنت ذلك أبدًا. إذا مرض أحد الطهاة، يقوم النظام ببساطة بإرسال الطلب إلى طباخ آخر يمكنه صنع نفس البيتزا. هذا يجعل النظام بأكمله مرنًا وموثوقًا.

سلسلة "التفويض" (Delegation) والتراتبية القيادية

تتناول الورقة أيضًا مشكلة شائكة: التفويض. ماذا يحدث عندما يطلب وكيل ذكاء اصطناعي رئيسي من وكيل أصغر القيام بمهمة؟ هل يمتلك الوكيل الأصغر فجأة القدرة على فعل أي شيء؟

يقول المؤلفون: "مستحيل". إنهم يقترحون قاعدة صارمة تسمى الحفاظ على السلطة (Authority Preservation). فكر في الأمر مثل والد يعطي طفله مبلغًا صغيرًا لشراء الغداء. يمكن للطفل شراء الغداء، لكن لا يمكنه شراء سيارة. إذا حاول الطفل شراء سيارة، يجب أن يوقفه النظام.

في مخطط AOS، في كل مرة يقوم فيها وكيل بتفويض مهمة، فإنه يمرر "إذنًا" مقيدًا بصرامة. يمكن للوكيل "الطفل" القيام فقط بما سمح به "الوالد"، وللمدة التي سمح بها الوالد فقط، وبالمال الذي أعطاه إياه الوالد. إذا حاول الطفل تجاوز الحدود، سيقوم النظام بإيقافه. هذا يمنع الخطأ الصغير من التحول إلى كارثة كبرى حيث قد يقوم وكيل ذكاء اصطناعي بحذف قاعدة بيانات بالخطأ لأنه مُنح سلطة أكبر مما ينبغي.

لوحة تحكم "الثقة" (Confidence)

ميزة رئيسية أخرى هي كيفية تعامل النظام مع الثقة. في الماضي، كانت نماذج الذكاء الاصطناعي تعطي إجابة فقط، وربما مع رقم صغير يوضح مدى تأكدها. لكن الورقة تقترح أن "الثقة" يجب أن تكون إشارة تحكم حقيقية، مثل إشارة المرور.

إذا كان النظام متأكدًا بنسبة 99%، فالضوء أخضر: "انطلق!".
إذا كان النظام متأكدًا بنسبة 80% ولكن المهمة محفوفة بالمخاطر (مثل نقل الأموال)، فقد يكون الضوء أصفر: "انتظر، دعنا نطلب من إنسان التحقق".
إذا كان النظام متأكدًا بنسبة 50%، فالضوء أحمر: "توقف! نحن لا نعرف ما الذي يحدث".

تقترح الورقة أن النظام يجب أن يحتوي على "لوحة تحكم للثقة" تنظر في أشياء كثيرة: هل البيانات حديثة؟ هل الأداة موثوقة؟ هل الخطة واضحة؟ وبناءً على كل هذه القرائن، يقرر النظام ما إذا كان سيمضي قدمًا، أو يعيد المحاولة، أو يستدعي إنسانًا للمساعدة.

ما هي هذه الورقة (وما ليست عليه)

من المهم فهم ما تفعله هذه الورقة بالفعل. المؤلفون لا يقولون إنهم بنوا نظام تشغيل الذكاء الاصطناعي المثالي بعد. هم لا يدعون أن نظامهم أسرع أو أذكى من كل ما هو موجود حاليًا.

بدلاً من ذلك، هم يقترحون بنية مرجعية (Reference Architecture). فكر في الأمر كمهندس معماري يرسم مخططات لنوع جديد من المنازل. هم لا يبنون المنزل؛ بل يرسمون الخطط بحيث يمكن لشركات بناء مختلفة أن تبني منازل لها جميعًا نفس الأساس الآمن والمتين.

تستبعد الورقة صراحة عدة أمور:

• هي ليست منتجًا محددًا يمكنك شراؤه.
• هي ليست بديلًا لأنظمة تشغيل لينكس أو ويندوز التي تعمل على حاسوبك.
• هي ليست لغة برمجة واحدة أو نموذج ذكاء اصطناعي محدد.
• هي لا تدعي حل كل المشكلات الممكنة للذكاء الاصطناعي في الوقت الحالي.

المؤلفون واضحون جدًا في أن هذا مقترح وأساس. إنهم يقترحون طريقة لتنظيم الفوضى حتى نتمكن في المستقبل من امتلاك أنظمة ذكاء اصطناعي موثوقة، وقابلة للتفسير، وآمنة. وهم يعترفون بأن هناك لا تزال العديد من الأسئلة التي تحتاج إلى إجابات، مثل كيفية التعامل مع القواعد المختلفة في بلدان مختلفة أو كيفية التأكد من أن أرقام "الثقة" دقيقة بالفعل.

الصورة الكبيرة

إذًا، لماذا يهم هذا مراهق فضولي؟ لأن مستقبل الذكاء الاصطناعي لا يتعلق فقط ببرامج دردشة أكثر ذكاءً؛ بل يتعلق بذكاء اصطناعي يمكنه فعل الأشياء في العالم الحقيقي. يتعلق الأمر بذكاء اصطناعي يمكنه إدارة منزلك الذكي، أو مساعدة الأطباء في تشخيص الأمراض، أو إدارة عمليات تجارية معقدة.

إذا لم يكن لدينا نظام جيد لإدارة هؤلاء الوكلاء، فإننا نخاطر بوجود عالم رقمي حيث الروبوتات قوية ولكنها غير متوقعة. يشير مخطط AOS إلى أنه من خلال فصل "التفكير في القواعد" عن "القيام بالعمل"، ومن خلال كوننا صارمين للغاية بشأن من يملك الإذن لفعل ماذا، يمكننا بناء مستقبل يكون فيه وكلاء الذكاء الاصطناعي شركاء مفيدين بدلاً من أن يكونوا عناصر فوضوية غير متوقعة.

تنتهي الورقة بالقول إن هذه مجرد البداية. لقد رسموا الخريطة، لكن الرحلة لبناء النظام الفعلي قد بدأت للتو. إنهم يدعون الباحثين والمطورين الآخرين لاستخدام هذه الأفكار، واختبارها، والمساعدة في بناء مستقبل لذكاء اصطناعي آمن ومحكوم. إنها دعوة للعمل للجيل القادم من البنائين لضمان أن العالم الرقمي الذي نخلقه هو عالم يمكننا جميعًا الوثوق به.