تخيل أنك توظف مساعداً آلياً (روبوتاً) ذكياً جداً وسريعاً جداً لمساعدتك في إدارة مكتبك. هذا الروبوت يمكنه قراءة المستندات، وكتابة رسائل البريد الإلكتروني، وحتى تحديث السجلات الرسمية. ولكن نظرًا لقوته الكبيرة، لديك قلقان كبيران:

1. ما مقدار ما يمكنه فعله بمفرده؟ (إذا ارتكب خطأً، هل يمكنك إيقافه؟)
2. ما حجم القوة التي يمتلكها فعلياً؟ (هل يمكنه مجرد قراءة ملف، أم يمكنه حذف قاعدة البيانات بأكملها؟)

تجادل الورقة البحثية التي أعدها "سافين وبالتا" بأننا لا نستطيع التفكير في هذين القلقين بشكل منفصل؛ فهما مرتبطان ببعضهما البعض مثل الأرجوحة (السيسو). إذا تركت الروبوت يعمل بمفرده تماماً (استقلالية عالية)، فيجب أن تكون حذراً للغاية بشأن الأدوات التي يُسمح له بلمسها (وكالة منخفضة). وإذا منحته الوصول إلى أدوات خطيرة (وكالة عالية)، فأنت بحاجة إلى إبقاء يد بشرية على المقود (استقلالية منخفضة).

إليك التقسيم البسيط لحلهما، باستخدام تشبيهات من الحياة اليومية.

1. الرافعتان: "الحرية" مقابل "القوة"

أنشأ المؤلفان خريطة بمحورين لمساعدة المصممين في تحديد موقع الروبوت الخاص بهم.

• رافعة "الحرية" (الاستقلالية - Autonomy): تقيس مدى مشاركة المدير البشري.
  • المستوى 1: يعطي الإنسان أمراً، ويقوم الروبوت بشيء واحد صغير جداً.
  • المستوى 5: يدير الروبوت العرض بأكمله، بينما يكتفي الإنسان بالمراقبة من الهامش.
• رافعة "القوة" (الوكالة - Agency): تقيس ما يُسمح للروبوت فعلياً بلمسه أو تغييره.
  • المستوى 1: يمكن للروبوت فقط التفكير وصياغة النصوص بناءً على ما تقدمه له.
  • المستوى 5: يمكن للروبوت حذف الملفات بشكل دائم، أو إرسال مدفوعات رسمية، أو تغيير سجلات قانونية.

القاعدة الكبرى: لا يمكنك امتلاك روبوت حر بنسبة 100% وقوي بنسبة 100% في آن واحد. إذا تركته ينطلق دون قيود، فيجب أن يكون مقيداً بمهام آمنة. وإذا أعطيته مفاتيح المملكة، فأنت بحاجة إلى إنسان يوافق على كل حركة.

2. "الأدوات الست للأمان" (التكتيكات المعمارية)

كيف تبني روبوتاً مفيداً ولكن آمناً؟ تقترح الورقة ستة "أدوات" أو حيل محددة يمكنك استخدامها لضبط إعدادات الروبوت.

للتحكم في الحرية (تكتيكات الاستقلالية):

• "الضوء الأحمر" (نقاط التفتيش - Checkpoints): تخيل علامة توقف على طريق سريع. بغض النظر عن سرعة قيادة الروبوت، يجب عليه التوقف عند هذه النقطة المحددة لانتظار إنسان يقول له "انطلق". يُستخدم هذا عندما تكون المهمة خطيرة دائماً، بغض النظر عن مدى جودة أداء الروبوت.
• "زر الذعر" (التصعيد - Escalation): هذا يشبه المكابح الطارئة التلقائية في السيارة. يقود الروبوت بمفرده، ولكن إذا ارتبك أو رأى شيئاً لا يفهمه، فإنه يضغط على زر الذعر ويقول: "أنا عالق، أيها الإنسان، تفضل أنت بالسيطرة". يُستخدم هذا عندما يكون الروبوت بخير عادةً ولكنه قد يقع في المشاكل أحياناً.
• "الفريق المتخصص" (تفويض الوكلاء المتعددين - Multi-Agent Delegation): بدلاً من روبوت واحد يقوم بكل شيء، يكون لديك روبوت "مدير" يقوم بتقسيم مهمة كبيرة إلى قطع صغيرة ويسلمها إلى روبوتات أخرى متخصصة. إذا أخطأ روبوت صغير واحد، فمن الأسهل إصلاح الأمر مما لو أخطأ الروبوت الرئيسي في المشروع بأكمله.

للتحكم في القوة (تكتيكات الوكالة):

• "صندوق الأدوات" (توفير الأدوات - Tool Provisioning): هذا ببساطة هو قرار تحديد الأدوات التي تسلمها للروبوت. إذا كان الروبوت يحتاج فقط لقراءة رسائل البريد الإلكتروني، فلا تعطه المطرقة. إذا كان يحتاج لكتابة الرسائل، فأعطه القلم.
• "السياج" (تسييج الأدوات - Tool Fencing): تخيل أنك أعطيت الروبوت مطرقة، ولكنك وضعتها في قفص حيث لا يمكنه إلا ضرب مسمار محدد. الروبوت لديه الأداة، لكنه محاط بسياج بحيث لا يمكنه تحطيم الشيء الخطأ. لا يزال بإمكانه استخدام الأداة، ولكن ضمن حدود صارمة.
• "وضع المسودة" (مرحلة الكتابة - Write Staging): هذا يشبه كتابة رسالة في وضع "المسودة" قبل الضغط على "إرسال". يكتب الروبوت المستند النهائي، لكنه يبقى في غرفة انتظار. يجب على الإنسان النقر على "موافقة" ليصبح الأمر رسمياً. إذا ارتكب الروبوت خطأً، يمكنك ببساطة حذف المسودة. لم يحدث شيء دائم بعد.

3. أمثلة من الواقع

اختبرت الورقة هذه الأفكار في سيناريوهين مختلفين:

• السيناريو (أ): فرز البريد (تصنيف المستندات)

  • الهدف: فرز آلاف رسائل البريد الإلكتروني والملفات تلقائياً.
  • الإعداد: أعطوا الروبوت القدرة على إرسال رسائل البريد الإلكتروني (قوة عالية)، لكنهم وضعوا "سياجاً" حوله بحيث يمكنه الإرسال لأشخاص محددين فقط. كما استخدموا "زر الذعر" (التصعيد): إذا لم يكن الروبوت متأكداً من الشخص الذي يجب إرسال البريد إليه، فإنه يتوقف ويسأل بشراً.
  • النتيجة: استطاع الروبوت العمل بمفرده في الغالب، لكنه كان آمناً.

• السيناريو (ب): مطابقة الأشخاص مع المنح (مطابقة برامج التمويل)

  • الهدف: مساعدة الناس في العثين على الأموال الحكومية التي يستحقونها.
  • الإعداد: كان على الروبوت كتابة قواعد للتحقق من الأهلية. هذا أمر خطير لأن القواعد السيئة قد تضر الناس. لذا، استخدموا "الضوء الأحمر" (نقطة تفتيش): قبل أن يعرض الروبوت النتائج للمستخدم، يجب على إنسان مراجعة الملف الشخصي أولاً. كما استخدموا "سياجاً" للتأكد من أن الروبوت لا يمكنه بالخطأ تغيير قاعدة البيانات الحكومية الرئيسية.
  • النتيجة: ساعد الروبوت الناس في العثين على المنح، لكن الإنسان ظل هو المتحكم في القرار النهائي.

4. "السقف" (معايير النشر)

أخيراً، تشير الورقة إلى أنه حتى لو كان لديك أدوات الأمان المثالية، فهناك أشياء أخرى تحد من جودة عمل الروبوت الخاص بك. فكر في هذه الأشياء كـ "سقف" لمشروعك:

• عقل الروبوت (قدرة النموذج - Model Capability): إذا لم يكن الروبوت ذكياً بما يكفي، فسوف يرتكب أخطاءً بغض النظر عن عدد السياجات التي تبنيها.
• ذاكرة الروبوت (بنية الوكيل - Agent Architecture): إذا نسي الروبوت ما فعله قبل خمس دقائق، فلن يتمكن من التعامل مع المهام الطويلة.
• جودة الأدوات (دقة الأداة - Tool Fidelity): إذا كانت "خريطة" الروبوت (قاعدة البيانات) قديمة أو خاطئة، فسوف يضيع الروبوت.
• عنق الزجاجة (The Bottleneck): إذا كان الروبوت سريعاً، ولكن يتعين على الإنسان مراجعة كل ملف يدوياً بعد ذلك، فإن الروبوت في الواقع لا يسرع الأمور.
• الاختبار (التقييم - Evaluation): تحتاج إلى طريقة لقياس ما إذا كان الروبوت يقوم بعمل جيد حقاً. إذا لم تقم بالقياس، فلن تعرف ما إذا كان آمناً أم لا.

الخلاصة

هذه الورقة هي دليل إرشادي لبناء ذكاء اصطناعي يعمل في بيئات صارمة ومنظمة (مثل الحكومة أو القانون). تقول الورقة: لا تعتمد على التخمين. استخدم هذه الخريطة لتحديد مقدار الحرية التي يحصل عليها الذكاء الاصطناعي وحجم القوة التي يمتلكها. ثم استخدم أدوات الأمان الست لموازنة الاثنين. بهذه الطريقة، تحصل على سرعة الذكاء الاصطناعي دون خطر التسبب في كارثة.