DoubleAgents: Human-Agent Alignment in a Socially Embedded Workflow
إن DoubleAgents هو نظام يعمل على مواءمة الذكاء الاصطناعي الوكيل مع قصد المستخدم في سير العمل المدمج اجتماعياً من خلال دمج وكيل تنسيق، ولوحة تحكم واضحة، ووحدة سياسات لتحويل تعديلات المستخدم إلى قطع أثرية قابلة لإعادة الاستخدام، مما يؤدي إلى زيادة راحة المستخدم واعتماده مع الحفاظ على التحكم البشني الضروري في الحالات الاستثنائية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك منظم لسلسلة ندوات جامعية. مهمتك هي دعوة أربعة أساتذة مشهورين للتحدث في أربعة تواريخ مختلفة. يبدو الأمر بسيطاً، أليس كذلك؟ في الواقع، هو كابوس من رسائل البريد الإلكتروني، وفروق التوقيت، وتضارب الشخصيات، وردود "ربما يمكنني الحضور" التي لا تتحول أبداً إلى "نعم".
إذا حاولت القيام بذلك بمفردك، فستقضي أسابيع في ملاحقة الناس. وإذا أخبرت ذكاءً اصطناعياً عادياً بأن "يفعل ذلك"، فقد يرسل بريداً إلكترونياً فظاً إلى أستاذ مشغول أو ينسى المتابعة، مما يدمر سمعتك.
إليك DoubleAgents. فكر فيه ليس كروبوت يستولي على وظيفتك، بل كـ مساعد طيار ذكي للغاية يتعلم أسلوبك الخاص في الطيران حتى تتمكن في النهاية من تركه يتولى مهمة الطيار الآلي.
إليك كيف يعمل، مقسماً إلى مفاهيم بسيطة:
1. المشكلة: "الصندوق الأسود" للذكاء الاصطناعي
عادةً عندما تطلب من الذكاء الاصطناعي القيام بشيء ما، يكون الأمر أشبه بصندوق سحري. تضع طلباً في طرف، ويخرج بريد إلكتروني من الطرف الآخر. لكنك لا تعرف لماذا كتب هذا البريد، أو ما إذا كان مندفعاً أكثر من اللازم. إذا ارتكب الذكاء الاصطناعي خطأً، فعليك إصلاحه، لكنك لا تعرف كيف تخبره "لا تفعل ذلك في المرة القادمة" دون البدء من الصفر.
يغير DoubleAgents هذا من خلال معاملة محاذاة الذكاء الاصطناعي مثل تعلم ركوب الدراجة مع عجلات التدريب. أنت لا تقفز فحسب وتأمل في الأفضل؛ بل تتدرب، وتترنح، وتصحح مسار الذكاء الاصطناعي، وفي النهاية تثق به ليركب بمفرده.
2. الأدوات السحرية الثلاث (ثلاثي "الإدراك الموزع")
يستخدم البحث مصطلحاً معقداً وهو "الإدراك الموزع"، والذي يعني ببساطة تقاسم العبء الذهني بينك وبين الآلة. يقوم DoubleAgents بذلك باستخدام ثلاث أدوات محددة:
أ. "الذاكرة والدماغ" (وكيل التنسيق)
تخيل أن لديك مساعداً منظماً جداً لا ينسى أي شيء أبداً.
- ماذا يفعل: يتتبع من راسلتهم، ومن رد عليك، ومن ينتظر الرد، وما هو التاريخ الحالي.
- التشبيه: إنه يشبه مسجل الرحلات لندوتك. يعرف بالضبط أين توجد الطائرة، وكم تبقى من الوقود، وما هي الخطوة التالية، حتى لا تضطر لحمل كل تلك المعلومات في رأسك.
ب. "لوحة التحكم الزجاجية" (التصور المرئي)
عادةً ما يحدث تفكير الذكاء الاصطناعي في الظلام. يضع DoubleAgents لوحة تحكم زجاجية أمامك.
- ماذا يفعل: يعرض لك تقويماً، وقائمة بمن ردوا، وسجلاً لكل بريد إلكتروني تم إرساله. والأهم من ذلك، أنه يشرح لك لماذا يريد الذكاء الاصطناعي إرسال بريد إلكتروني تالٍ.
- التشبيه: فكر في قمرة القيادة. الطيار (أنت) لا يحتاج لرؤية الكود الخام للمحرك؛ بل يحتاج لرؤية الارتفاع، والسرعة، ومقاييس الوقود. هذه اللوحة تسمح لك برؤية "عملية التفكير" الخاصة بالذكاء الاصطناعي بلمحة واحدة لتتمكن من قول: "نعم، هذا يبدو صحيحاً"، أو "مهلاً، هذا مندفع جداً".
ج. "كتاب القواعد" (وحدة السياسة)
هذا هو الجزء الأهم. بدلاً من مجرد إصلاح خطأ لمرة واحدة، أنت تعلم الذكاء الاصطناعي قاعدة حتى لا يرتكب هذا الخطأ مرة أخرى.
- ماذا يفعل: إذا أرسل الذكاء الاصطناعي بريداً إلكترونياً رسمياً أكثر من اللازم، تقوم بتعديله. عندها يكتب النظام قاعدة: "عند مراسلة صديق، استخدم نبرة غير رسمية". إذا طلب أستاذ مكالمة عبر "زووم" ولم يعرف الذكاء الاصطناعي ماذا يفعل، فإنه يتوقف ويسألك. تقول له: "الزووم جيد"، فيقوم النظام بإضافة قاعدة: "اسمح بالزووم إذا طُلب ذلك".
- التشبيه: فكر في الأمر مثل تدريب كلب. إذا قفز الكلب على الأريكة، تقول له "لا". إذا قمت فقط بدفعه بعيداً، فقد يقفز مرة أخرى. لكن إذا علمته قاعدة "لا تقفز"، فسوف يتعلم المبدأ. يحول DoubleAgents تصحيحاتك إلى "كتاب قواعد" دائم يقرأه الذكاء الاصطناعي في كل مرة يتصرف فيها.
3. "صالة ألعاب المحاكاة"
قبل أن تسمح للذكاء الاصطناعي بالتحدث إلى أساتذة حقيقيين ومشهورين، تتركه يتدرب في صالة ألعاب المحاكاة.
- كيف يعمل: ينشئ النظام أساتذة وهميين (شخصيات ذكاء اصطناعي) يتصرفون كبشر حقيقيين. بعضهم غاضب، وبعضهم بطيء في الرد، وبعضهم يطلب أشياء غريبة (مثل "هل يمكنني التقديم عبر زووم؟").
- الفائدة: يمكنك إجراء أسابيع من التنسيق في دقائق معدودة. يمكنك رؤية الذكما الاصطناعي يرتكب أخطاء، وتصحيحها، وتحديث كتاب القواعد قبل أن ترسل أي بريد إلكتروني حقيقي. إنه مثل محاكي الطيران للطيارين—تتحطم في المحاكي حتى لا تتحطم في الحياة الواقعية.
4. النتيجة: الثقة والحرية
أظهرت الدراسة أنه مع استخدام الناس لهذا النظام:
- أصبحوا أكثر ارتياحاً: بدأوا يثقون في الذكاء الاصطناعي لصياغة رسائل البريد الإلكتروني وجدولة الاجتماعات.
- لم يفقدوا السيطرة: كان الذكاء الاصطناعي يتوقف عند "الحالات الحدية" (المواقف الغريبة) ويطلب الإذن. هذا جعل المستخدمين يشعرون بالأمان لأنهم عرفوا أن الذكاء الاصطناعي لن يفعل أي شيء جنوني دونهم.
- بنوا إرثاً: بحلول النهاية، كان لدى المستخدم "كتاب قواعد" مخصص ونماذج بريد إلكتروني يمكنه استخدامها لـ الندوات المستقبلية، مما يجعل الندوة القادمة أسهل حتى.
الخلاصة
DoubleAgents ليس عن استبدال البشر بالروبوتات. بل يتعلق بـ تعليم الروبوتات كيف تكون نوعك الخاص من البشر.
إنه يحول عالم الذكاء الاصطناعي المخيف وغير المتوقع إلى شراكة تعاونية حيث:
- يتولى الذكاء الاصطناعي أعمال الذاكرة المملة.
- تتولى أنت عملية الحكم ولحظات "آه، كان ذلك فظاً".
- معاً، تبنون مجموعة من القواعد التي تجعل الذكاء الاصطناعي أكثر ذكاءً وأكثر توافقاً مع قيمك في كل مرة تستخدمه فيها.
إنه الفرق بين توظيف غريب لتنظيم حياتك وتوظيف مساعد شخصي تم تدريبه بواسطتك لسنوات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.