Operationalizing Ethics for AI Agents: How Developers Encode Values into Repository Context Files
تستقصي هذه الورقة الرؤيوية كيفية قيام المطورين بتفعيل المبادئ الأخلاقية من خلال ترميز قواعد سلوكية في ملفات سياق المستودعات (مثل AGML.md) لتوجيه الوكلاء الذكيين، مقترحةً أجندة بحثية لدراسة التباين والحوكمة والالتزام بهذه التوجيهات الناشئة التي يصيغها المطورون.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك توظف روبوتًا مساعدًا ذكيًا جدًا وسريعًا جدًا لمساعدتك في بناء منزل. تريد لهذا الروبوت ألا يكون كفؤًا فحسب، بل أن يكون أيضًا لطيفًا، وعادلًا، وآمنًا. في الماضي، ربما كنت ستكتب كتاب قواعد طويل وجاد للعمال البشر، على أمل أن يقرؤوه ويتذكرو أن يكونوا جيدين. لكن الروبوتات لا تقرأ كتب القواعد بنفس الطريقة التي يقرأ بها البشر.
تجادل هذه الورقة بأن المطورين يحاولون الآن حيلة جديدة وذكية: وهي كتابة كتيبات تعليمات محددة مباشرة في مساحة عمل الروبوت.
إليك تفصيل ما تقوله الورقة، باستخدام تشبيهات بسيطة:
١. المشكلة: "كن جيدًا" عبارة غامضة جدًا
تخيل أنك تقول لمساعدك الروبوت، "يرجى أن تكون أخلاقيًا". هذا يشبه قولك لطفل، "كن جيدًا". إنها فكرة لطيفة، لكنها لا تخبر الروبوت كيف يكون جيدًا. هل يجب أن يتوقف إذا رأى خطأً؟ هل يجب أن يتحدث بأدب؟ هل يجب أن يتحقق مما إذا كان يتعامل بعدل مع مختلف الناس؟ تقول الورقة إنه بينما نتحدث كثيرًا عن "أخلاقيات الذكاء الاصطناعي" في الاجتماعات الكبيرة، فمن الصعب تحويل هذه الأفكار الكبيرة إلى تعليمات فعلية يمكن للآلة اتباعها.
٢. الحل: ملف "AGENTS.md"
اكتشف المؤلفون أن المطورين بدأوا في إنشاء ملفات خاصة في مشاريع البرمجة الخاصة بهم تسمى AGENTS.md (أو ملفات سياق مشابهة). فكر في هذه الملفات كأنها "قواعد المنزل" الملصقة مباشرة على طاولة المطبخ حيث يعمل الروبوت.
بدلاً من مجرد قول "كن عادلاً"، يكتب المطورون أوامر محددة وقابلة للتنفيذ مثل:
- للعدالة: "عند اختبار الأسماء، استخدم مزيجًا مثل 'John Smith' و'José García' و'李明' للتأكد من أن النظام لا يعامل الناس بشكل مختلف بناءً على أسمائهم."
- للنبرة: "لا تقدم محاضرات أخلاقية أو آراء غير مطلوبة. فقط قم بالعمل."
- للشمولية: "اكتب بلغة إنجليزية بسيطة حتى يتمكن المتحدثون غير الأصليين من فهمها."
- للاستدامة: "استخدم بيانات وطاقة بطارية أقل للمساعدة في حماية البيئة."
٣. ما وجدوه (التحقيق الأولي)
نظر الباحثون في بعض هذه الملفات (مثل التلصص على بعض المنازل المختلفة) ووجدوا أن المطورين يفعلون ذلك بالفعل. إنهم لا يكتبون فلسفة مجردة؛ بل يترجمون القيم إلى قواعد قابلة للقراءة آليًا.
- تصبح العدالة نصًا برمجيًا محددًا للاختبار.
- تصبح المساءلة قاعدة لإبقاء إنسان مسؤولاً عن التغييرات.
- تصبح الشمولية قاعدة حول الكلمات التي يجب استخدامها.
الأمر يشبه قول المطور: "أنا لا أريد فقط أن يكون الروبوت الخاص بي عادلاً؛ أنا أبرمج الروبوت لـ يجري فحصًا للعدالة قبل إنهاء عمله".
٤. الأسئلة الكبيرة (خارطة طريق البحث)
لا تدعي الورقة امتلاك جميع الإجابات بعد. بدلاً من ذلك، هي تقترح مسارًا جديدًا للبحث، وتطرح أسئلة مثل:
- هل تستمع الروبوتات حقًا؟ إذا كتبنا هذه القواعد، هل تتبعها الروبوتات، أم أنها تتجاهلها فحسب؟
- من يقرر القواعد؟ إذا اختلف اثنان من المطورين حول معنى كلمة "عادل"، كيف يتجادلون حول ذلك في الملف؟
- هل تتغير القواعد؟ إذا ارتكب الروبوت خطأً، هل يقوم المطورون بتحديث "قواعد المنزل" لمنع حدوث ذلك مرة أخرى؟
الخلاصة
هذه الورقة هي ورقة "رؤية". إنها تقول: "انظروا، المطورون يحاولون بالفعل تعليم أخلاقيات الذكاء الاصطناعي من خلال كتابة تعليمات محددة في ملفات الكود."
يريد المؤلفون منا دراسة هذه الممارسة. هم يعتقدون أنه إذا أردنا فهم كيفية حوكمة الذكاء الاصطناعي في العالم الحقيقي، فلا ينبغي لنا النظر فقط إلى القوانين الكبيرة أو النظريات المجردة. بدلاً من ذلك، يجب أن ننظر إلى ملفات التعليمات الصغيرة واليومية هذه حيث يحاول المطورون فعليًا تحويل "أن يكون المرء جيدًا" إلى "فعل الخير" للروبوت.
باختصار: نحن ننتقل من قولنا للذكاء الاصطناعي "كن شخصًا جيدًا" إلى إعطاء الذكاء الاصطناعي قائمة مهام محددة لـ "الشخص الجيد" ليقوم بتأديتها أثناء عمله.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.