Reasoning and Planning with Dynamically Changing Norms
تقدم هذه الورقة نهجاً مبتكراً لتوجيه وكلاء الذكاء الاصطناعي في التفاعلات بين الإنسان والذكاء الاصطناعي عبر توظيف حساب قابل للنقض لحل النزاعات واستخدام معايير متغيرة ديناميكياً كحواجز وقائية أثناء التخطيط، وهو ما تم التحقق من صحته من خلال كل من البراهين الصورية والاختبار التجريبي باستخدام وكيل حوار يُدعى SocialBot.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك مساعد آلي مفيد للغاية يعيش في منزل أحد البشر. مهمتك هي القيام بأشياء لهم، مثل مشاركة المعلومات أو وضع الخطط. ولكن هناك عقبة، وهي أن البشر يغيرون آراءهم، وقواعدهم لك تتغير معهم.
هذه الورقة البحثية تدور حول تعليم الذكاء الاصطناعي كيفية التعامل مع تلك القواعد المتغيرة دون الارتباك أو كسر الثقة.
المشكلة: "كتيب القواعد" الذي يتغير باستمرار
فكر في قواعد الإنسان كـ كتيب قواعد حي وليس قائمة ثابتة.
- اليوم الأول: تخبرك "كارلي": "لا تظهر سجلاتي الطبية لأي شخص أبدًا".
- اليوم الثاني: تتزوج وتقول: "حسنًا، يمكنك إظهار وصفاتي الطبية لزوجي".
- اليوم الثالث: تنجب أطفالًا وتقول: "الآن يجب عليك إخبار أطفالي عن حالاتي الصحية".
إذا كنت برنامج كمبيوتر قياسيًا، فقد تتعثر. إذا اتبعت القاعدة الأولى فقط، فستكسر ثقتها في اليوم الثاني والثالث. وإذا اتبعت القاعدة الأخيرة فقط، فقد تكون قد انتهكت القاعدة الأولى. تسأل الورقة: كيف يواكب الذكاء الاصطناعي هذا الهدف المتحرك؟
الحل: "حواجز الحماية" و"الحاسبة القابلة للإبطال"
قام المؤلفون ببناء ذكاء اصطناعي يسمى SocialBot لحل هذه المشكلة. لم يعطوا الروبوت مجرد قائمة من القواعد؛ بل أعطوه طريقة خاصة للتفكير تسمى "الحساب القابل للإبطال" (defeasible calculus).
إليك كيف يعمل ذلك باستخدام تشبيهات بسيطة:
1. مفهوم "حاجز الحماية" (Guard Rail)
تخيل أن الذكاء الاصطناعي يقود سيارة. "الخطة" هي المسار الذي يريد اتخاذه. "المعايير" (القواعد) هي حواجز الحماية الموجودة على جانب الطريق.
- لا يحتاج الذكاء الاصطناعي إلى أن يكون "مدفوعًا" بالقواعد ليقود؛ هو فقط يحتاج إلى التحقق من حواجز الحماية قبل التحرك.
- إذا قال حاجز الحماية "لا تعبر"، تتوقف السيارة.
- إذا قال حاجز الحماية "يمكنك العبور"، تتحرك السيارة.
- والأهم من ذلك، يمكن تحريك هذه الحواجز أو إزالتها فورًا إذا قال الإنسان ذلك.
2. "الحاسبة القابلة للإبطال" (العقل)
هذا هو الجزء الرياضي الذي يجعل القواعد تعمل. كلمة "قابلة للإبطال" (Defeasible) هي كلمة معقدة تعني "يمكن نقضها".
فكر في الأمر كأنه محكمة قانونية داخل عقل الروبوت:
- الافتراض الافتراضي: تقول الورقة إنه بالنسبة للأمور الحساسة (مثل السجلات الطبية)، يجب على الروبوت أن يفترض "لا" بشكل افتراضي. إنه يشبه "الإغلاق المانع". إذا لم تقل "نعم" صراحةً، فإن الروبوت يفترض "لا" ليكون في أمان.
- الدليل: عندما يقول الإنسان، "يمكنك إخبار زوجي"، فهذا دليل جديد.
- حل النزاع: ماذا يحدث إذا قال الإنسان "لا تخبر أحدًا" (القاعدة أ) ثم قال لاحقًا "أخبر زوجي" (القاعدة ب)؟
- ينظر "حاسبة" الروبوت إلى التواريخ. القاعدة (ب) هي الأحدث.
- يتحقق من النطاق. هل تغطي القاعدة (ب) نفس المجال الذي تغطيه القاعدة (أ)؟ نعم.
- الحكم: القاعدة (ب) "تبطل" (تتجاوز) القاعدة (أ) تحديدًا فيما يتعلق بالزوج. الآن يعرف الروبوت: "لا تخبر أحدًا باستثناء الزوج".
تثبت الورقة رياضيًا أن هذا النظام يمنع الروبوت من التفكير في أن شيئين متناقضين صحيحان في نفس الوقت (على سبيل المثال، لن يعتقد أن المشاركة "مسموحة" و"محظورة" في آن واحد).
التجربة: SocialBot في العمل
اختبر الباحثون هذا باستخدام SocialBot، وهو روبوت دردشة يتحدث مع الأشخاص عبر Microsoft Teams.
- الإعداد: أنشأوا عالمًا وهميًا يحتوي على 1,536 سيناريو مختلفًا. في هذه السيناريوهات، سيقول المستخدمون أشياء مثل "أنا أحب البيتزا"، ثم "لا تخبر أحدًا بتفضيلاتي الغذائية"، ثم "في الواقع، يمكنك إخبار بوب عن البيتزا".
- الاختبار: سيقوم شخص ثالث (مثل "سقراط") بسؤال الروبوت: "ماذا يحب أفلاطون؟"
- النتيجة: حصل الروبوت على نتيجة 1-100% صحيحة.
- إذا كانت القاعدة "لا تخبر"، يقول الروبوت: "لا يمكنني القول".
- إذا تم تحديث القاعدة إلى "أخبر بوب"، فقد أخبر بوب.
- إذا كانت القاعدة "أخبر بوب، ولكن ليس سقراط"، فقد أخبر بوب وظل صامتًا مع سقراط.
لماذا هذا مهم (وفقًا للورقة)
معظم أنظمة الذكاء الاصطناعي اليوم (مثل روبوتات الدردشة الضخمة) يمكنها إجراء محادثة، ولكن يمكن خداعها أو التلاعب بها لكسر القواعد. إنها لا تملك أساسًا رياضيًا صلبًا لسبب وجود القاعدة أو كيفية تحديثها عندما يغير الإنسان رأيه.
توفر هذه الورقة مخططًا لذكاء اصطناعي:
- يستمع إلى قواعد البشر.
- يفهم أن القواعد يمكن أن تكون استثناءات لقواعد أخرى.
- يستخدم تلك القواعد كـ "حواجز حماية" لمنعه من القيام بشيء لا ينبغي له فعله، حتى لو أراد القيام به.
ما لا تفعله (الحدود)
المؤلفون صادقون جدًا بشأن ما لا يستطيع الروبوت الخاص بهم فعله بعد:
- هو يتعامل مع قواعد شخص واحد فقط في كل مرة. لا يمكنه الموازنة بين قواعد الشخص (أ) مقابل قواعد الشخص (ب) (على سبيل المثال، "الأم تقول أخبر، والأب يقول لا تخبر").
- تم اختباره على مجموعة بيانات اصطناعية (محادثات وهمية)، وليس على دراما بشرية معقدة في العالم الحقيقي.
- يفترض أن الروبوت يعرف بالفعل الحقائق الأساسية (مثل من هو المتزوج من من) لفهم القواعد.
باختًا، تعلم هذه الورقة الذكاء الاصطناعي كيف يكون مساعدًا مخلصًا ومرنًا يحترم رغباتك المتغيرة في الخصوصية، حيث يعمل مثل حاجز حماية ذكي يتحرك تمامًا حيث توجهه.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.