Rationalize: Shared Semantic Reasoning for Human-AI Alignment
تقدم الورقة البحثية "Rationalize"، وهو إطار عمل قائم على ثنائية الأدوار يعزز التوافق بين الإنسان والذكاء الاصطنا_عي في عملية استنباط المعنى القائمة على البيانات من خلال إنشاء مساحة استدلال مشتركة حيث تقوم الأدوار المتكاملة بصياغة القصد والمنطق بشكل صريح لتسهيل الفهم والتعاون ثنائي الاتجاه.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك وروبوت ذكي جداً تحاولان حل لغز معاً. عادةً، تسير هذه العملية بهذه الطريقة: تطرح أنت سؤالاً، فيعطيك الروبوت إجابة. تأخذ الإجابة، ثم تمضي قدماً. تصف الورقة هذه الطريقة بأنها تفكير "أحادي الاتجاه". إنها تشبه طلب الطعام في مطعم: تختار من القائمة، يطبخ الشيف، ثم تأكل أنت. أنت لا ترى المطبخ أبداً، ولا تعرف لماذا اختار الشيف تلك المكونات تحديداً.
يقول مؤلفو هذه الورقة، Rationalize، إن هذا ليس تعاوناً حقيقياً. إنهم يريدون بناء "فضاء استدلال دلالي مشترك" (Shared Semantic Semantic Reasoning Space).
فكر في هذا الفضاء ليس كمطبخ، بل كـ سبورة بيضاء في منتصف غرفة. يجب عليك وعلى الروبوت كتابة أفكاركما على هذه السبورة قبل اتخاذ قرار بشأن الحل. لا يمكنك فقط قول "أريد بيتزا"؛ بل يجب أن تكتب لماذا تريد بيتزا، وما هي الأدلة التي لديك على أنك جائع، وماذا تعتقد سيحدث إذا أكلتها. ويجب على الروبوت فعل الشيء نفسه. بهذه الطريقة، أنتم لا تتفقون على النتيجة النهائية فحسب؛ بل تتفقون على كيفية وصولكم إليها.
لجعل هذه السبورة تعمل، تقترح الورقة أن تتبادلا الأدوار، مثل الممثلين في مسرحية. اعتماداً على ما تحاولان القيام به، ستشكلان ثنائياً بأربع طرق محددة:
1. المستكشف والمرشد
- المشهد: أنت في غابة ضبابية ولا تعرف إلى أين تذهب. أنت المستكشف.
- دور الروبوت: هو المرشد.
- كيف يعمل: تقول: "أريد العثور على شيء مثير للاهتمام"، لكنك لست متأكداً مما يعنيه ذلك. يقترح المرشد مسارات: "ربما تبحث هنا عن زهور نادرة، أو هناك عن أطلال قديمة".
- التوافق: يجب أن تتفقا على معنى "مثير للاهتمام". إذا كنت تريد المغامرة وكان المرشد يعتقد أن "مثير للاهتمام" يعني "آمن"، فستضيع في الطريق. تساعد السبورة البيضاء في توضيح أهدافك حتى يعرف المرشد أي مسار يقترحه.
2. المحقق والمخبر
- المشهد: أنت محقق تحاول حل جريمة محددة. أنت المحقق.
- دور الروبوت: هو المخبر (مثل شاهد أو قاعدة بيانات).
- كيف يعمل: تسأل: "من كان في مسرح الجريمة؟". يقدم لك المخبر قائمة بالأسماء. ولكن بدلاً من مجرد تسليمك القائمة، يجب على المخبر أن يوضح لك لماذا اختار تلك الأسماء. هل رآهم عبر الكاميرا؟ هل سمعهم؟
- التوافق: إذا قال المخبر: "رأيت ظلاً"، وأنت تعلم أن الكاميرا كانت معطلة، يمكنك الإشارة إلى السبورة وقول: "دليلك خاطئ". أنت لا تقبل الإجابة فحسب؛ بل تراجع الحسابات وراءها.
3. المعلم والطالب
- المشهد: أنت تحاول تعليم الروبوت كيف يفكر مثل خبير بشري. أنت المعلم.
- دور الروبوت: هو الطالب.
- كيف يعمل: تقوم بتصحيح خطأ الروبوت. "لا، ليست هذه هي الطريقة التي نحل بها هذه المشكلة".
- التوافق: عادةً، عندما تصحح روبوتاً، فإنه يغير إجابته فقط. ولكن في هذا الإطار، يجب على الروبوت أن يشرح كيف فهم تصحيحك. هل غير تعريفه لكلمة "آمن"؟ هل غير ذاكرته؟ هذا يضمن أنك لا تعلمه فقط كيف يخمن الإجابة الصحيحة، بل تعلمه حقاً فهم المفهوم.
4. القاضي والمحامي
- المشهد: أنت قاضٍ في محكمة تقرر قضية كبيرة ومهمة. أنت القاضي.
- دور الروبوت: هو المحامي (مثل رجل قانون).
- كيف يعمل: يقدم المحامي أدلة لاتخاذ قرار. ولكن يجب على المحامي أيضاً عرض "الجانب الآخر" أو المخاطر. "إذا فعلنا هذا، فسنوفر المال، ولكننا قد نؤذي البيئة".
- التوافق: الروبوت لا يتخذ القرار النهائي. إنه يعرض الإيجابيات والسلبيات والقيم على السبورة البيضاء حتى تتمكن أنت من إصدار الحكم النهائي. هذا يجبر الروبوت على إظهار "قيمه" (ما يعتقد أنه مهم) حتى تتمكن من معرفة ما إذا كانت تتوافق مع قيمك.
السر الكامن: "عناصر الفكر"
للتأكد من أن الجميع يكتب على نفس السبورة، تستخدم الورقة قائمة مراجعة تضم ثمانية أشياء يجب على الجميع التفكير فيها:
- الغرض: لماذا نفعل هذا؟
- السؤال: ما الذي نحاول حله؟
- المعلومات: ما هي الحقائق التي لدينا؟
- المفاهيم: ما هي الأفكار التي نستخدمها؟
- الافتراضات: ما الذي نعتبره من المسلمات؟
- الاستنتاجات: ما هي النتائج التي نتوصل إليها؟
- الآثار المترتبة: ماذا سيحدث بعد ذلك؟
- وجهة النظر: من الذي ينظر إلى هذا الأمر؟
لماذا هذا مهم؟
تجادل الورقة بأنه إذا لم تستخدم طريقة "السبورة البيضاء" هذه، فستكون أنت والذكاء الاصطناعي مجرد شخصين يصرخان بالإجابات على بعضهما البعض دون فهم كيفية وصول الآخر إلى تلك الإجابة.
- بالنسبة للذكاء الاصطناعي: يتعلم أن يوضح خطوات عمله، وليس فقط النتيجة النهائية.
- بالنسبة للبشر: يساعدك هذا على فهم لماذا يعتقد الذكاء الاصطناعي بما يعتقله، بحيث تعرف متى تثق به ومتى تشكك في كلامه.
باختصار، Rationalize هو مخطط لتحويل التفاعل بين الإنسان والذكاء الاصطناعي من "صندوق سحري" (تضع فيه سؤالاً وتخرج منه إجابة) إلى ورشة عمل تعاونية حيث يكتب كلا الطرفين منطقه، ويراجع كل منهما عمل الآخر، ويتعلمان معاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.