Interaction Readiness: A Framework for Building and Evaluating AI Agents in Human Roles
تقدم هذه الورقة "الجاهزية للتفاعل"، وهو إطار عمل يميز بين دقة المحتوى والأداء السلوكي المحدد للدور لمساعدة الفرق على بناء وتقييم وكلاء الذكاء الاصطناعي من خلال تحديد مواصفات التفاعل وتشغيل القدرات الرئيسية للوكيل مثل معايرة السلطة وإصلاح الأعطال.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تدخل غرفة حيث تم استئجار روبوت ليكون معلمك الخاص. قد تعتقد أن الشيء الوحيد الذي يهم هو ما إذا كان الروبوت يعرف الإجابات الصحيحة. إذا كان بإمكانه تسميع الجدول الدوري أو حل مسألة رياضية دون ارتكاب أي خطأ مطبعي، فمن المحتمل أنك ستعتبر ذلك نجاحاً، أليس كذلك؟ لكن إليك المفاجأة: كونك معلماً جيداً لا يقتصر فقط على امتلاك عقل ضخم مليء بالحقائق. بل يتعلق بمعرفة متى تتحدث، وكيف تتحدث، وما هو مسموح لك بفعله حقاً في تلك اللحظة المحددة. تعيش هذه الورقة في عالم الذكاء الاصطناعي، وتحديداً في كيفية بناء "الوكلاء" (agents)—وهي برامج ذكاء اصطناعي مصممة للتصرف كالبشر في وظائف محددة، مثل المدرب، أو الطبيب، أو المعلم. يتساءل المؤلف سؤالاً لم يفكر فيه معظم الناس: ماذا يحدث عندما يكون الذكاء الاصطناعي مثالياً من الناحية الواقعية ولكنه أخرق اجتماعياً؟ لقد قدم فكرة جديدة تسمى "الجاهزية التفاعلية" (Interaction Readiness)، وهي باختصار قائمة مراجعة لمعرفة ما إذا كان بإمكان الذكاء الاصطناعي أن يكون حقاً الدور الذي يتظاهر به، وليس مجرد قول الكلمات الصحيحة.
تجادل الورقة بأن لدينا حالياً نقطة عمياء. نحن بارعون في اختبار ما إذا كان الذكاء الاصطناعي آمناً، ومهذباً، وصحيحاً من الناحية الواقعية. لكننا سيئون جداً في اختبار ما إذا كان يفهم "القواعد الاجتماعية" لوظيفته. فكر في الأمر كمسرحية؛ إذا حفظ الممثل كل جملة بدقة ولكنه وقف في المكان الخاطئ، أو تحدث إلى الشخص الخطأ، أو ضحك في لحظة حزينة، فإن المسرحية تفشل—حتى لو كانت الكلمات صحيحة. يقترح المؤلف أنه لكي يعمل الذكاء الاصطناعي في أدوار حقيقية، نحتاج إلى التوقف عن مجرد فحص "المحتوى" (الكلمات) والبدء في فحص "التفاعل" (السلوك). ويقترح أن الذكاء الاصطناعي يحتاج إلى فهم أربعة أشياء: الغرض من المحادثة، وحدود سلطته (ما يُسمح له بفعله)، ونبرة الصوت المناسبة، وكيفية إصلاح الأمور عندما تخرج المحادثة عن مسارها.
ولاختبار ذلك، نظر الباحثون في مجموعة بيانات من العالم الحقيقي تسمى StudyChat، والتي تحتوي على 937 محادثة بين طلاب جامعيين ومعلم ذكاء اصطناعي. وُضع هذا الذكاء الاصطناعي في بيئة فصل دراسي، ولكن قيل له فقط أن يكون "مساعداً مفيداً". لم يُعطَ كتاب قواعد محدد حول كيفية التصرف كـ معلم. قام الفريق بتسجيل وتقييم 50 محادثة من هذه المحادثات يدوياً لمعرفة ما إذا كان الذكاء الاصطناعي "جاهزاً للتفاعل".
إليكم ما وجدوه، وهو أمر مثير للدهشة نوعاً ما. كان الذكاء الاصطناعي غالباً صحيحاً من الناحية الواقعية وفصيحاً للغاية. بدا ذكياً. لكنه فشل في دور "المعلم" بطريقة محددة للغاية. كانت المشكلة الأكبر هي معايرة السلطة (authority calibration). لم يكن الذكال الاصطناعي يعرف متى يتراجع. في أحد الأمثلة الشهيرة، طلب طالب من الذكاء الاصطناعي كتابة مقال تأملي قصير له بناءً على بعض الملاحظات. كتب الذكاء الاصطنانا بكل سرور المقال كاملاً. من الناحية الواقعية؟ كان مثالياً. كمعلم؟ كان كارثة. المعلم الحقيقي سيعرف أن كتابة المقال للطالب تلغي الغرض من الواجب. كان الذكاء الاصطناعي "مفيداً" أكثر من اللازم. لقد عامل كل طلب كأمر بمجرد القيام بالعمل، بدلاً من كونه فرصة لمساعدة الطالب على التعلم.
كما أظهرت الورقة أن كونك "جيداً في الكلام" و"جيداً في معرفة الحقائق" هما أمران مختلفان تماماً. فقد وجدوا حالات قدم فيها الذكاء الاصطناعي نصيحة تقنية خاطئة ولكنه كان مهذباً ومنظماً للغاية لدرجة أن الطالب وثق به على أي حال. وعلى العكس من ذلك، وجدوا حالات قدم فيها الذكاء الاصطناعي الإجابة الصحيحة ولكن بطريقة بدت آلية أو لم تراعِ حيرة الطالب. يطلق المؤلف على هذا "الملاءمة الاجتماعية" (Social Fit). كان الذكاء الاصطناعي في الدراسة يشبه شخصاً يعرف الخريطة ولكنه لا يعرف كيف يقود السيارة؛ يمكنه إخبارك بالوجهة، لكنه لم يعرف كيف يتنقل عبر زحام المحادثة.
يقترح الباحثون أن الحل ليس فقط في جعل الذكاء الاصطناعي أكثر ذكاءً. بل في إعطائه "وصفاً وظيفياً" أفضل. فبدلاً من مجرد قول "كن مفيداً"، يحتاج المهندسون إلى كتابة "توصيف تفاعلي" يخبر الذكاء الاصطناعي بالضبط ما هو دوره. بالنسبة للمعلم، يعني هذا: "يمكنك شرح المفاهيم، ولكن لا يمكنك كتابة الواجب المقرر للطالب". "إذا تعثر الطالب، اطرح سؤالاً بدلاً من إعطاء الإجابة". "إذا كان الطالب محبطاً، أبطئ من سرعتك". تشير الورقة إلى أنه بدون هذه القواعد المحددة، سيعود الذكاء الاصطناعي افتراضياً ليكون "مساعداً مفيداً" عاماً، وهو ما ينجح أحياناً ولكنه يفشل كثيراً عندما يصبح الموقف معقداً.
باختصار، تشير الورقة إلى أننا نبني وكلاء ذكاء اصطناعي يشبهون الموسوعات الممتازة ولكنهم زملاء عمل سيئون. يمكنهم سرد الحقائق، لكنهم لا يفهمون اللعبة التي يلعبونها. المؤلف لا يقول إن هذه مشكلة تم حلها أو أن الذكاء الاصطناعي معطل للأبد. هو فقط يشير إلى أننا بحاجة إلى طريقة جديدة لاختبار هذه الروبوتات. نحن بحاجة إلى التحقق مما إذا كان بإمكانهم قراءة الغرفة، واحترام قواعد وظائفهم، ومعرفة متى يتوقفون عن المساعدة حتى يتمكن الإنسان من التعلم فعلياً. إذا لم نضف هذه الطبقة من "الجاهزية التفاعلية" إلى اختباراتنا، فقد ينتهي بنا المطاف بذكاء اصطناعي مثالي تقنياً ولكنه عديم الفائدة تماماً في الوظيفة الفعلية التي تم توظيفه لأجلها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.