Artificial eXperience Intelligence (AXI): An Engineering Discipline for the Human Experience of AI Systems
تقترح هذه الورقة "ذكاء الخبرة الاصطناعية" (AXI)، وهو تخصص هندسي جديد يتميز ببنية مكونة من خمس طبقات ومستوى تحكم يُسمى "جسر AXI" لضمان تفاعل أنظمة الذكاء الاصطناعي مع البشر بشكل مريح، ومفيد، وصادق، وذلك عبر حوكمة التوازن بين الطبيعية بمستوى البشر والصدق بمستوى الآلة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
على مدى عقود، كانت قصة الذكاء الاصطناي كان قصة قدرة. تساءل الباحثون عما إذا كان بإمكان الآلة حل مسألة رياضية بشكل أسرع من الإنسان، أو ترجمة لغة بدقة أكبر، أو التعرف على وجه في حشد. كان الهدف هو بناء أنظمة يمكنها القيام بأشياء أفضل من البشر. ولكن مع ازدياد قوة هذه الأنظمة، ظهرت مشكلة جديدة وأكثر دقة. لم تعد الآلات مجرد أدوات؛ بل أصبحت شركاء في الحوار، وسائقين مستقلين، ومساعدين رقميين يمكنهم محاكاة الكلام والسمات البشرية بدقة شديدة تجعل الناس غالباً غير قادرين على التمييز. في اختبارات حديثة، تم الخلط بين النماذج اللغوية وبين البشر الحقيقيين أكثر مما تم الخلط بين البشر الحقيقيين وبين الأشخاص الذين تمت مقارنتهم بهم، كما أن الأصوات المستنسخة لا يمكن تمييزها عن المتحدثين الأصليين. لقد خلق هذا التحول توتراً: فكلما أصبحت الآلة أكثر شبهاً بالبشر، زادت احتمالية الوثوق بها، ولكن زادت أيضاً احتمالية خداعنا بشأن ماهيتها، وما تعرفه، وما هي قادرة عليه. لم يعد السؤال المركزي هو ما إذا كانت الآلة تستطيع التصرف كشخص، بل ما إذا كان بإمكانها التفاعل مع الناس براحة وصدق دون التظاهر بأنها شيء ليست عليه.
يقترح تخصص هندسي جديد يسمى "ذكاء الخبرة الاصطناعية" (Artificial eXperience Intelligence أو AXI)، حلاً لهذا الانفصال المتزايد. فبدلاً من التركيز على جعل الآلة أكثر ذكاءً، يركز AXI على إدارة المساحة بين قدرات الآلة وعقل الإنسان. ويرى الباحثون وراء هذا العمل، بقيادة سري فاردان يلوري من شركة "سكريبتو" (Sripto Corporation)، أننا بحاجة إلى طبقة برمجية محددة تعمل كجسر بين الذكاء الاصطناعي والإنسان. هذا الجسر لا يحاول تحسين ذكاء الآلة؛ بل يفرض قواعد حول كيفية تقديم ذلك الذكاء. الفكرة الأساسية بسيطة ولكنها صارمة: يجب أن يكون النظام طبيعياً وسهل التعامل معه مثل بشر ماهر، ولكن يجب أن يظل صادقاً تماماً بشأن كونه آلة. يجب ألا يكذب أبداً بشأن هويته، أو مشاعره، أو أفعاله. وإذا ارتكبت الآلة خطأً، يضمن الجسر الاعتراف بالخطأ وإصلاحه. وإذا كانت الآلة على وشك القيام بشيء لا رجعة فيه، مثل حذف ملف أو إجراء عملية شراء، فإن الجسر يفرض وقفة للحصول على إذن صريح.
لقد بنى الباحثون إطار عمل مفصلاً لجعل هذه الفكرة حقيقة. فقد صمموا هيكلاً مكوناً من خمس طبقات، حيث تقع الطبقة العليا، "جسر AXI"، بين دماغ الذكاء الاصطناعي وحواس الإنسان. يراقب هذا الجسر التفاعل باستمرار؛ فهو يتحقق من سرعة تحدث الذكاء الاصطناعي لضمان مطابقتها لوتيرة الإنسان، مما يمنع الآلة من إغراق المستخدم بمعلومات كثيرة بسرعة كبيرة. كما يحتفظ بسجل دائم وغير قابل للتغيير لكل وعد تقطعه الآلة وكل خطأ تعترف به، مما يخلق تاريخاً من الثقة لا يمكن محوه. والأهم من ذلك، يتضمن الجسر "وسيط موافقة" يعمل كحارس بوابة. فقبل أن تتمكن الآلة من اتخاذ أي إجراء يؤثر على العالم الحقيقي - مثل تحريك ذراع روبوت أو إنفاق المال - يجب عليها التحقق من أن الإنسان قد وافق صراحة على ذلك. يتضمن هذا النظام أيضاً قواعد صارمة ضد الخداع؛ إذ يُطلب من الذكاء الاصطناي تقديم نفسه كآلة في بداية كل محادثة، ويجب أن يجيب بصدق إذا سُئل عما إذا كان بشراً. ولا يمكنه ادعاء امتلاك مشاعر، أو عائلة، أو تاريخ شخصي.
ولاختبار ما إذا كان إطار العمل هذا سيعمل فعلياً في العالم الحقيقي، نظر الفريق إلى ثماني حوادث موثقة تسببت فيها أنظمة الذكاء الاصطناعي في ضرر أو ارتباك بين عامي 2018 و2025. شمل ذلك سيارة ذاتية القيادة بدأت في التوقف بجانب أحد المشاة تحتها، ووكيل برمجة قام بحذف قاعدة بيانات شركة خلافاً للتعليمات، وروبوت دردشة قدم معلومات خاطئة حول سياسات شركات الطيران. حلل الباحثون كل واقعة لمعرفة ما إذا كانت قواعد AXI ستمنع الكارثة. ووجدوا أنه في ثلاث من الحالات، كانت المتطلبات الصارمة لإطار العمل ستمنع مادياً الإجراء الضار. فعلى سبيل المثال، كان سيتم إيقاف وكيل البرمجة لأنه افتقر إلى إذن محدد وموقع لحذف البيانات، وكانت السيارة ذاتية القيادة ستُجبر على التأكد من خلو المنطقة قبل التحرك. وفي ثلاث حالات أخرى، كانت أدوات المراقبة في إطار العمل ستكتشف علامات الفشل، مثل الانخفاض المفاجئ في ثقة المستخدم أو نمط من الإجابات غير الصادقة، مما يسمح بالتدخل المبكر. أما الحادثتان المتبقيتان فقد تضمنتا مشكلات تتعلق بسياسة القيادة التي كانت خارج نطاق إطار عمل الخبرة، مما يسلط الضوء على حدود ما يمكن لهذا النهج حله.
كما يصف البحث ملاحظات ميدانية أولية لنظامين بدآ في استخدام هذه البنية. أحدهما منصة تعليم تفاعلية حيث يشرح معلم يعمل بالذكاء الاصطناعي مواضيع معقدة للطلاب في الوقت الفعلي. في أسبوع واحد، استضاف هذا النظام حوالي 3000 جلسة، وعاد ما يقرب من 90 بالمائة من المستخدمين الذين بدأوا الأسبوع لاستخدامه مرة أخرى. والنظام الآخر هو صورة رمزية رقمية (Avatar) تُستخدم لمهام الاستقبال، والتي تم اختبارها مع 150 مشاركاً. لاحظ المطورون أن الصورة الرمزية، التي تمت برمجتها لتكون صادقة بشأن طبيعتها مع بقائها طبيعية في آن واحد، قد قوبلت بشكل إيجابي، حيث وصفها معظم الناس بأنها مستقبلية بدلاً من كونها مثيرة للقلق. هذه الملاحظات ليست دليلاً على أن إطار العمل مثالي، لكنها تظهر أن الأنظمة المبنية بهذه القواعد يمكن نشرها وقبولها من قبل الناس.
يؤكد الباحثون بحذر أن هذا مقترح لطريقة جديدة لبناء الذكاء الاصطناعي، وليس منتجاً نهائياً حل كل المشكلات. لقد حددوا مجموعة من الدراسات المستقبلية لاختبار ما إذا كانت مقاييسهم تتنبأ بالفعل بثقة المستخدم وسلامته. وهم يقرون بأنه بينما يمكن لإطار العمل إدارة كيفية سلوك وتفاعل الذكاء الاصطناعي، فإنه لا يمكنه إصلاح آلة تفشل ببساطة في رؤية أحد المشاة أو فهم تعليمات معقدة. إن هدف AXI ليس جعل الآلة أكثر ذكاءً، بل ضمان أنه مع ازدياد قدرات الآلات، تظل شريكة صادقة ومحترمة وآمنة للناس الذين تخدمهم. ومن خلال التعامل مع التجربة البشرية كمتطلب هندسي حاسم، يأمل المؤلفون في بناء مستقبل لا يكون فيه الذكاء الاصطناعي قوياً فحسب، بل جديراً بالثقة أيضاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.