Agentifying Agentic AI
تقترح هذه الورقة سد الفجوة بين الذكاء الاصطناعي الحديث القائم على البيانات ونظرية الأنظمة متعددة الوكلاء الصورية من خلال دمج أطر عمل مهيكلة مثل بنيات (BDI) وتصميم الآليات لإنشاء ذكاء اصطناحي وكيل أكثر قدرة على الاستنتاج والتعاون والمساءلة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الفكرة الجوهرية: منح الذكاء الاصطناي "بوصلة اجتماعية"
تخيل أنك وظفت للتو مساعداً شخصياً فائق الذكاء، سريعاً للغاية، ولكنه غير قابل للتنبؤ به تماماً. هذا المساعد قرأ كل الكتب في العالم، لكنه يفتقر إلى المنطق السليم، ولا يفهم القواعد الاجتماعية، ولا يملك وسيلة لشرح لماذا فعل ما فعله.
إذا طلبت منه "حجز رحلة طيران لحضور مؤتمرتي"، فقد يحجز رحلة تهبط قبل خمس دقائق فقط من بدء خطابك، أو قد يحجز بالخطأ رحلة لمنافسك لأنه رأى "عرضاً" واعتقد أنه يقدم مساعدة. إنه "قدرتي" (أي يمكنه اتخاذ إجراءات)، لكنه ليس "وكيلاً" حقيقياً (لأنه لا يفهم الغرض أو السياق الاجتماعي لأفعاله).
تجادل هذه الورقة البحثية، التي كتبها باحثون من جامعة أوميو (Umeå University)، بأنه لكي نجعل الذكاء الاصطناعي مفيداً وآمناً حقاً، يجب أن نتوقف عن معاملته كصندوق أسود سحري، ونبدأ في منحه "الأدوات الاجتماعية والمنطقية" التي طورها علماء الحاسوب لعقود.
المشكلة: تأثير "الطفل العبقيل"
يشير المؤلفون إلى عيبين رئيسيين في "الذكاء الاصطناعي الوكيل" الحالي (الذكاء الاصطناعي الذي يمكنه استخدام الأدوات واتخاذ الإجراءات):
- فخ المحاكاة: الذكاء الاصطناعي الحالي (مثل النماذج اللغوية الكبيرة LLMs) يشبه ممثلاً عالمياً؛ يمكنه محاكاة الذكاء عبر التنبؤ بالكلمة التالية، لكنه لا "يعرف" الأشياء حقاً. إنه يشبه ببغاءً يستطيع إلقاء مسرحيات شكسبير، لكنه لا يعرف ما هي "المسرحية". ولأنه يعتمد فقط على التنبؤ بالأنماط، يمكن أن يكون متناقضاً بشكل صارخ.
- مشكلة "الصوت الأعلى": يتعلم الذكاء الاصطناعي من الإنترنت. وإذا كان الإنترنت مليئاً بالمعلومات المضللة أو الآراء المتحيزة، فسيعامل الذكاء الاصطناعي تلك الآراء كحقائق. هو لا يملك "مرشحاً للحقيقة"؛ بل يتبع الحشد فحسب.
الحل: "تحويل الذكاء الاصطناعي إلى وكيل" (Agentifying)
يقترح المؤلفون ألا نعتمد فقط على "القدرة الذهنية الخام" للذكاء الاصطناعي. بدلاً من ذلك، يجب علينا تغليف ذلك العقل بإطار هيكلي يسمى AAMAS (الوكلاء المستقلون والأنظمة متعددة الوكلاء).
فكر في الأمر كالتالي: النموذج اللغوي الكبير (LLM) هو المحرك، لكن AAMAS هو عجلة القيادة، والمكابح، ونظام تحديد المواقع (GPS)، وقواعد الطريق.
إليك كيف يقترحون "ترقية" الذكاء الاصطناعي باستخدام أربعة استعارات رئيسية:
1. البوصلة الداخلية (بنية BDI)
بدلاً من مجرد استجابة الذكاء الاصطناعي للأوامر، نمنحه طريقة رسمية لتتبع اعتقاداته (ما يعرفه)، ورغباته (ما يريد تحقيقه)، ونواياه (ما التزم فعلياً بفعله).
- الاستعارة: هو الفرق بين شخص يتجول بلا هدف في مركز تسوق (الذكاء الاصطناعي الحالي) وبين شخص لديه قائمة تسوق وخريطة (الذكاء الاصطناعي الوكيل).
2. كتاب القواعد (الأعراف والمؤسسات)
في الوقت الحالي، لا يفهم الذكهاء الاصطناعي "الأدوار الاجتماعية". هو لا يعرف أن الطبيب يجب أن يتصرف بشكل مختلف عن مندوب المبيعات. يجادل المؤلفون بضرورة منح الذكاء الاصطناعي "أعرافاً اجتماعية" — قواعد حول ما ينبغي عليه فعله، وليس فقط ما يمكنه فعله.
- الاستعارة: يشبه تعليم لاعب قواعد كرة القدم. بدون قواعد، تصبح المباراة مجرد فوضى عارمة؛ ومع القواعد، تصبح لعبة منظمة ويمكن التنبؤ بها.
3. المصافحة (بروتوكولات التواصل)
عندما يتحدث اثنان من أنظمة الذكاء الاصطناعي مع بعضهما البعض اليوم، فإنهما يستخدمان "اللغة الطبيعية"، وهي لغة فوضوية ومليئة بسوء الفهم. يقترح المؤلفون استخدام "بروتوكولات رسمية" — طرق تواصل صارمة تضمن أن الجميع يعرف بالضبط ما يتم الوعد به أو طلبه.
- الاستعارة: هو الفرق بين شخصين يصرخان بأفكار غامضة لبعضهما البعض في حانة مزدحمة، وبين طيارين يستخدمان رموزاً لاسلكية دقيقة لهبوط الطائرة.
4. درجة السمعة (الثقة والتفاوض)
في عالم ستعمل فيه العديد من أنظمة الذكاء الاصطناعي معاً، ستحتاج هذه الأنظمة لمعرفة من تثق به. يقترح المؤلفون بناء أنظمة "سمعة" ومهارات "تفاوض" حتى تتمكن أنظمة الذكاء الاصطناعي من حل النزاعات والعمل معاً نحو هدف مشترك.
- الاستعارة: يشبه نظام تقييم eBay للذكاء الاصطناعي. إذا حاول وكيل ذكاء اصطناعي بيعك "رحلة رخيصة" هي في الواقع عملية احتيال، فيجب أن تكون الوكلاء الأخرى قادرة على "تقييمه" بدرجة منخفضة حتى لا يقع أحد في الفخ.
الخلا-صة
تخلص الورقة البحثية إلى أن الوكالة الحقيقية لا تقتصر فقط على القدرة على فعل الأشياء؛ بل تتعلق بالقدرة على الوجود في مجتمع.
إذا أردنا انتقال الذكاء الاصطناعي من كونه "روبوت دردشة ذكي" إلى "شريك موثوق"، فعلينا ألا نركز فقط على مدى ذكائه، بل يجب أن نركز على مدى قدرته على أن يكون مسؤولاً، ومتعاوناً، ويمكن التنبؤ بتصرفاته. نحن بحاجة للانتقال من "الذكاء الاصطناعي المستقل" (الذي يعمل بمفرده) إلى "الذكاء الاصطناعي الوكيل" (الذي يعمل كجزء من مجتمع).
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.