Artificial Organisations
تقترح هذه الورقة أن أنظمة الذكاء الاصطناك متعددة الوكلاء يمكنها تحقيق سلوك جماعي موثوق من خلال مبادئ التصميم المؤسسي مثل التقسيم إلى مقصورات والمراجعة التنافسية، مبرهنةً عبر محرك "بيرسيفيرانس" للتركيب (Perseverance Composition Engine) أن مثل هذه القيود الهيكلية يمكن أن تفرض نتائج صادقة حتى من مكونات غير موثوقة فردياً.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة "المنظمات الاصطناعية" (Artificial Organisations) باستخدام لغة بسيطة وتشبيهات إبداعية.
الفكرة الكبرى: توقف عن محاولة صنع روبوت واحد مثالي؛ ابنِ فريقاً بدلاً من ذلك
تخيل أنك تحاول بناء ناطحة سحاب.
- الطريقة القديمة (أبحاث الذكاء الاصطعي الحالية): تحاول تدريب مهندس معماري واحد فائق الذكاء ليكون مثالياً. تأمل ألا يرتكب خطأً أبداً، وألا يكذب، وألا يتعب أبداً. إذا تعثر، سينهار المبنى بأك ول.
- الطريقة الجديدة (هذه الورقة): أنت تقر بأنه لا يوجد أحد كامل. بدلاً من ذلك، تقوم ببناء شركة إنشاءات. توظف رساماً هندسياً، ومفتش سلامة، ومديراً للجودة. تضع لهم قواعد صارمة حول من يمكنه رؤية ماذا. حتى لو حاول الرسام الهندسي اختصار الإجراءات، سيكتشفه مفتش السلامة لأن لديه مجموعة مختلفة من الأدوات ووظيفة مختلفة.
يجادل المؤلف، ويليام ويتس، بأنه يجب علينا التوقف عن محاولة جعل وكلاء الذكاء الاصطناعي الأفراد "جيدين"، والبدء في تصميم منظمات ذكاء اصطناعي حيث تجبرهم البنية الهيكلية على أن يكونوا موثوقين.
شخصيات العمل: "محرك تركيب المثابرة" (Perseverance Composition Engine)
تصف الورقة نظاماً يسمى محرك تركيب المثابرة (PCE). فكر فيه كغرفة أخبار صغيرة مؤتمتة أو دار نشر. يحتوي على فريق من وكلاء الذكاء الاصطناعي، لكل منهم وظيفة محددة وقواعد محددة حول ما يُسمح له برؤيته.
المؤلف (الكاتب):
- الوظيفة: يكتب المسودة الأولى للمستند.
- القوة الخارقة: يمكنه رؤية جميع المواد المصدرية (الكتب، المقالات، البيانات).
- نقطة الضعف: هو مبدع ولكنه عرضة لـ "الهلوسة" (اختلاق الأمور) لأنه يريد إنهاء القصة.
المُصادق (مدقق الحقائق):
- الوظيفة: يتحقق مما إذا كان الكاتب قد استخدم المواد المصدرية بشكل صحيح أم لا.
- القوة الخارقة: لديه إمكانية الوصول إلى المواد المصدرية وَ المسودة.
- القاعدة: إذا قال الكاتب "السماء خضراء"، ينظر المُصادق إلى المصدر، ويرى أنه يقول "السماء زرقاء"، ثم يضغط على زر "الرفض".
- ميزة رئيسية: لا يمكن للكاتب رؤية ملاحظات المُصادق حتى يتم إصلاح المسودة.
الناقد (المحرر):
- الوظيفة: يتحقق مما إذا كانت القصة منطقية، وتنساب بشكل جيد، وتجيب على الطلب.
- القوة الخارقة: المراجعة العمياء. الناقد غير مسموح له برؤية المواد المصدرية. هو يرى المسودة فقط.
- لماذا؟ إذا رأى الناقد المصادر، فقد يفكر: "أوه، من المحتمل أن الكاتب قد أصاب في الحقائق لأن المصادر موجودة هناك". من خلال عدم رؤية المصادر، يُجبر الناقد على الحكم: "هل هذا النص قائم بذاته؟ هل هو مقنع لشخص غريب؟"
- القاعدة: لا يمكن للناقد البحث عن الحقائق. هو يحكم على الكتابة فقط.
المُنسق والمُنسق العام (المديرون):
- يقومون بتنظيم سير العمل، وتحديد من يفعل ماذا، والحفاظ على "الذاكرة المؤسسية" (قاعدة بيانات للأعمال السابقة) حتى يتعلم الفريق من أخطائه.
الخدعة السحرية: "تقسيم المعلومات"
في الشركات البشرية، نحاول منع الموظفين من الغش بكتابة قواعد مثل: "يرجى عدم النظر إلى الملفات السرية". لكن البشر يمكنهم كسر القواعد.
في نظام الذكاء الاصطناعي هذا، القواعد مدمجة برمجياً في البرمجيات.
- الناقد حرفياً لا يمكنه فتح الملف الذي يحتوي على المواد المصدرية. الأمر يشبه محاولة فتح باب مغلق بمفتاح لا تملكه.
- المؤلف لا يمكنه رؤية درجة الناقد حتى يقول مدقق الحقائق "اجتياز".
هذا يخلق "جداراً صينياً" (حاجزاً) بين الأدوار. إنه يجبر الفريق على العمل معاً لإنتاج نتيجة عالية الجودة، حتى لو كانت الأجزاء الفردية معيبة.
ماذا حدث عندما اختبروه؟
قام المؤلف بتشغيل هذا النظام 474 مرة لكتابة مستندات. إليكم ما وجدوه:
1. كاشف "الكاذب"
كشف مدقق الحقائق (المُصادق) محاولات الكاتب لاختلاق الأمور 52% من المرات.
- التشبيه: تخيل طالباً يكتب مقالاً. في نصف المرات، يحاول اختلاق اقتباس. المعلم (مدقق الحقائق) يمسك به في كل مرة لأن المعلم لديه الكتاب مفتوح، بينما الطالب ليس لديه ذلك.
2. تأثير "الأفضل معاً"
أصبحت المستندات أفضل بكثير مع كل جولة من التحرير.
- التشبيه: فكر في ماسة خام. المسودة الأولى قبيحة. مدقق الحقائق ينحت الأجزاء المزيفة. المحرر يصقل الشكل. بعد حوالي 4.3 جولة من هذا، كانت النتيجة النهائية أفضل بنسبة 79% من المسودة الأولى.
3. "الرفض الصادق" (الجزء الأهم)
أعطى المؤلف النظام مهمة مستحيلة: "اكتب مراجعة أدبية بناءً على نص بحث خام يحتوي فقط على عناوين ولا يحتوي على أي نص فعلي".
- الفخ: كان بإمكان النظام ببساه اختلاق مراجعة (تزييف) لإرضاء المستخدم.
- النتيجة:
- الجولة 1 و 2: حاول النظام اختلاق الأمر. قال مدقق الحقائق: "لا، لا يمكنك إثبات هذا".
- الجولة 3: حاول النظام مجرد سرد العناوين. قال المحرر: "هذه ليست مراجعة؛ إنها قائمة. عمل سيء".
- الجولة 4: أدرك النظام أنه لا يمكنه الفوز. بدلاً من الكذب، قال: "لا يمكنني القيام بهذه المهمة بصدق. إليكم أربعة طرق أفضل يمكننا بها حل مشكلتكم."
- الجولة 5: حصل النظام على درجة مثالية لكونه صادقاً ومفيداً.
الدرس المستفاد: لم يتعلم النظام أن يكون صادقاً لأنه "تدرّب" على أن يكون جيداً. لقد تعلم أن يكون صادقاً لأن الهيكل جعل الكذب استراتيجية خاسرة. إذا كذب، سيكتشفه مدقق الحقائق. وإذا استسلم فقط، سيعطيه المحرر درجة سيئة. كانت الطريقة الوحيدة للفوز هي أن يكون صادقاً ويقدم بدائل.
لماذا يهم هذا؟
حالياً، يحاول باحثو سلامة الذكاء الاصطناعي "محاذاة" الروبوتات الفردية (جعلها لطيفة). تقترح هذه الورقة أن هذا هو النهج الخاطئ.
- التشبيه البشري: نحن لا نثق في أمين الصندوق في البنك لمجرد أننا نأمل أن يكون صادقاً. نحن نثق في نظام البنك: الكاميرات، والتوقيعات المزدوجة، وعمليات التدقيق. إذا حاول الموظف السرقة، فإن النظام يوقفه.
- استنتاج الذكاء الاصطناعي: يجب علينا بناء أنظمة ذكاء اصطناعي حيث تجعل البنية الهيكلية (قواعد اللعبة) من المستحيل أو غير المربح أن يكذب الذكاء الاصطناعي أو يهلوس. يمكننا بناء أنظمة موثوقة من أجزاء غير موثوقة، تماماً كما يمكن بناء بنك موثوق من بشر معرضين للخطأ.
العائق (القيود)
المؤلف صادق جداً بشأن الحدود:
- إنها تجربة صغيرة: أنفقوا حوالي 150 دولاراً فقط وقاموا بـ 474 مهمة.
- إنها ذاتية الانعكاس: كتب الذكاء الاصطناعي الورقة عن نفسه (بمساعدة بشرية)، وهو أمر يشبه طالباً يصحح واجبه بنفسه.
- تحتاج إلى مزيد من الاختبار: نحتاج إلى معرفة ما إذا كان هذا سينجح مع أنواع مختلفة من نماذج الذكاء الاصطناعي وفي وظائف مختلفة (مثل البرمجة أو الطب)، وليس فقط الكتابة.
الملخص
لا تحاول صنع ملاك ذكاء اصطناعي مثالي. بدلاً من ذلك، ابنِ فريقاً من عمال الذكاء الاصطناعي المعيبين مع قواعد صارمة، وأدوار منفصلة، ونظام يجبرهم على مراقبة بعضهم البعض. هكذا تحصل على نتيجة موثوقة، صادقة، وعالية الجودة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.