Automated alignment is harder than you think
تجادل الورقة بأن الاعتماد على وكلاء الذكاء الاصطناعي لأتمتة أبحاث المحاذاة أمر محفوف بالمخاطر لأن الصعوبة المتأصلة في الإشراف على المهام الغامضة تؤدي إلى أخطاء منهجية غير مكتشفة وتقييمات سلامة مفرطة في الثقة، مما قد يؤدي إلى النشر غير المقصود لذكاء اصطناعي فائق غير متوافق.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة "الأتمتة في محاذاة الذكاء الاصطناعي أصعب مما تعتقد" باستخدام لغة بسيطة وتشبيهات إبداعية.
الفكرة الكبرى: مشكلة "مفتش السلامة ذاتي القيادة"
تخẫل أنك تقوم ببناء أسطول من السيارات ذاتية القيادة. تريد التأكد من أنها آمنة قبل السماح لها بالقيادة على الطريق السريع. للقيام بذلك، توظف فريقًا من مفتشي السلامة البشريين لإجراء الاختبارات، وكتابة التقارير، وتحديد ما إذا كانت السيارات جاهزة.
تقترح الورقة خطة لتسريع هذه العملية: دع السيارات (أو وكلاء الذكاء الاصطناعي) توظف مفتشيها الخاصين.
الفكرة هي:
- بناء ذكاء اصطناعي ذكي بما يكفي للمساعدة في كتابة تقارير السلامة.
- استخدام هذا الذكاء الاصطناعي لبناء ذكاء اصطناعي أكثر ذكاءً.
- تكرار هذه العملية، وترك الذكاء الاصطناعي يقوم بمزيد ومزيد من عمليات فحص السلامة حتى يتولى هو العمل بالكامل.
تحذير المؤلفين: حتى لو كان هؤلاء المفتشون من الذكاء الاصطناعي صادقين ولا يحاولون خداع أحد، فإن هذه الخطة قد تؤدي إلى خطأ كارثي. قد نعتقد أن الجيل القادم من الذكاء الاصطناعي آمن تمامًا، فنقوم بنشره، ثم ندرك بعد فوات الأوان أنه في الواقع خطير.
لماذا؟ لأن وظيفة "فحص السلامة" مليئة بـ المهام الضبابية وصعبة الإشراف.
التشبيه 1: الوظيفة "الضبابية" مقابل الوظيفة "الواضحة"
لفهم الخطر، يميز المؤلفون بين نوعين من العمل:
- المهام الواضحة (اختبار الرياضيات): وهي التي لها إجابات صحيحة وخاطئة واضحة.
- مثال: "هل يعمل هذا الكود برمجياً؟" أو "هل 2 + 2 تساوي 4؟"
- لماذا هي سهلة: إذا أخطأ الذكاء الاصطناعي، يمكن للبشر رؤية الخطأ فوراً.
- المهام الضبابية (الناقد الفني): وهي التي ليس لها إجابة صحيحة واضحة.
- مثال: "هل هذه اللوحة جميلة؟" أو "هل تثبت هذه التجربة أن السيارة آمنة؟"
- لماذا هي صعبة: غالباً ما يختلف الخبراء حولها. لا يوجد نموذج واحد للإجابة الصحيحة.
المشكلة: إن عملية محاذاة الذكاء الاصطناعي (التأكد من أنه يفعل ما نريده) تتكون بالكامل تقريبًا من مهام ضبابية. لا يمكننا مجرد إجراء اختبار لمعرفة ما إذا كان الذكاء الاصطناعي "صادقًا" لأننا لا نستطيع تركه ينطلق في العالم الحقيقي لنرى ما إذا كان يكذب أم لا. بدلاً من ذلك، يتعين علينا النظر إلى "المؤشرات" (الدلائل)، مثل التحقق مما إذا كان يقول الحقيقة في بيئة محاكاة.
إن اتخاذ قرار بشأن ما إذا كان المؤشر جيدًا بما يكفي لإثبات السلامة هو مهمة ضبابية. فهي تتطلب حكماً بشرياً، والبشر سيئون في رصد الأخطاء في المهام الضبابية.
التشبيه 2: "الخطأ الفضائي"
إذا ارتكب مفتش سلامة بشري خطأً، فغالباً ما يبدو كخطأ بشري (مثل: فاتته تفصيلة لأنه كان متعباً، أو أساء فهم كلمة ما).
لكن إذا ارتكب مفتش الذكاء الاصطناعي خطأً، فقد يبدو كـ "خطأ فضائي".
- الاستعارة: تخيل طباخاً بشرياً وطباخاً فضائياً يحاولان خبز كعكة. قد يحرق الإنسان الكعكة لأنه نسي ضبط المؤقت. أما الفضائي فقد يخبز كعكة تبدو مثالية ولكنها في الواقع مصنوعة من الزجاج لأنه لا يفهم مفهوم "قابل للأكل".
- الخطر: المراجعون البشر مدربون على رصد الأخطاء البشرية. قد ينظرون إلى تقرير الذكاء الاصطناعي، ويرون أنه يبدو احترافياً، فيوافقون عليه. لن يدركوا أن الذكاء الاصطناعي ارتكب خطأً منطقياً جوهرياً لا يشبه الأخطاء البشرية في شيء.
الطريقتان اللتان يفشل بهما النظام
تقول الورقة إن فحص السلامة المؤتمت يمكن أن يفشل بطريقتين محددتين، مما يؤدي إلى شعور زائف بالأمان:
1. فشل "المخرجات السيئة" (على مستوى المخرجات)
يكتب مفتش الذكاء الاصطناعي تقريراً يبدو مثالياً ولكنه يحتوي على خطأ منهجي خفي.
- التشبيه: يكتب الذكاء الاصطناعي تقرير سلامة يقول فيه: "المكابح تعمل!" لأنه أجرى اختباراً نجحت فيه المكابح. لكن الذكاء الاصطناعي أغفل خللاً دقيقاً في كيفية تصميم الاختبار (فشل بسبب "قانون جودهارت"). يرى المراجع البشري التقرير، ويعتقد "رائع، المكابح تعمل"، فيوقع بالموافقة. لم يتم اكتشاف الخطأ لأن المهمة كانت ضبابية للغاية بحيث يصعب فحصها بسهولة.
2. فشل "الرياضيات السيئة" (على مستوى التجميع)
هذا هو الجزء الأكثر تعقيداً. تخيل أن الذكاء الاصطناعي يجري عشر تجارب مختلفة. جميع التجارب العشر صحيحة في حد ذاتها.
- الفخ: يفترض الذكاء الاصطناعي (والبشر) أن هذه التجارب العشر مستقلة (مثل رمي عشر قطع نرد). إذا رميت عشر قطع نرد وحصلت على الرقم ستة في جميع المرات، فهذا أمر نادر.
- الواقع: نظرًا لأن جميع التجارب العشر تم تصميمها بواسطة نفس الذك-الاصطناعي وباستخدام نفس الكود ونفس الافتراضات، فهي مرتبطة. إنها جميعاً "متصلة". إذا كان أحدها خاطئاً، فستكون جميعها خاطئة بنفس الطريقة.
- النتيجة: يجمع الذكاء الاصطناعي الأدلة من التجارب العشر ويقول: "هناك احتمال بنسبة 99.9% أن هذا آمن!". ولكن لأن التجارب كانت مرتبطة، فإن فرصة السلامة الحقيقية قد تكون 50% فقط. لقد قام الذكاء الاصطناعي بـ "العد المزدوج" لنفس الدليل، مما خلق ثقة زائفة.
لماذا لا يمكننا مجرد "الإصلاح لاحقاً"؟
في العلوم العادية، إذا ارتكبت خطأً، يمكنك إعادة التجربة مرة أخرى، أو سيجد شخص آخر الخطأ لاحقاً.
- قاعدة "لا فرصة ثانية": في سلامة الذكاء الاصطناعي، لا يمكننا انتظار فرصة ثانية. إذا نشرنا ذكاءً اصطناعياً غير متوافق لأننا اعتقدنا أنه آمن، فقد يتسبب في ضرر لا يمكن إصلاحه (مثل قطار خارج عن السيطرة) قبل أن ندرك أننا ارتكبنا خطأً. نحن بحاجة لأن ينجح الذكاء الاصطناعي في المهام الضبابية من المرة الأولى.
الحلول المقترحة (ولماذا هي صعبة)
تقترح الورقة طريقتين للإصلاح، لكنها تعترف بأن كلتيهما مشكلات غير محلولة حالياً:
1. التعميم (نهج "عجلات التدريب")
- الفكرة: تدريب الذكاء الاصطناعي على مهام سهلة وواضحة (مثل الرياضيات) والأمل في أن يصبح بارعاً فيها لدرجة تجعله بارعاً بشكل طبيعي في مهام السلامة الصعبة والضبابية.
- المشكلة: لا يمكننا معرفة ما إذا كان ذلك ينجح. إذا كان الذكاء الاصطناعي سيئاً في المهمة الضبابية، فلا يمكننا قياس ذلك مباشرة (لأن المهمة ضبابية). نحن نطير بلا عيون، آملين أن تكون عجلات التدريب قد ساعدت.
2. الإشراف القابل للتوسع (نهج "المناظرة")
- الفكرة: تقسيم سؤال السلامة الكبير والضبابي إلى أسئلة صغيرة وسهلة يمكن للبشر الإجابة عليها.
- المشكلة: حتى الأسئلة الصغيرة قد تظل ضبابية. بالإضافة إلى ذلك، كما ذكرنا في "فشل الرياضيات السيئة"، من الصعب جداً دمج إجابات تلك الأسئلة الصغيرة دون الوقوع في فخ العد المزدوج للارتباطات. الطرق الحالية لا تعرف كيفية التعامل مع هذا "الارتباط غير اليقيني".
الخلاصة
تخلص الورقة إلى أن أتمتة أبحاث سلامة الذكاء الاصطناعي أصعب مما نعتقد.
حتى لو كان الذكاء الاصطناعي صادقاً، فإن طبيعة العمل (المهام الضبابية والصعبة التي يصعب الإشراف عليها) تعني أنها ستنتج تقارير تبدو مقنعة ولكنها تحتوي على أخطاء منهجية خفية. ولأننا لا نستطيع اكتشاف هذه الأخطاء بسهولة (لأنها "فضائية" أو "مرتبطة")، فقد ننشر بالخطأ ذكاءً اصطناعياً خطيراً بينما نعتقد أنه آمن تماماً.
نحن بحاجة إلى معرفة كيفية تدريب الذكاء الاصطناعي ليكون موثوقاً في هذه المهام الضبابية قبل أن نتركهم يتولون مهمة فحص أنفسهم.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.