What Should Frontier AI Developers Disclose About Internal Deployments?
تقترح هذه الورقة إطار عمل لمطوري الذكاء الاصطناعي الرائدين للإفصاح عن معلومات محددة تتعلق بنماذجهم الداخلية المنشورة — مصنفة حسب القدرات، والاستخدام، وتدابير السلامة، والحوكمة — لضمان السلامة والرقابة مع تحقيق التوازن بين الشفافية والمخاطر المحتملة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
مشكلة "المختبر السري": لماذا نحتاج للتلصص على مصانع الذكاء الاصطناعي
تخيل أنك تعيش بجوار مصنع ضخم وعالي التقنية. لسنوات، كنت ترى المنتجات النهائية التي يشحنونها — سيارات لامعة، أجهزة ذكية، وأدوات منزلية. أنت تعرف كيف تعمل لأنك تستخدمها كل يوم.
لكن مؤخرًا، لاحظت شيئًا غريبًا. في داخل المصنع، بدأوا باستخدام روبوتات فائقة الذكاء لبناء المنتجات. هذه الروبوتات لا تكتفي بنقل الصناديق فحسب؛ بل هي من يصمم المخططات، ويكتب البرمجيات، بل ويقرر حتى كيف يجب أن يكون شكل الجيل القادم من الآلات.
المشكلة؟ أبواب المصنع موصدة بإحكام. ليس لديك أدنى فكرة عما إذا كانت هذه "الروبوتات البانية" تتبع القواعد، أو ما إذا كانت تكسر الأشياء عن طريق الخطأ، أو ما إذا كانت تعيد تصميم المصنع سرًا ليعمل لصالحها بدلاً من البشر.
هذه الورقة، التي كتبها باحثون في MATS، هي في الأساس "بيان شفافية" لمصانع الذكاء الاصطناعي هذه.
القضية الجوهرية: نقطة العمى في "الانتشار الداخلي"
في عالم الذكاء الاصطناعي، "الانتشار الداخلي" (IDMs) هي تلك الروبوتات فائقة الذكاء. وهي نماذج ذكاء اصطناعي تُستخدم داخل الشركات (مثل OpenAI أو Anthropic) للمساعدة في بناء ذكاء اصطناعي أفضل وأكثر تطورًا.
في الوقت الحالي، لا يرى العالم سوى "المنتجات النهائية" (الذكاء الاصطناعي الذي تدردش معه عبر هاتفك). نحن عميان تمامًا عن "الذكاء الاصطناعي الباني" الذي يعمل خلف الكواليس. إذا ارتكب "الذكاء الاصطناعي الباني" خطأً في مخطط أو قطعة برمجية، فقد يتسبب في خلق "خلل" يظل مخفيًا حتى فوات الأوان.
الحل: نظام الملفات ذو المجلدات الأربعة
يجادل المؤلفون بأنه إذا أرادت هذه الشركات كسب ثقتنا، فلا ينبغي لها أن تكتفي بإظهار السيارة النهائية لنا؛ بل يجب أن تظهر لنا "تقرير سلامة" حول روبوتاتها البانية. وهم يقترحون تنظيم هذه المعلومات في أربعة "مجلدات":
- مجلد "العضلات" (القدرات): ما مدى قوة هذه الروبوتات؟ هل يمكنها كتابة الأكواد البرمجية؟ هل يمكنها اختراق الأنظمة؟ نحن بحاجة لمعرفة ما إذا كانت هذه الروبوتات تزداد قوة بشكل مطرد خلف الأبواب المغلقة.
- مجلد "الوصف الوظيفي" (الاستخدام): ما الذي تفعلونه بالضبط؟ هل يساعدون البشر فقط في كتابة رسائل البريد الإلكتروني، أم أنهم يعيدون تصميم نظام أمن المصنع بشكل مستقل؟
- مجلد "حزام الأمان" (التدابير الوقائية): ما الذي يمنع الروبوت من التمرد؟ هل لديهم "مفاتيح إيقاف"؟ هل هناك مشرفون بشريون يراقبون كل حركة، أم أن الروبوتات تُترك بمفردها لساعات طويلة؟
- مجلد "كتاب القواعد" (الحوكمة): ما هي قوانين الشركة؟ إذا بدأ روبوت في التصرف بغرابة، هل هناك بروتوكول للإبلاغ عن ذلك؟ ومن يُسمح له بلمس "أجهزة التحكم الرئيسية"؟
"ولكن، ألن يؤدي ذلك لتسريب أسرارنا؟" (الحجة المضادة)
قد تقول الشركات: "إذا أخبرنا الجميع كيف تعمل روبوتاتنا، فسيسرق المنافسون وصفاتنا!"
لدى الباحثين رد ذكي على ذلك. فهم يقترحون نظامًا لـ "الإفصاح ثنائي المستويات":
- الملخص العام: مثل الملصق الغذائي على علبة حبوب الإفطار. يخبرك بالأشياء الكبيرة (السعرات الحرارية، السكر) دون الكشف عن مزيج التوابل السري.
- التدقيق الخاص: مثل الفحص الطبي العميق. تشارك الشركة التفاصيل الحساسة للغاية و"السرية" مع أطباء موثوقين (من المنظمين والخبراء المستقلين) الملتزمين قانونًا بالحفاظ على الأسرار، ولكن يمكنهم إخبارنا ما إذا كان المريض يتمتع بصحة جيدة.
الخلاصة
هذه الورقة هي دعوة للعمل للمشرعين ومطوري الذكاء الاصطناعي. تقول: "لا يمكننا فقط مراقبة واجهة المتجر؛ بل نحتاج لمعرفة ما يحدث داخل الورشة." من خلال إنشاء طريقة معيارية للتقرير عن "الذكاء الاصطناعي الباني" الداخلي هذا، يمكننا التأكد من أن الآلات التي تبني مستقبلنا تتبع تعليماتنا بالفعل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.