To Build or Not to Build? Factors that Lead to Non-Development or Abandonment of AI Systems
تتقصى هذه الورقة العوامل غير المستكشفة التي تؤدي إلى عدم تطوير أو التخلي عن أنظمة الذكاء الاصطناعي من خلال دمج مراجعة استقصائية وبيانات حالات تجريبية للكشف عن أنه، بعيداً عن المخاوف الأخلاقية، تؤثر روافع عملية متنوعة مثل قيود الموارد، والقضايا القانونية، والديناميكيات التنظيمية بشكل كبير على هذه القرارات الحاسمة التي تسبق مرحلة النشر.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالم الذكاء الاصطناعي كأنه موقع بناء ضخم وصاخب. عادةً، عندما نسمع عن الذكاء الاصطناعي، تدور الأخبار حول المباني التي اكتملت، وناطحات السحاب التي ارتفعت، وكيف يعيش الناس فيها. نحن نتحدث عن "استخدام" و"تأثير" هذه الهياكل المكتملة.
لكن هذه الورقة البحثية تطرح سؤالاً مختلفاً: ماذا عن جميع مواقع البناء التي هُجرت؟ ماذا عن المنازل نصف المكتملة، والمخططات التي تم تجعيدها، والرافعات التي أُطفئت قبل وضع أول طوبة؟
يجادل المؤلفان، شريا تشابيدي وجاتيندر سينغ، بأننا نتجاهل جزءاً كبيراً من القصة. إنهما يريدان فهم لماذا تقرر المؤسسات عدم بناء نظام ذكاء اصطناعي، أو لماذا تتوقف عن بنائه في منتصف الطريق.
إليك تبسيط لنتائجهما باستخدام بعض التشبيهات من الحياة اليومية.
سوء الفهم الكبير
يعتقد معظم الناس أن الشركات تتوقف عن بناء الذكاء الاصطناعي لأنها أدركت فجأة: "أوه لا، هذا غير أخلاقي!" أو "هذا خطير!".
تقول الورقة البحثية: هذا ليس إلا جزءاً من القصة.
بينما تعتبر المخاوف الأخلاقية (مثل التحيز أو الخصوصية) مهمة، إلا أنها غالباً ما تكون مجرد قمة جبل الجليد. في العالم الحقيقي، غالباً ما تتخلى الشركات عن مشاريع الذكاء الاصطناعي لأسباب عملية وأكثر رتابة—مثل نفاذ المال، أو نفاذ الوقت، أو إدراك أن الحسابات الرياضية ببساطة لا تعمل.
الأسباب الستة لتوقف البناء (التصنيف)
نظر الباحثون في مئات التقارير وتحدثوا إلى المهندسين لإنشاء "قائمة" بالأسباب التي تؤدي لإلغاء مشاريع الذكاء الاصطنا العلمي. ووجدوا ست فئات رئيسية:
المخاوف الأخلاقية (اختبار "الضمير"):
- التشبيه: يدرك المهندس المعماري أن المنزل يُبنى فوق مقبرة أو أنه سيحجب ضوء الشمس عن الجيران.
- الواقع: يخشى الفريق أن الذكاء الاصطناعي قد يميز ضد الناس، أو ينتهك الخصوصية، أو يُستخدم لأشياء سيئة (مثل الأسلحة).
تعليقات أصحاب المصلحة (اجتماع "البلدية"):
- التشبيه: يجتمع الجيران، أو العمال، أو السكان المستقبليون ويقولون: "لا نريد هذا المبنى هنا"، أو "سنضرب عن العمل إذا بنيتموه".
- الواقع: يعترض الموظفون، أو العملاء، أو الناشطون. قد يحتجون، أو يرفضوا استخدام الأداة، أو يهددون بالاستقالة، مما يجبر الشركة على التوقف.
تحديات دورة حياة التطوير (مشكلات "المخططات"):
- التشبيه: تحاول بناء جسر، لكنك تدرك أن النهر واسع جداً، أو أن الفولاذ ضعيف للغاية، أو أنك لا تعرف كيف تصب الخرسانة.
- الواقع: البيانات مشوشة أو مفقودة، أو النموذج لا يتعلم بشكل صحيح، أو أن الرياضيات صعبة الحل للغاية. يصطدم المشروع بحائط تقني لا يمكن تسلقه.
الديناميكيات التنظيمية (سياسات "المكتب"):
- التشبيه: يغير المدير رأيه، أو يتم قطع ميزانية القسم، أو أن الفريق الذي يتصارع على من يتولى القيادة لا يستطيع الاتفاق على ما يجب بناؤه.
- الواقع: تتغير استراتيجية الشركة، أو يفقد القادة الاهتمام، أو يكون لدى الفرق المختلفة أهداف متضاربة. يفقد المشروع دعمه الداخلي ببساطة.
قيود الموارد (المحفظة الفارغة):
- التشبيه: لديك خطة رائعة لبناء قصر، لكن ليس لديك سوى مال يكفي لبناء كوخ. أو، لا تملك الأدوات الصحيحة أو العمال المناسبين.
- الواقع: البناء أو الصيانة مكلفان للغاية. لا يملكون حواسيب قوية كافية (GPUs)، أو بيانات كافية، أو مهندسين مهرة كافيين. أحياناً، يكون شراء أداة من شخص آخر أرخص من بنائها بأنفسهم.
المخاوف القانونية والتنظيمية (مشكلات "التصاريح"):
- التشبيه: مجلس التخطيط في المدينة يقول: "لا يمكنك البناء هنا"، أو "أنت بحاجة إلى تصريح لا يمكننا الحصول عليه".
- الواقع: القوان Laws الجديدة (مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي) أو قواعد خصوصية البيانات (مثل GDPR) تجعل المشروع عالي المخاطر أو مستحيلاً قانونياً.
ما أظهرته البيانات بالفعل
نظر الباحثون في مجموعتين مختلفتين من القصص لمعرفة ما يحدث حقاً:
المجموعة 1: قصص "الأخبار" (قواعد بيانات الحوادث)
- هذه هي الإخفاقات الشهيرة التي تصدرت العناوين (مثل نظام التعرف على الوجوه الذي أُغلق لأنه عنصري).
- النتيجة: في هذه القصص العامة، تبرز المخاوف الأخلاقية وتعليقات أصحاب المصلحة كأبطال للقصة. وهذا منطقي لأن هذه هي القصص التي تنقلها الأخبار.
المجموعة 2: قصص "الكواليس" (استطلاع آراء الممارسين)
- هذه هي الإخفاقات الهادئة التي حدثت داخل الشركات ولم تصل أبداً إلى الأخبار.
- النتيجة: هنا، القصة مختلفة تماماً. كانت الأسباب الأكثر شيوعاً للتوقف هي التحديات التقنية (لم يعمل النظام)، وقيود الموارد (كان مكلفاً للغاية)، والديناميكيات التنظيمية (تغير رأي الإدارة).
- رؤية جوهرية: العديد من المشاريع قُتلت قبل أن تصل إلى المرحلة العامة لأنها كانت صعبة للغاية، أو مكلفة للغاية، أو ببساطة لم تكن مناسبة للشركة.
"المشاريع الشبحية"
تشير الورقة أيضاً إلى أن بعض المشاريع تُلغى، ولكنها تعود للحياة لاحقاً.
- التشبيه: يتوقف البناء في منزل بسبب المطر. بعد عامين، تشرق الشمس، ويبدأون في حفر الأساس مرة أخرى.
- الواقع: غالباً ما توقف الشركات مشروعاً ما، بانتظار تكنولوجيا أفضل أو تكاليف أقل، ثم تحاول بناءه مجدداً. أو قد يلغون ميزة معينة (مثل التعرف على الوجوه) لكنهم يحتفظون ببقية النظام.
الخلاصة الرئيسية
يقول المؤلفان لمجتمع الذكاء الاصطناعي: "توقفوا عن النظر فقط إلى المباني المكتملة والفضائح الأخلاقية."
لفهم كيفية جعل الذكاء الاصطناعي آمناً ومسؤولاً حقاً، نحتاج إلى فهم مرحلة البناء. نحن بحاجة لمساعدة الشركات على إدراك أن قرار عدم البناء هو خيار صالح، وذكي، وضروري أحياناً.
هما يقترحان أننا بحاجة إلى أدوات وقوائم تحقق أفضل لمساعدة المؤسسات على التساؤل:
- "هل لدينا حقاً المال والمهارات لإنهاء هذا؟"
- "هل المشكلة التقنية قابلة للحل؟"
- "هل هذا هو الوقت المناسب للبناء؟"
إذا تمكنا من تسهيل قول الشركات لـ "لا، لا ينبغي لنا بناء هذا" لأسباب عملية، فقد نمنع الكثير من المشكلات المستقبلية قبل أن تبدأ حتى.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.