Stop Saying "AI"
باستخدام المجال العسكري كدراسة حالة، تجادل هذه الورقة بأن مصطلح "الذكاء الاصطناعي" الفضفاض وغير الدقيق يحجب تمايزات جوهرية بين الأنظمة المختلفة، مما يعيق النقاش الفعال ويستلزم تحولاً نحو مناقشات دقيقة حول تقنيات محددة وما تنطوي عليه من مخاطر وفوائد فريدة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
توقف عن قول "الذكاء الاصطناي" (AI): لماذا نحتاج للتوقف عن استخدام كلمة واحدة لكل شيء
تخيل أنك دخلت إلى متجر للأدوات وطلبت من البائع "أداة". فقام بإعطائك مطرقة، ومفكاً، ومنشاراً كهربائياً، وملقطاً، وكلها مغلفة في صندوق واحد كبير مكتوب عليه "أداة".
سألت: "هل يمكنني استخدام هذه لإصلاح أنبوب مسرب؟"
قال البائع: "حسناً، إنها أداة، لذا ربما؟"
حاولت استخدام المنشار الكهربائي على الأنبوب. كارثة.
حاولت استخدام الملقط لطرقة مسمار. إحباط.
هذا هو بالضبط ما يجادل به مؤلفو هذه الورقة البحثية مما يحدث عندما نتحدث عن "الذكاء الاصطناعي" (AI).
الورقة، التي كتبها فريق من الخبراء من جامعات ومعاهد بحثية، تجادل بأن "الذكاء الاصطناعي" ليس شيئاً واحداً. إنه ليس آلة محددة مثل محمصة خبز أو سيارة. بدلاً من ذلك، هو أشبه بـ "الكهرباء". يمكنك استخدام الكهرباء لتشغيل مصباح، أو ميكروويف، أو جهاز تنفس في مستشفى، أو مفاعل نووي. كل استخدام مختلف تماماً، وله مخاطر مختلفة، ويتطلب قواعد مختلفة.
يقول المؤلفون: توقفوا عن قول "الذكاء الاصطناعي" وابدأوا في قول ما تعنونه بالضبط.
إليك تفصيل لحجتهم، باستخدام تشبيهات بسيطة.
1. المشكلة: ارتباك "السكين السويسري"
عندما يناقش الناس "الذكاء الاصطناعي في المجال العسكري"، فإنهم غالباً ما يعاملونه كوحش واحد ضخم. يتساءلون: "هل الذكاء الاصطناعي خطير؟" أو "هل يجب أن نحظر الذكاء الاصطناعي؟"
يقول المؤلفون إن هذا يشبه السؤال: "هل الكهرباء خطيرة؟"
- إذا استخدمت الكهرباء لتشغيل جهاز تنظيم ضربات القلب، فهي تنقذ الأرواح.
- إذا استخدمت الكهرباء لتشغيل كرسي الإعدام، فهي تزهق الأرواح.
- إذا استخدمت الكهرباء لتشغيل محمصة خبز، فهي فقط تصنع لك الإفطار.
الخطر ليس في الكهرباء نفسها؛ بل في كيفية استخدامك لها. من خلال حشر كل شيء تحت مسمى "الذكاء الاصطناعي"، نحن نربك الحوار. قد نحظر أداة طبية منقذة للحياة لأننا خائفون من سلاح خطير، أو قد نسمح لسلاح خطير بالمرور لأننا نعتقد أنه مجرد آلة حاسبة غير ضارة.
2. دراسة حالة عسكرية: حديقة حيوان من الآلات المختلفة
لإثبات وجهة نظرهم، ينظر المؤلفون إلى المجال العسكري. يوضحون أن "الذكاء الاصطناعي العسكري" هو في الواقع حديقة حيوان من الحيوانات المختلفة جداً. إليكم الأنواع الرئيسية التي وجدوها:
أ. "المساعد الذكي" (دعم القرار)
- ما هو: كمبيوتر يقرأ ملايين التقارير، ويستمع إلى دردشة الراديو، ويلخصها لجنرال بشري.
- التشبيه: يشبه مساعد بحث فائق السرعة يقوم بتحديد الجمل الأكثر أهمية في كتاب مكون من 1000 صفحة.
- الخطر: إذا قام المساعد بتحديد الجمل الخاطئة (بسبب سوء فهم لنكتة أو لهجة)، فقد يتخذ الجنرال قراراً سيئاً. الإنسان لا يزال هو المسؤول، لكنه قد يثق في المساعد أكثر من اللازم.
ب. "درون القناص" (الأسلحة ذاتية التشغيل)
- ما هو: طائرة بدون طيار (درون) أو صاروخ يمكنه تحديد هدف وإطلاقه دون أن يضغط إنسان على الزر في تلك اللحظة تحديداً.
- التشبيه: يشبه كلب حراسة مدرب على عض أي شخص يتخطى السياج. إذا رأى الكلب جاراً يسير بجانبه، هل سيعضه؟
- الخطر: قد يرتبك "الكلب الذكي" بسبب ظل أو زي تنكري. إذا ارتكب "الكلب الذكي" خطأً، فإنه يقتل شخصاً ما. السؤال هنا هو: هل يمكن لآلة حقاً أن تقرر من يعيش ومن يموت؟
ج. "السرب" (أسراب الدرونز)
- ما هو: مئات الطائرات الصغيرة التي تطير معاً، تتواصل فيما بينها، وتهاجم كمجموعة.
- التشبيه: تخيل سرباً من الأسماك. لا توجد سمكة واحدة تقود السرب؛ هم يتحركون معاً بناءً على قواعد بسيطة. إذا حاولت إيقاف سمكة واحدة، ستستمر البقية في الحركة.
- الخطر: قد لا نفهم حتى لماذا يفعل السرب ما يفعله. الأمر يشبه مشاهدة خدعة سحرية حيث يكون السرب نفسه هو الساحر. إذا خرجوا عن السيطرة، فمن الصعب إيقافهم.
د. "مدير اللوجستيات" (الصيانة والبيروقراطية)
- ما هو: ذكاء اصطناعي يتنبأ بموعد تعطل محرك الطائرة، أو ذكاء اصطناعي يساعد الجنود في كتابة رسائل البريد الإلكتروني والعثور على وثائق السياسات.
- التشبيه: هذا هو "مدير المكتب" أو "الميكانيكي". إنه لا يقاتل؛ بل يحافظ على سير العمل.
- الخطر: إذا أخطأ الذكاء الاصطناعي الخاص بالميكانيكي، فقد تتحطم الطائرة. إذا قام ذكاء المكتب "بالهلوسة" (اختلاق أمور من العدم) بشأن قانون ما، فقد يخالف الجنود القواعد دون علمهم.
3. لماذا لا ينجح مبدأ "مقاس واحد يناسب الجميع"
يشير المؤلفون إلى أن المشكلات المتعلقة بهذه الأنظمة مختلفة تماماً:
- المشكلة في "المساعد الذكي" هي أنه قد يكذب عليك أو يجعلك كسولاً (تتوقف عن التفكير بنفسك).
- المشكلة في "درون القناص" هي أنه قد يقتل شخصاً بريئاً عن طريق الخطأ.
- المشكلة في "ذكاء المكتب" هي أنه قد يسرب بيانات سرية أو يعطيك قوانين مزيفة.
إذا حاولنا كتابة قانون واحد لإصلاح "الذكاء الاصطناعي"، فسنفشل. القانون الذي يمنع درون القناص قد يمنع بالخطأ ذكاءً اصطناعياً طبياً منقذاً للحياة. القانون الذي يمنع سرب الدرونز قد يمنع حاسوباً لوجستياً مفيداً.
4. الحل: كن دقيقاً!
نصيحة المؤلفين الرئيسية بسيطة: كن دقيقاً.
بدلاً من قول:
"نحن بحاجة لتنظيم الذكاء الاصطناعي في المجال العسكري."
يجب أن نقول:
"نحن بحاجة لتنظيم الطائرات بدون طيار ذاتية التشغيل التي يمكنها الإطلاق دون موافقة بشرية."
"نحن بحاجة لتنظيم الذكاء الاصطناعي الذي يكتب الوثائق القانونية."
"نحن بحاجة لتنظيم الذكاء الاصطناعي الذي يحلل صور الأقمار الصناعية."
الخلاصة الكبرى
"الذكاء الاصطناعي" ليس صندوقاً سحرياً. إنه صندوق أدوات.
- بعض الأدوات هي مطارق (خطيرة إذا لوحت بها نحو قدمك).
- بعض الأدوات هي مفكات (مفيدة لإصلاح الأشياء).
- بعض الأدوات هي مشارط (دقيقة، لكنها قاتلة إذا استُخدمت بشكل خاطئ).
تحث الورقة العلماء والسياسيين والجمهور على التوقف عن استخدام الكلمة الغامضة "الذكاء الاصطناعي". إذا أردنا إجراء حوار حقيقي حول السلامة والأخلاق والمستقبل، فنحن بحاجة للنظر إلى الأداة المحددة التي في أيدينا، وليس إلى صندوق الأدوات بأكمله.
باخت-صريح: لا تسأل، "هل الذكاء الاصطناعي جيد أم سيء؟" بل اسأل، "هل هذا الذكاء الاصطناعي المحدد يقوم بهذا العمل المحدد بأمان؟"
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.