Astra: AI Safety, Trust, & Risk Assessment
تقدم هذه الورقة "ASTRA"، وهي قاعدة بيانات لمخاطر سلامة الذكاء الاصطناعي ذات سياق محدد، صُممت لمعالجة التحديات الاجتماعية والتقنية الفريدة في الهند — مثل التمييز القائم على الطبقة والاستبعاد اللغوي — من خلال توظيف تصنيف سببي ثلاثي الأبعاد وأنطولوجيا قابلة للتوسع لتصنيف وتخفيف المخاطر الناجمة عن عيوب التصميم في قطاعات مثل التعليم والإقراض المالي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل الهند كمدينة ضخمة وصاخبة يقطنها 1.5 مليار نسمة، بمئات اللغات المختلفة، وبطريقة فريدة في إدارة شؤونها: استخدام الأدوات الرقمية (مثل Aadhaar وUPI) لمساعدة الجميع في الحصول على الغذاء والمال والتعليم. هذا معجزة هندسية.
الآن، تخيل أننا على وشك توظيف مساعد جديد، ذكي للغاية ولكنه يفتقر للخبرة، لهذه المدينة: الذكاء الاصطناعي (AI). هذا المساعد يمكنه كتابة القصائد، وحل المسائل الرياضية، وتقديم النصائح. ولكن، مثل أي مساعد جديد، لديه عادة في ارتكاب الأخطاء، وأحياناً تكون أخطاءً خطيرة.
هذه الورقة البحثية، التي تحمل عنوان ASTRA، هي بمثابة دليل سلامة مكتوب خصيصاً للهند. تقول: "لا يمكننا مجرد نسخ ولصق قواعد السلامة من أمريكا أو أوروبا. الهند فريدة جداً. نحن بحاجة إلى كتاب قواعد خاص بنا لضمان ألا يؤذي المساعد الذكي (الذكاء الاصطناعي) الناس الذين يحاول مساعدتهم عن غير قصد".
إليك شرح الورقة بكلمات بسيطة، باستخدام بعض التشبيهات الإبداعية.
1. المشكلة: المساعد "المهلوس"
في الغرب، يقلق الناس من استيلاء الذكاء الاصطناعي على العالم أو تحول الروبوتات إلى كائنات شريرة. أما في الهند، فالمخاوف أكثر واقعية: ماذا لو قدم الذكاء الاصطناعي نصيحة سيئة لمزارع فقير أو صاحب متجر صغير؟
- التشبيه: تخيل مرشداً سياحياً في مدينة أجنبية يتحدث الإنجليزية بطلاقة ولكنه لم يزر المدينة فعلياً. يخبر السياح بكل ثقة: "الجسر آمن!" بينما هو في الواقع متهالك. المرشد لا يكذب؛ هو فقط لا يعرف الواقع.
- نقطة الورقة: نماذج الذكاء الاصطناعي تشبه ذلك المرشد السياحي. لقد تم تدريبها على بيانات من الدول الغنية ("الشمال العالمي"). وعندما تحاول مساعدة مزارع هندي أو طالب في قرية، قد "تهلوس" (تختلق أشياء من خيالها) أو تقدم نصيحة لا تتناسب مع الثقافة المحلية، أو اللغة، أو مستويات الفقر.
2. الفكرة الجوهرية: "مخاطر السلامة" مقابل "المخاطر النظامية"
يفرق المؤلفون بين نوعين من المخاطر:
- مخاطر سلامة الذكاء الاصطناعي (ASRs): وهي الأخطاء الناتجة عن تصميم الذكاء الاصطناعي.
- التشبيه: سيارة بها دواسة مكابح تم تركيبها بشكل مقلوب من قبل المصنع. مهما كان السائق ماهراً، لن تتوقف السيارة. هذا عيب في التصميم.
- مثال: تطبيق قروض ذكي يرفض طلب امرأة لأن بيانات التدريب كانت معظمها عن الرجال. "المكابح" (الخوارزمية) هنا معطلة.
- المخاطر النظامية: وهي مشاكل مجتمعية كبيرة ومعقدة قد يجعلها الذكاء الاصطناعي أسوأ، لكنها ليست بالضرورة "خطأ" الذكاء الاصطناعي نفسه.
- التشبيه: إذا بدأ الجميع في قيادة السيارات، ستحدث ازدحامات مرورية. السيارة لم تصمم الازدحام المروري؛ المجتمع هو من فعل.
- مثال: الذكاء الاصطناعي الذي يسلب الوظائف. تقول الورقة: "سنقلق بشأن ذلك لاحقاً. الآن، دعونا نصلح المكابح المعطلة".
3. لماذا تحتاج الهند إلى كتاب قواعد خاص بها؟
تجادل الورقة بأن قواعد السلامة الغربية تشبه المعاطف الشتوية. هي رائعة في نيويورك أو لندن، ولكن إذا ارتديت معطفاً شتوياً ثقيلاً في حرارة دلهي، فسوف ترتفع درجة حرارة جسمك وتمرض.
- عامل "الطبقة الاجتماعية": الذكاء الاصطناعي الغربي لا يفهم نظام الطبقات في الهند. قد لا يدرك الذكاء الاصطناعي أن اسماً معيناً أو اسم قرية يوحي بوضع اجتماعي محدد يؤثر على كيفية معاملة الشخص.
- عامل "الاتصال": يفترض الذكاء الاصطناعي الغربي أن لديك إنترنت فائق السرعة (5G). في ريف الهند، قد يكون الإنترنت بطيئاً أو معدوماً. إذا تعطل تطبيق ذكاء اصطناعي بسبب عدم وجود إشارة، فإن ذلك يمثل خطراً على مزارع يحاول التحقق من أسعار المحاصيل.
- عامل "اللغة": تمتلك الهند مئات اللهجات. قد لا يفهم الذكاء الاصطناعي المدرب على اللغة الهندية القياسية لهجةً قبلية معينة، مما يؤدي إلى حصول الشخص الخطأ على المعونة الحكومية.
4. الحل: قاعدة بيانات "ASTRA"
أنشأ المؤلفون قاعدة بيانات للمخاطر (قائمة ضخمة بالأشياء التي يمكن أن تسوء). لم يعتمدوا على التخمين في تحديد هذه المخاطر؛ بل نظروا في أمثلة واقعية من الحياة في الهند (مثل تطبيقات التعليم وأنظمة القروض) وبنوها من الصفر.
وقسموا المخاطر إلى عدة فئات رئيسية:
- التحيز والاستبعاد: الذكاء الاصطناعي "متحيز".
- مثال: معلم ذكي يرفض الإجابة على أسئلة طالب لأن لهجته تبدو "ريفية".
- السمية (التجاوز): الذكاء الاصطناعي "فظ".
- مثال: يبدأ روبوت الدردشة في توليد خطاب كراهية أو رسائل تنمر لأنه تعلم من بيانات سيئة على الإنترنت.
- الهلوسة: الذكاء الاصطناعي "واثق ولكنه مخطئ".
- مثال: يقوم بوت بنكي باختراع قاعدة قرض وهمية ويخبر العميل بأنه مدين بمبلغ لا يدين به في الواقع.
- الوعي بالموقف: الذكاء الاصطناعي "منفصل عن الواقع".
- مثال: تطبيق صحي يعمل بالذكاء الاصطناعي يطلب رفع فيديو عالي السرعة لتشخيص مرض ما، لكن المستخدم موجود في قرية بدون إنترنت. يفشل التطبيق ولا يحصل المريض على المساعدة.
- الأمن: الذكطاء الاصطناعي "قابل للاختراق".
- مثال: يخدع المحتالون الذكاء الاصطناعي للموافقة على قروض وهمية عبر تغذيته ببيانات مزيفة.
5. الخريطة "السببية": من، متى، ولماذا؟
وضعت الورقة أيضاً طريقة لتحديد من الملام عندما تسوء الأمور. وهي تطرح ثلاثة أسئلة:
- متى حدث ذلك؟ هل كان أثناء بناء الذكاء الاصطناعي (التطوير)، أم عند إطلاقه (النشر)، أم عند استخدامه من قبل الناس (الاستخدام)؟
- من المسؤول؟ هل هو الذكاء الاصطناعي نفسه (كود سيء) أم المستخدم البشري (استخدمه لأغراض شريرة)؟
- هل كان الأمر متعمداً؟ هل قال الذكاء الاصطناعي شيئاً مسيئاً بالصدفة، أم تم تصميمه ليكون مسيئاً؟
6. ما الخطوة التالية؟
يعترف المؤلفون أن هذا مجرد المسودة الأولى. إنهم يعتبرون هذا "وثيقة حية".
- التشبيه: فكر في هذه الورقة كـ بذرة لشجرة. حالياً، هي مجرد بذرة صغيرة. يخططون لريّها بمزيد من البيانات من مجالات الزراعة والرعاية الصحية والقانون. يريدون من الناس العاديين، وليس العلماء فقط، المساعدة في العثور على الأخطاء في النظام.
- الهدف: إنشاء نظام يكون فيه الذكاء الاصطناعي في الهند آمناً وعادلاً ويساعد بالفعل "المليار القادم" من البشر، بدلاً من مجرد جعل الأغنياء أكثر ثراءً أو التسبب في الارتباك.
الملخص
ASTRA هي ملصق تحذيري ودليل إصلاح لمستقبل الذكاء الاصطناعي في الهند. تقول: "لا تكتفوا بنسخ الغرب. انظروا إلى مشاكلنا المحددة—لغاتنا، وفقرنا، وتاريخنا. إذا بنينا ذكاءً اصطناعياً يفهم الهند، فيمكنه أن يكون بطلاً خارقاً. وإذا لم نفعل، فقد يكون عملاقاً أخرق يتعثر بقدميه ويؤذي الناس الذين وُجد لإنقاذهم".
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.