AI and Consumer Rights in India Working Paper

تخيل أنك تسير في سوق رقمي صاخب حيث لا يقتصر الباعة على البشر فحسب، بل هم روبوتات ذكية، وروبوتات محادثة (Chatbots)، وخوارزميات غير مرئية. هؤلاء المساعدون الرقميون موجودون في كل مكان، من التطبيقات على هاتفك إلى الأنظمة التي تقرر ما إذا كنت ستحصل على قرض. ولكن ماذا يحدث عندما يتعثر أحد هؤلاء المساعدين الرقميين؟ ماذا لو قدم لك روبوت محادثة نصيحة طبية سيئة للغاية، أو أداة برمجة تعمل بالذكاء الاصطنایعي حذفت بالخطأ ألبوم صور عائلتك بالكامل؟ هذا هو عالم الذكاء الاصطناعي (AI) وحقوق المستهلك.

لفهم المشكلة، نحتاج لمعرفة شيئين. أولاً، الذكاء الاصطناعي يشبه طالباً فائق الذكاء يتعلم من مكتبة ضخمة من البيانات لاتخاذ القرارات أو ابتكار الأشياء. وأحياناً، يرتكب هذا الطالب أخطاءً، أو يرتبك، أو حتى يكتسب عادات سيئة من الكتب التي قرأها. ثانياً، حقوق المستهلك هي القواعد التي تحميك عند شراء شيء ما. إذا اشتريت محمصة خبز تسبب حريقاً، فإن القانون ينص على أن الشركة التي صنعتها أو باعتها يجب أن تصلح هذا الخطأ. لكن الذكاء الاصطناعي ليس مجرد محمصة خبز بسيطة؛ إنه جهد جماعي معقد يتضمن جامعي بيانات، وكتّاب أكواد برمجية، ومطوري تطبيقات. السؤال الكبير هو: عندما يلحق بك خطأ رقمي، من تلوم؟ هل هو الروبوت، أم الشخص الذي بنى الروبوت، أم الشخص الذي ضغط على الزر فحسب؟

تغوص هذه الورقة البحثية التي أعدها أومير كومار، وسريا سريدهار، وفيفاه ميثال، وبالارامان رافيندران من مركز الذكاء الاصطناعي المسؤول في المعهد الهندي للتكنولوجيا بمدريد (IIT Madras)، في هذا اللغز تحديداً. إنهم يبحثون في قانون حماية المستهلك لعام 2019 في الهند، وهو كتاب القواعد الخاص بحماية المتسوقين. ويتساءل المؤلفون: هل يناسب هذا الكتاب القديم عالم الذكاء الاصطناعي الجديد والغريب؟

تشير الورقة إلى أن القانون مرن للغاية في الواقع. فهو يعرّف "الضرر" بشكل واسع، ليشمل ليس فقط الكسور الجسدية أو خسارة المال، بل أيضاً الضغط النفسي والاضطراب العاطفي. كما يعرّف "القصور" بأنه أي خطأ أو إهمال في الخدمة. ولأن هذه التعريفات واسعة جداً، يرى المؤلفون أن القانون يمكن تقنياً أن يغطي كوارث الذكاء الاصطناعي. فعلى سبيل المثال، إذا شجع روبوت محادثة شخصاً ما على القيام بشيء ضار، أو إذا تجاهلت سيارة ذاتية القيادة تعليماتك، فقد يُنظر إلى هذه الحالات كـ "منتجات معيبة" أو "خدمات قاصرة" بموجب القانون. ومع ذلك، تشير الورقة إلى قيد محدد: يستبعد القانون صراحة الخدمات المقدمة مجاناً. وهذا يعني أن الحوادث التي تقع أثناء استخدام تطبيقات تعتمد على الذكاء الاصطناعي ومجانية قد تقع خارج نطاق هذه الحمايات، مما يخلق فجوة محتملة للعديد من المستخدمين.

ومع ذلك، تشير الورقة إلى أنه بينما يمكن للقانون تغطية هذه الحالات، إلا أنه ليس ملائماً تماماً بعد. فالعقبة الكبرى هي إثبات السببية. في متجر عادي، إذا كسر حذاءٌ إصبع قدمك، فمن السهل رؤية أن الحذاء هو السبب. لكن مع الذكاء الاصطناعي، قد يكون "العيب" مخفياً في أعماق الكود البرمجي، أو قد يكون نتيجة لكيفية تدريب الذكاء الاصطناعي على بيانات سيئة. إن إثبات أي جزء بالضبط في سلسلة الذكاء الاصطناعي تسبب في الضرر يشبه محاولة العث على حبة رمل واحدة محددة تسببت في انهيار شاطئ.

كما يسلط المؤلفون الضوء على ارتباك كبير بشأن من هو المسؤول. يقسم القانون حالياً الناس إلى ثلاث مجموعات: المصنعون (الذين يصنعون المنتج)، والبائعون (الذين يبيعونه)، ومزودو الخدمة (الذين يستخدمونها لمساعدتك). لكن عالم الذكاء الاصطناعي فوضوي. فقد يتضمن نظام واحد للذكاء الاصطناعي شركة بيانات، ومطور نموذج، ومُعدّل للنموذج، وجهة تقوم بتشغيل النظام. هذه الأدوار تتداخل وتتداخل مع بعضها البعض. وتقترح الورقة أنه بينما قد يمتد القانون ليشمل جميع هؤلاء اللاعبين، إلا أنه لا يملك طريقة واضحة لتحديد مقدار المسؤولية التي يجب أن يتحملها كل منهم. هل يجب لوم مزود البيانات بسبب بيانات التدريب السيئة، أم الشركة التي استخدمت الذكاء الاصطناعي؟ الإطار الحالي لا يعطي إجابة واضحة.

تخلص الورقة إلى أنه بينما يعد قانون حماية المستهلك في الهند نقطة انطلاق جيدة ومن المرجح أن يغطي أضرار الذكاء الاصطناعي، إلا أنه يحتاج إلى بعض الضبط. ويقترح المؤلفون أن وكالات الإنفاذ تحتاج إلى تدريب تقني أكبر لفهم كيفية عمل الذكاء الاصطنا، وأنهم بحاجة لتوضيح كيفية توزيع المسؤولية بين العديد من الأطراف في سلسلة قيمة الذكاء الاصطناعي. وإلى أن يحدث ذلك، إذا أخطأ الذكاء الاصطناعي، فقد يظل تحديد من سيدفع الفاتورة بمثابة لعبة تخمين. الورقة لا تدعي أن القانون معطل، لكنها تشير إلى أنه بدون قواعد أكثر وضوحاً حول كيفية تقسيم اللوم، قد يواجه المستهلكون صعوبة في الحصول على العدالة التي يستحقونها.