Terms of (Ab)Use: An Analysis of GenAI Services
تحلل هذه الورقة شروط استخدام ست خدمات للذكاء الاصطناي التوليدي من منظور المستهلك في الاتحاد الأوروبي، كاشفةً عن اختلالات كبيرة في موازين القوى، وغموض في المسؤولية، وبنوداً تقييدية تترك المستخدمين غير مطلعين وغير قادرين على الوفاء بالتزاماتهم، مما يحث صانعي السياسات على تحديث آليات حماية المستهلك بشكل عاجل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك اشتريت محمصة خبز (توستر) جديدة وفاخرة. قمت بتوصيلها بالكهرباء، ووضعت فيها الخبز، ثم ضغطت على الرافعة للأسفل. ولكن بدلاً من الحصول على خبز محمص، قذفت المحمصة كومة من الرماد، وأشعلت حريقاً في مطبخك، أو ما هو أسوأ، بدأت تطبع مذكرات جارك الخاصة.
عندما تشتكي، تشير شركة المحمصات إلى دليل استخدام صغير مكون من 50 صفحة لم تقرأه أبداً (لأنه كُتب بلغة لا يفهمها إلا المحامون). ويقولون:
- "لم نعدك أبداً بأنها ستصنع خبزاً محمصاً." (لا يوجد ضمان للجودة).
- "الخطأ خطؤك لأن الخبز كان سيئاً." (أنت المسؤول عن المدخلات).
- "إذا أحرق الخبز منزلك، فأنت من يدفع ثمن الحريق، وليس نحن." (أنت المسؤول عن المخرجات).
- "لكن لا تقلق، نحن نستخدم خبزك المحترق لتدريب محمصة الخبز التالية لدينا، ولا يمكنك منعنا حتى لو دفعت لنا." (إنهم يأخذون بياناتك مجاناً).
- "أيضاً، إذا حاولت تفكيك المحمصة لمعرفة كيفية عملها، فسنقوم بحظرك." (لا يسمح بالهندسة العكسية).
هذا بالضبط ما وجده فريق من الباحثين من جامعة ترينيتي كوليدج دبلن عندما فحصوا "شروط الاستخدام" لستة من خدمات الذكاء الاصطناعي التوليدي الشهيرة (مثل ChatGPT وGemini وClaude). ويسمون ورقتهم البحثية: "شروط (إساءة) الاستخدام" (Terms of (Ab)Use).
إليك تحليل بسيط لما اكتشفوه، باستخدام تشبيهات من الحياة اليومية.
1. عقد "الشيك على بياض"
عندما تسجل في خدمات الذكاء الاصطناعي هذه، فأنت لا توافق فقط على استخدام أداة؛ بل توقع عقداً منحازاً ضدك بشكل كبير.
- التشبيه: تخيل أنك تستأجر سيارة. عادةً، تعد شركة التأجير بأن السيارة تحتوي على مكابح، وإطارات، ومحرك. في عقود الذكال الاصطناعي هذه، تقول الشركة: "نحن لا نعد بشيء. قد لا تملك السيارة مكابح، وقد ينفجر المحرك، وإذا تعرضت لحادث، فالخطأ خطؤك بنسبة 100%".
- الواقع: لم تقدم أي من الخدمات الستة التي حللوها أي ضمان بأن الذكاء الاصطناعي سيعمل بشكل صحيح، أو سيكون دقيقاً، أو حتى متاحاً. لقد ذكروا صراحة أن الخدمة مقدمة "كما هي" (بمعنى: خذها أو اتركها، لا توجد استردادات للأموال، ولا وعود).
2. مشكلة "السائق معصوب العينين"
تنص العقود على أن ك أنت المسؤول عن كل ما يقوله أو يفعله الذكاء الاصطناعي.
- التشبيه: تخيل أنك تقود سيارة، لكنك معصوب العينين. السيارة تقود نفسها، ولكن إذا صدمت أحد المشاة، تقول الشرطة: "إنه خطؤك لأنك كنت تمسك بعجلة القيادة". أنت لا ترى الطريق، ولا تعرف كيف يعمل كمبيوتر السيارة، ولا يمكنك تغيير الكود البرمโปร، ومع ذلك أنت من يتم اعتقاله.
- الواقع: تضع شركات الذكاء الاصطناعي كل المسؤولية القانونية على المستخدم. إذا كتب الذكاء الاصطناعي بالخطأ شيئاً غير قانوني، أو عنصر تمييزي، أو ينتهك حقوق النشر، فإن المستخدم هو من يتعرض للحظر أو المقاضاة. تقول الشركة: "نحن بنينا المحرك فقط؛ أنت من قاد به نحو الجدار". يرى الباحثون أن هذا غير عادل لأن المستخدمين ليس لديهم سيطرة على كيفية تفكير الذكاء الاصطناعي أو البيانات التي تدرب عليها.
3. "الصندوق السحري" للبيانات
تأخذ الشركات كل ما تكتبه (المدخلات) وكل ما يكتبه الذكاء الاصطناع رداً عليك (المخرجات) لتدريب نماذجها المستقبلية.
- التشبيه: تخيل أنك تدفع رسوم اشتراك في صالة ألعاب رياضية (جيم). يقول صاحب الصالة: "رائع! سنستخدم روتين تمارينك، وعرقك، وإحصائياتك الشخصية لبناء صالة ألعاب رياضية أفضل للجميع. أوه، ولا يمكنك استخدام بيانات تمارينك الخاصة لبناء صالة الألعاب الخاصة بك لاحقاً".
- الواقع:
- المستخدمون المجانيون: أنت في الأساس "المنتج". بياناتك تدرب نماذجهم.
- المستخدمون المدفوعون: حتى لو كنت تدفع اشتراكاً، فإن الشركات غالباً ما تأخذ بياناتك لتدريب نماذجها ما لم تقم بالقيام بخطوات معقدة لـ "الانسحاب" (Opt-out).
- المعايير المزدوجة: تستخدم الشركات بياناتك لجعل منتجها أكثر ذكاءً، لكنها تمنعك من استخدام إجابات الذكاء الاصطناعي لتدريب ذكائك الاصطناعي الخاص. إنه طريق ذو اتجاه واحد حيث يأخذون وقودك لكنهم لا يسمحون لك بقيادة السيارة.
4. "تحريك المرمى" (تغيير القواعد)
تحتفظ الشركات بالحق في تغيير القواعد أو الخدمة في أي وقت دون إخبارك.
- التشبيه: تشتري تذكرة لفيلم. في منتصف العرض، يقوم مالك السينما بتغيير الفيلم إلى نوع آخر، أو يخفض دقة الشاشة، أو يقرر أن الفيلم أصبح الآن فيلم رعب بدلاً من كوميدي. ويقولون لك: "يمكننا تغيير الفيلم متى شئنا، وإذا لم يعجبك، يمكنك المغادرة، لكنك لن تسترد أموالك".
- الواقع: تنص الشروط على أن الذكاء الاصطناعي يمكنه تغيير ميزاته، أو جودته، أو حتى "دماغه" الأساسي (النموذج) دون إشعار مسبق. إذا أصبح الذكاء الاصطناعي فجأة أسوأ، تقول الشركة: "لم نعدك أبداً بأنه سيبقى جيداً".
5. "المتاهة القانونية"
كُتبت العقود بلغة قانونية مربكة، غالباً ما تكون ممزوجة بمصطلحات تجارية، مما يجعل من المستحيل على الشخص العادي معرفة ما يوقعه.
- التشبيه: الأمر يشبه محاولة قراءة خريطة لمدينة مرسومة بالحبر السري، مع وجود أجزاء مكتوبة بلغة أخرى، والخريطة تغير شكلها في كل مرة تنظر إليها.
- الواقع: وجد الباحثون أنه بالنسبة لبعض الشركات (مثل جوجل ومايكروسوفت)، تُدفن شروط الذكاء الاصطناعي داخل وثائق ضخمة تغطي أيضاً خدماتهم الأخرى (مثل البريد الإلكتروني أو التخزين السحابي). إنها "حقل ألغام" حيث يمكن للشخص العادي أن يتعثر بسهولة في بند لم يفهمه.
الخلاصة الكبرى: لماذا هذا مهم؟
يجادل الباحثون بأن هذه الشروط غير عادلة وربما غير قانونية بموجب قوانين حماية المستهلك الأوروبية.
- الاختلال: تحتفظ الشركات بكل القوة والربح (باستخدام بياناتك لتصبح أكثر ذكاءً)، بينما يحتفظ المستخدمون بكل المخاطر واللوم (التعرض للمقاضاة بسبب أخطاء الذكاء الاصطناعي).
- الحل: إنهم يطالبون الحكومات والجهات التنظيمية بالتدخل. يريدون قوانين جديدة تنص على ما يلي:
- يجب على الشركات أن تكون صادقة بشأن ما يمكن للذكاء الاصطناعي فعله وما لا يمكنه فعله.
- لا يمكن للشركات إلقاء كامل اللوم القانوني على المستخدمين إذا لم يكن بإمكانهم التحكم في الذكاء الاصطناعي.
- إذا كنت تدفع مقابل خدمة، فيجب أن يكون لك الحق في منع استخدام بياناتك لتدريب منتجات الشركة المستقبلية.
باخت-القول: تحذر الورقة البحثية من أنه بينما يعد الذكاء الاصطناعي التوليدي أمراً مثيراً، فإن "النصوص الدقيقة" تحاول خداعنا لقبول صفقة نتحمل فيها نحن جميع المخاطر، وتأخذ الشركات فيها جميع المكافآت. لقد حان الوقت لإعادة كتابة القواعد ليكون مستوى التنافس عادلاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.