The Dark Side of ChatGPT: Legal and Ethical Challenges from Stochastic Parrots and Hallucination
تجادل هذه الورقة بأنه في حين أن الاتحاد الأوروبي رائد في تنظيم الذكاء الاصطناعي، فإن نموذجه الحالي يقلل من تقدير المخاطر القانونية والأخلاقية التي تفرضها "هلوسات" النماذج اللغوية الكبيرة وسلوكيات "الببغاء العشوائي"، مما يستلزم تطوراً إضافياً للتخفيف بفعالية من هذه التحديات الناشئة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك قابلت للتو صديقاً جديداً مثقفاً للغاية، يتحدث ببراعة، ويمكنه الإجابة على أي سؤال تطرحه عليه تقريباً. تسأله: "ما هو أفضل كتاب عن الفيزياء الكمية؟" فيذكر لك فوراً خمسة عناوين مع مراجعات حماسية. تسأله: "كيف أصلح أنبوباً يسرب الماء؟" فيعطيك دليلاً خطوة بخطوة.
أنت تثق به لأنه يبدو واثقاً جداً من نفسه. لكن هنا تكمن الخدعة: هذا الصديق لم يقرأ الكتب فعلياً ولم يسبق له أن أصلح أنبوباً. هو فقط بارع جداً في تخمين الكلمات التي تأتي عادةً بعد بعضها البعض في الجملة.
هذا هو بالضبط ما يحذرنا منه البحث الذي كتبه "زيهو لي" (Zihao Li) بخصوص ChatGPT وأدوات الذكاء الاصطعي المماثلة. إليك تفصيل النقاط الرئيسية للبحث باستخدام تشبيهات بسيطة:
1. "الببغاء العشوائي" و"الكاذب الواثق"
يجادل البحث بأن نماذج الذكاء الاصطنا هذه تعاني من مشكلتين رئيسيتين: الهلوسة وكونها ببغاوات عشوائية (Stochastic Parrots).
- الببغاء العشوائي: تخيل ببغاءً حفظ ملايين الجمل من مكتبة ما. إذا سألته سؤالاً، فهو لا "يفكر" أو "يفهم" الإجابة، بل يكرر فقط الأنماط التي سمعها من قبل. الأمر يشبه "دي جي" (DJ) يعرف فقط كيفية دمج الأغاني التي سمعها، لكنه لا يعرف الكلمات أو المعنى وراءها.
- الهلوسة: نظرًا لأن الذكاء الاصطناعي يقوم فقط بتخمين الكلمة التالية بناءً على الأنماط، فإنه أحياناً يخترع حقائق بثقة تامة. قد يبتكر ورقة أكاديمية وهمية أو قضية قانونية غير موجودة. إنه يشبه قاصّاً (حكواتي) يستغرق في الحبكة لدرجة أنه يخترع بالخطأ شخصية لم توجد أبداً، لكنه يروي القصة بإقناع شديد يجعلك تصدق أنها حقيقية.
الخطر: المشكلة ليست في أن الذكاء الاصطناعي يكون مخطئاً "أحياناً"؛ بل في أنه دائماً يقوم بالتخمين. حتى لو كان محقاً بنسبة 90% من الوقت، فإن الـ 10% التي يكون فيها مخطئاً وبثقة تامة يمكن أن تكون كارثية في مجالات مثل القانون أو الطب.
2. "فخ الثقة"
يشير البحث إلى نقطة مخيفة: كلما أصبح الذكاء الاصطناعي أكثر ذكاءً، أصبح أكثر خطورة.
فكر في الأمر كلوحة مزيفة واقعية للغاية. إذا كانت اللوحة تبدو واقعية بنسبة 50%، ستعرف أن عليك التدقيق فيها. ولكن إذا بدت واقعية بنسبة 99%، فستتوقف عن الفحص وتصدق ببساطة أنها الشيء الحقيقي. ومع تحسن الذكاء الاصطناعي في محاكاة الصوت البشري، سيتوقف الناس عن التحقق من الحقائق ويبدأون في الوثوق به بشكل أعمى. إذا طلبت نصيحة طبية من ذكاء اصطناعي و"هلوس" بعلاج وهمي، فقد تتبعه وتتعرض للأذى.
3. "شبكة الأمان" الخاصة بالاتحاد الأوروبي مليئة بالثغرات
يحاول الاتحاد الأوروبي تنظيم الذكاء الاصطناعي بقانون جديد يسمى قانون الذكاء الاصطناعي (AI Act). يجادل المؤلف بأن هذا القانون يشبه محاولة إيقاف فيضان باستخدام "مصفاة" (مصفاة مطبخ بها ثقوب).
- الخطة الحالية: القاعدة الأساسية للاتحاد الأوروبي هي "الشفافية". باختصار، يريدون من الذكاء الاصطناعي أن يقول: "مهلاً، أنا روبوت، أنا من كتب هذا".
- لماذا تفشل: يقول المؤلف إن هذا ليس كافياً. حتى لو قال الذكاء الاصطناعي "أنا روبوت"، فإذا بدا ذكياً وواثقاً للغاية، فقد تصدق حقائقه المزيفة على أي حال. إخبار المستخدم "أنا روبوت" لا يمنع الروبوت من الكذب.
- القطعة المفقودة: تركز القوانين الحالية على المنصة (الموقع الإلكتروني أو التطبيق) ولكنها تتجاهل المحرك (نموذج الذكاء الاصطناعي نفسه). الأمر يشبه تنظيم وكلاء السيارات ولكن دون تنظيم مصنع المحركات. إذا كان المحرك معيباً، فستتحطم السيارة بغض النظر عن مدى روعة الوكيل.
4. ما الذي يجب أن يحدث؟
يقترح البحث أننا بحاجة إلى تغيير قواعد اللعبة:
- إيقاف "الصندوق الأسود": نحن بحاجة للانتقال من مجرد قول "أنا ذكاء اصطناعي" إلى ضمان أن الذكاء الاصطناعي يعرف متى يكون في حالة تخمين.
- قاعدة "عدم الإجابة": إذا سألت ذكاءً اصطناعياً عن قضايا قانونية أو طبية خطيرة، فلا ينبغي له تقديم إجابة وقول "أنا ذكاء اصطناعي" فحسب، بل يجب أن يقول: "لا أعرف ما يكفي للإجابة على هذا بأمان. اذهب وتحدث إلى طبيب أو محامٍ حقيقي".
- المسؤولية المشتركة: حالياً، تلوم القوان بشكل أساسي الشركة التي بنت الذكاء الاصطناعي. يقول المؤلف إننا بحاجة أيضاً للتفكير في الأشخاص الذين يستخدمونه. إذا استخدم شخص ما الذكاء الاصطناعي لنشر الأكاذيب عن قصد، فيجب تحميله المسؤولية أيضاً.
الخلا الخلاصة
هذا البحث هو صرخة استيقاظ. نحن نعامل أدوات الذكاء الاصطناعي هذه كأنها عرافات سحرية، لكنها في الواقع مجرد آلات تخمين متطورة للغاية.
القوانين الحالية تشبه وضع علامة "احذر: أرضية مبللة" على منحدر زلق؛ إنها لفتة لطيفة، لكنها لا تمنعك من السقوط. نحن بحاجة إلى لوائح أقوى تجبر أنظمة الذكاء الاصطناعي هذه على الاعتراف عندما تبتكر أشياء من خيالها، خاصة عندما تكون المخاطر عالية. نحن بحاجة للتوقف عن الثقة في "الببغاء" لمجرد أنه يتحدث جيداً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.