Conflicts in Texts: Data, Implications and Challenges
توحد هذه الدراسة المسحية مفهوم المعلومات المتضاربة في معالجة اللغات الطبيعية عبر النصوص الطبيعية، والبيانات المشروحة بشرياً، وتفاعلات النماذج، مع تحليل آثارها على موثوقية النماذج واقتراح استراتيجيات تخفيف لتطوير أنظمة واعية بالتضارب.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك توظف مساعداً فائق الذكاء لمساعدتك في كتابة التقارير، والإجابة على الأسئلة، واتخاذ القرارات. أنت تتوقع من هذا المساعد أن يكون موثوقاً، لكنه أحياناً يصاب بالارتباك، أو يناقض نفسه، أو يعطيك إجابتين مختلفتين لنفس السؤال.
هذه الورقة البحثية، التي كتبها "سيي ليو" و"دان روث"، هي بمثابة "فحص طبي" شامل حول سبب استمرار هذه المساعدات الذكية (التي تُسمى نماذج معالجة اللغات الطبيعية - NLP) في الوقوع في التناقضات. يجادل المؤلفان بأننا لا نستطيع ببساطة تجاهل هذه التناقضات؛ فإذا فعلنا ذلك، ستصبح هذه الأنظمة غير جديرة بالثقة.
لقد قسما مصادر هذه النزاعات إلى ثلاث "غرف" رئيسية يحدث فيها الخلل:
1. المكتبة الفوضوية (التناقضات في نصوص الويب الطبيعية)
تخيل الإنترنت كمكتبة ضخمة وفوضوية حيث يصرخ الجميع بنسختهم الخاصة من الحقيقة في آن واحد.
- المشكلة: أحياناً، تحتوي المكتبة على كتابين يقولان شيئين متضادين عن نفس الحقيقة (مثل "من هو عمدة هذه المدينة؟" عندما يكون هناك شخصان يحملان نفس الاسم). وفي أحيان أخرى، يكون لدى الناس مجرد آراء مختلفة (مثل ما إذا كان فيلم ما تحفة فنية أم كارثة).
- التشبيه: الأمر يشبه سؤال حشد من الناس عن الاتجاهات؛ شخص يقول "انعطف يساراً"، وآخر يقول "انعطف يميناً"، وثالث يقول "يعتمد ذلك على الوقت من اليوم". يصاب الذكاء الاصطฏิعي بالارتباك لأن "الحقيقة" في المكتبة ليست خطاً واحداً واضحاً، بل هي شبكة متشابكة من الحقائق، والغموض، والانحيازات.
- النتيجة: إذا حاول الذكاء الاصطناعي التعلم من هذه المكتبة الفوضوية دون وجود مصفاة، فقد يتعلم أن 2+2 تساوي 5 لأن مدونة شهيرة قالت ذلك، أو قد يعطيك إجابة منحازة تناسب جانباً واحداً فقط من الجدل السياسي.
2. النسّاخون المعيبون (التناقضات في البيانات المصنفة بشرياً)
قبل أن يتمكن الذكاء الاصطناعي من التعلم، يجب على البشر تعليمه عبر تصنيف البيانات (مثل تحديد ما إذا كانت تغريدة "سعيدة" أو "حزينة"). لكن البشر ليسوا مثاليين.
- المشكلة: قد ينظر شخصان مختلفان إلى نفس الجملة ويختلفان على معناها. قد يرى أحدهما أن النكتة مضحكة، بينما يراها الآخر مسيئة. كما أن البشر الذين يعلمون الذكاء الاصطناعي قد يمتلكون انحيازات خفية (مثل الاعتقاد بأن لهجة معينة تبدو "غاضبة" بينما هي مجرد لهجة مختلفة).
- التشبيه: تخيل مجموعة من المعلمين يصححون اختباراً؛ معلم يعطي درجة "امتياز" لإجابة معينة، بينما يعطي معلم آخر درجة "رسوب" لنفس الإجابة تماماً. إذا تعلم الذكاء الاصطناعي من "متوسط" هذه الدرجات، سينتهي به الأمر مرتبكاً بشأن شكل الإجابة "الجيدة" حقاً. الأمر يشبه محاولة تعلم لعبة عبر مشاهدة حكمين يكرهان بعضهما البعض ويطلقان القرارات بشكل مختلف.
- النتيجة: يتعلم الذكاء الاصطناعي أن يكون غير متيقن، أو والأسوأ من ذلك، يتعلم أن يكون غير عادل، فيصنف التعليقات البريئة على أنها سامة لمجرد أن معلميه البشر كانوا منحازين.
3. الممثل النساي (التناقضات أثناء تفاعلات النموذج)
هذا هو المكان الذي يعمل فيه الذكاء الاصطناعي فعلياً من أجلك، محاولاً الإجابة على سؤال في الوقت الفعلي.
- المشكلة: يمتلك الذكاء الاصطناعي "ذاكرة" (ما تعلمه أثناء التدريب) ويمتلك أيضاً "سياقاً" (المعلومات الجديدة التي قدمتها له للتو). وأحياناً، يتصارع هذان الشيئان مع بعضهما البعض.
- صراعات المعرفة: تخبر الذكاء الاصطناعي: "السماء خضراء اليوم"، لكن ذاكرته تقول: "السماء زرقاء". هل يصدقك أم يصدق ذاكرته؟ غالباً ما يتمسك بذاكرته القديمة بعناد، حتى عندما تقدم له دليلاً جديداً.
- الهلوسة: أحياناً، يقوم الذكاء الاصطناعي بتأليف أشياء من خياله. قد يروي قصة عن حدث تاريخي لم يحدث أبداً، أو يلخص مستنداً عبر اختراع حقائق لم تكن موجودة فيه.
- التشبيه: فكر في الذكاء الاصطناعي كممثل حفظ نصاً (تدريبه) ولكنه الآن يرتجل مشهداً باستخدام أداة جديدة (مدخلاتك). إذا تعارضت الأداة مع النص، فقد يتجاهل الممثل الأداة ويستمر في تلاوة الأسطر القديمة. أو قد يصاب الممثل بالتوتر ويبدأ في تأليف جمل لا معنى لها على الإطلاق.
- النتيجة: قد يخبرك الذكاء الاصطناعي بثقة بكذبة (هلوسة)، أو قد يتجاهل الحقائق التي قدمتها له للتو لأنه متمسك جداً بما "يعرفه" من تدريبه السابق.
الصورة الكبيرة: ماذا يجب أن نفعل؟
يقول المؤلفان إننا بحاجة إلى التوقف عن التظاهر بأن هذه التناقضات غير موجودة. بدلاً من محاولة إجبار الذكاء الاصطناعي على تقديم إجابة واحدة "مثالية" دائماً، نحتاج إلى بناء أنظمة واعية بالصراع.
- كن محققاً: يجب أن يكون الذكاء الاصطناعي قادراً على رصد متى تكون المعلومات متناقضة.
- اطلب التوضيح: إذا كان السؤال غامضاً، يجب على الذكاء الاصطناعي أن يسأل: "أي منهما تقصد؟" بدلاً من التخمين.
- اعرض كلا الجانبين: إذا كان لدى الناس آراء مختلفة، يجب على الذكاء الاصطناعي تلخيص الحجج بإنصاف بدلاً من اختيار طرف فائز.
- تحقق من الحقائق: يحتاج الذكاء الاصطناعي إلى أدوات أفضل للتحقق مما إذا كان ما يقوله يطابق الواقع أم أنه مجرد تأليف من خياله.
الخلاصة:
تماماً كما يحتاج البشر للتنقل في عالم مليء بالخلافات والشائعات والحقائق المتغيرة، يحتاج الذكاء الاصطناعي لتعلم كيفية التعامل مع الصراع ببراعة. إذا لم نعلمه كيفية التعامل مع هذه التناقضات، فسيستمر في ارتكاب الأخطاء، أو الكذب، أو عدم العدالة، مهما كانت شفرته البرمجية الأساسية ذكية. الهدف هو بناء ذكاء اصطناعي يعرف متى يكون مرتبكاً ويعرف كيف يتعامل مع فوضى العالم الحقيقي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.