Identifying and typifying demographic unfairness in phoneme-level embeddings of self-supervised speech recognition models
تقترح هذه الورقة إطار عمل للتمييز بين التحيز المنهجي والتباين العشوائي في تمثيلات المستوى الفونيمي، وتوضح أنه في حين يساهم كلاهما في عدم الإنصاف الديموغرافي في التعرف على الكلام، فإن الخطأ العشوائي هو على الأرجح العقبة الأكثر أهمية أمام تحقيق الإنصاف.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك معلم تحاول تصحيح كومة هائلة من المقالات المكتوبة بخط اليد لطلاب من جميع أنحاء العالم. تريد أن تكون عادلاً، لكنك تلاحظ شيئاً غريباً: أنت تعطي درجات أقل باستمرار للطلاب من أحياء أو فئات عمرية معينة، حتى عندما تكون جودة أفكارهم هي نفسها.
يتحقق هذا البحث في سبب كون تقنية التعرف التلقائي على الكلام (ASR) الحديثة — وهي التقنية التي تجعل "أليكسا" أو "سيري" أو "مساعد جوجل" يفهمونك — "غير عادلة" تجاه مجموعات معينة من الناس (مثل الأطفال، أو الأشخاص ذوي اللكنات المعينة، أو أعراق محددة).
اكتشف الباحثون أن أخطاء "عقل" نماذج الذكاء الاصطناعي هذه (المُشفّر الصوتي) تنقسم إلى نوعين من الأخطاء. ولشرح ذلك، سنستخدم تشبيه مصور فوتوغرافي محترف يحاول التقاط صور شخصية (بورتريه) للناس.
1. النوعان من "عدم الإنصاف"
وجد الباحثون أن أخطاء الذكاء الاصطناعي تندرج تحت فئتين: التحيز المنهجي والضوضاء العشوائية.
النوع (أ): مشكلة "الزاوية السيئة" (التحيز المنهجي/تحيز التضمين)
تخيل مصوراً فوتوغرافياً لم يتدرب إلا على تصوير البالغين. عندما يدخل طفل، لا يدرك المصور أنه بحاجة للانحناء؛ بل يحاول التقاط الصورة من مستوى طول الشخص البالغ، مما يؤدي إلى صورة يظهر فيها رأس الطفل مقطوعاً.
المصور ليس "عشوائياً" في خطئه، بل هو يرتكب نفس الخطأ باستمرار لأن "نموذجه الذهني" عن الشخص مُعاير على البالغين. من منظور الذكاء الاصطناعي، يعتقد النموذج أن صوتاً معيناً (فونيم) يجب أن يبدو دائماً بطريقة معينة، ولكن بالنسبة لمجموعة معينة من الناس، يبدو هذا الصوت مختلفاً في الواقع.
النوع (ب): مشكلة "الأيدي المرتعشة" (الخطأ العشوائي/التباين العالي)
الآن، تخيل مصوراً آخر. هو يعرف كيف يصور الجميع، ولكن عندما يحاول تصوير أشخاص من مجموعة معينة، تبدأ يداه بالارتعاش بشكل لا يمكن السيطرة عليه. الصور ليست "خاطئة" في تكوينها، لكنها ضبابية، ومحببة، وفوضوية.
وجد الباحثون أنه بالنسبة للعديد من المجموعات المستضعفة (مثل الأطفال أو المتحدثين بغير لغتهم الأم)، فإن "أيدي" الذكاء الاصطناعي "ترتعش". الأصوات لا يتم وضعها في المكان الخاطئ، بل يتم وضعها في منطقة "ضبابية". الذكاء الاصطناعي مرتبك بسبب "الضوضاء" في كيفية نطق هؤلاء الأشخاص للأشياء.
2. ما الذي اكتشفه الباحثون بالفعل؟
باستاستخدام الرياضيات (تحديداً أداة تسمى "مسافة KNN" لقياس مدى "ضبابية" أو "تكتل" الأصوات)، توصل الباحثون إلى ثلاث نتائج رئيسية:
- "الأيدي المرتعشة" هي المشكلة الأكبر: بينما يوجد "التحيز في الزاوية" (التحيز) في المراحل الأولى من تفكير الذكاء الاصطناعي، إلا أنه بحلول الوقت الذي يصبح فيه الذكاء الاصطناعي جاهزاً لتدوين كلماتك فعلياً، يكون "الارتعاش في الأيدي" (الضوضاء العشوائية/التباين) هو السبب الرئيسي لفشله. الذكاء الاصطناعي يعاني لأن الأصوات لبعض المجموعات "ضبابية" للغاية بحيث يصعب عليه تحديدها بدقة.
- "إصلاحات العدالة" الحالية لا تعمل: هناك طرق موجودة لمحاولة جعل الذكاء الاصطناعي أكثر عدلاً (مثل "التدريب التنافسي"، وهو يشبه قولك للمصور: "مهلاً، توقف عن التركيز كثيراً على عمر الشخص!"). اختبر الباحثون هذه الطرق ووجدوا أنها لم تساعد كثيراً. هذه الإصلاحات تحاول معالجة مشكلة "الزاوية السيئة"، لكنها لا تفعل شيئاً لإيقاف "الأيدي المرتعشة".
- الذكاء الاصطناعي "ينسى" كيف يكون عادلاً: بينما يصبح الذكاء الاصطناعي أفضل في تدوين الكلمات، فإنه في الواقع يميل إلى التوقف عن الانتباه للاختلافات بين الناس. ورغم أن هذا قد يبدو جيداً، إلا أنه يعني أنه لا يتعلم كيفية تثبيت تلك الأصوات "المرتعشة" للأشخاص الذين هم في أمس الحاجة إليها.
3. "ما الفائدة؟" (الخلاصة)
إذا أردنا صنع ذكاء اصطناعي يفهم الجميع حقاً — من طفل صغير إلى شخص بلكنة قوية — فلا يمكننا مجرد إخبار الذكاء الاصطناعي بأن "يكون عادلاً".
بدلاً من ذلك، نحتاج إلى إيجاد طرق لتثبيت أيديه المرتعشة. نحن بحاجة لتعليم الذكاء الاصطناعي كيفية التقاط "صور حادة وواضحة" للأصوات، بغض النظر عن هوية مصدرها. يقترح الباحثون أنه بدلاً من التركيز فقط على "التصنيفات" (مثل الجنس أو العمر)، نحتاج إلى التركيز على "هندسة" الصوت نفسه — التأكد من أن الأصوات "الضبابية" تصبح واضحة وحادة مثل الأصوات "السهلة".
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.