تخيل أنك تحاول تعليم روبوت التعرف على أصوات مختلفة، مثل نباح كلب مقابل بوق سيارة. تقوم بتغذية الروبوت بآلاف المقاطع الصوتية، ويصبح الروبوت، باستخدام نوع خاص من الدماغ يسمى الشبكة العصبية التلافيفية (CNN)، بارعًا جدًا في تخمين الإجابة الصحيحة. لكن هناك مشكلة: الروبوت عبارة عن "صندوق أسود". فهو يعطيك الإجابة، لكنه لا يخبرك لماذا. هل سمع النباح بسبب حدة الصوت (الطبقة)، أم الإيقاع، أم البداية المفاجئة؟ في العالم الحقيقي، حيث يمكن أن تكون الأخطاء خطيرة — مثل تشخيص طبيب لحالة قلبية أو توقع مصنع لفشل آلة — لا يمكننا مجرد الثقة في تخمين الروبوت. نحن بحاجة إلى التلصص داخل دماغه لنرى الأنماط التي يبحث عنها بالفعل. هذا هو عالم "الذكاء الاصطناعي القابل للتفسير" (XAI). لقد طور العلماء طرقًا لاستخراج هذه الأنماط، ولكن حتى الآن، كانت تشبه المصابيح اليدوية التي تسلط الضوء في اتجاه واحد فقط. كان بإمكانها أن تريك متى حدث الصوت (المجال الزمني)، لكنها كانت عمياء عن حدة الصوت أو التردد، وهو ما يكون غالبًا الدليل الأكثر أهمية.

تقدم هذه الورقة أداة جديدة تسمى CENDRe (استخراج المفاهيم باستخدام تمثيلات النطاق الطبيعي) والتي تعالج هذه النقاط العمياء. فكر في CENDRe كأنها محقق لا يكتفي فقط بمراقبة الجدول الزمني لحدث ما، بل يستمع أيضًا إلى النغمات الموسيقية التي تُعزف. وجد الباحثون أن الطرق القديمة كانت تعاني من ثلاث مشكلات رئيسية: كانت تنظر فقط إلى الوقت، وكانت تجبر الروبوت على تخمين عدد محدد من الأنماط (مثل قول "هناك بالضبط 3 أدلة" قبل حتى النظر إليها)، وكانت أحيانًا تشير إلى الأجزاء الخاطئة من الإشارة. يحل CENDRe هذه المشكلة من خلال تحديد عدد الأنماط الموجودة تلقائيًا، وإيجادها في كل من الوقت والتردد، وتحديد مكان وجود تلك الأنماط بدقة في الإشارة. عندما اختبروه على بيانات وهمية ذات إجابات معروفة، وجد CENDRe الأدلة الصحيحة بشكل أفضل بكثير من الطرق القديمة. وعندما جربوه على بيانات حقيقية من محامل آلات (bearings) معطلة، نجح في تحديد ترددات "الطنين" المحددة التي يستخدمها الخبراء لتشخيص المشكلة، مما يثبت أن الروبوت لا يخمن عشوائيًا، بل يستمع بالفعل إلى الأشياء الصحيحة.

حقيبة أدوات المحقق الجديدة

تخيل أنك محقق تحاول حل لغز من خلال الاستماع إلى تسجيل لشارع صاخب. لديك مساعد ذكاء اصطناعي فائق الذكاء يخبرك: "أنا أعرف أنه حادث سيارة!" ولكنك تحتاج إلى معرفة كيف عرف ذلك. هل هو صرير الإطارات؟ أم تحطم المعدن؟ أم ربما مجرد الصمت المفاجئ؟

كانت أدوات التحقيق القديمة (طرق الذكاء الاصطناعي السابقة) خرقاء بعض الشيء. أولاً، كانت تستمع فقط إلى توقيت الأصوات. إذا وقع الحادث في الساعة 2:03 مساءً، فيمكنها إخبارك بذلك، لكنها لم تكن تستطيع إخبارك ما إذا كان الصوت صرخة حادة الطبقة أم هديراً منخفضاً. ثانياً، كانت عنيدة بشأن عدد الأدلة. كان عليك أن تقول لها: "ابحثي عن 3 أدلة بالضبط"، قبل أن تبدأ. إذا كان اللغز الحقيقي يحتوي على 4 أدلة، فستفقد واحداً أو تدمج اثنين معاً. ثالثاً، كانت سيئة في التحديد. قد تقول: "الدليل موجود في مكان ما خلال هذه الدقيقة بأكملها"، بينما كان الدليل الفعلي مجرد صوت لكسر من الثانية.

CendRe يشبه محققاً يحمل نظارات جديدة. هذه النظارات تسمح له برؤية الصوت بطريقتين في آن واحد: كجدول زمني (متى تحدث الأشياء) وكطيف (ما هي الطبقات/الترددات الموجودة).

1. سحر النظارات "الطبيعية"

تقدم الورقة فكرة "تمثيلات النطاق الطبيعي". تخيل أنك تنظر إلى لوحة. يمكنك النظر إليها من الأمام (الزمن)، ولكن يمكنك أيضاً النظر إليها من خلال مرشح خاص يظهر لك ضربات الفرشاة (التردد). يستخدم CendRe خدعة رياضية تسمى "طبقة الفحص الافتراضي". إنها تشبه إدخال مرشح شفاف وعكسي داخل دماغ الذكاء الاصطناعي. الذكاء الاصطناعي لا يعرف حتى بوجود المرشح؛ فهو يستمر في أداء مهمته. لكن CendRe يمكنه النظر إلى أفكار الذكاء الاصطناعي من خلال المرشح. هذا يسمح للمحقق برؤية "تردد" الصوت — مثل طنين محمل مكسور محدد — دون تغيير طريقة تفكير الذكاء الاصطناعي.

2. ترك الأدلة تعد نفسها

كانت واحدة من أكبر المشكلات للمحققين القدامى هي تقرير عدد الأدلة التي يجب البحث عنها. إذا قلت لهم ابحثوا عن 5 أدلة، ولكن كان هناك 3 فقط، فسيقومون بابتكار أدلة وهمية لملء الفجوة. وإذا كان هناك 7، فسيفتقدون الاثنين الأخيرين.

يستخدم CendRe خدعة ذكية تسمى التجميع الموجه بالظلال (silhouette-guided aggregation). تخيل أن لديك كومة من قطع الأحجية المختلطة. بدلاً من التخمين كم عدد الصور الموجودة في الكومة، يبدأ CendR بتجميع القطع المتشابهة معاً في مجموعات صغيرة. ثم يطرح سؤالاً: "إلى أي مدى تتناسب هذه المجموعات مع بعضها البعض؟" يستخدم درجة تسمى "درجة الظل" (تخيلها كـ "درجة سعادة" المجموعات) ليقرر متى يتوقف عن الدمج. إذا كانت المجموعات سعيدة ومتميزة، فإنه يتوقف. هذا يعني أن CendR يحدد تلقائياً: "آه، هناك في الواقع 4 أنماط متميزة هنا"، دون الحاجة لتخمينك. إنه يستبدل التخمين البشري بالاكتشاف القائم على الرياضيات.

3. تحديد اللحظة بدقة

بمجرد أن يجد CendR نمطاً (مفهوماً)، فإنه يحتاج إلى إظهار مكانه بالضبط في الصوت. غالباً ما كانت الطرق القديمة ترسم صناديق كبيرة وضبابية حول الصوت بأكمله، قائلة: "الدليل موجود في مكان ما هنا!". CendR أكثر دقة بكثير. فهو يستخدم تقنية التدرجات (gradients) لتتبع مسار الدليل وصولاً إلى المصدر.

فكر في الأمر كخريطة حرارية. إذا رفعت مستوى الصوت في جزء معين من الصوت، هل تزدادة ثقة الذكاء الاصطناعي في إجابته؟ يحسب CendR هذا لكل لحظة زمنية ولكل تردد. يقوم بإنشاء قناع يسلط الضوء فقط على أجزاء الصوت المهمة. إذا كان الذكاء الاصطناعي يستمع إلى صرخة حادة عند 2000 هرتز لمدة 0.5 ثانية، فإن CendR يرسم صندوقاً ضيقاً ومضيئاً حول ذلك المكان بالضبط، متجاهلاً بقية الضجيج.

ماذا وجدوا

اختبر الباحثون CendR بطريقتين: باستخدام بيانات مصطنعة نعرف إجاباتها، ومع بيانات حقيقية من آلات معطلة.

اختبار البيانات الوهمية:
قاموا بإنشاء أصوات اصطناعية تحتوي على "أوليات" مخفية (مثل موجة مربعة أو نطاق تردد محدد) تدرب الذكاء الاصطناعي على التعرف عليها.

• المجال الزمني: عند البحث عن أشكال تعتمد على الوقت (مثل نبضة مربعة)، وجد CendR هذه الأشكال بنفس كفاءة أفضل الأدوات الموجودة.
• مجال التردد: هذا هو المجال الذي تألق فيه CendR. عندما كانت الأدلة مخفية في نطاقات ترددية محددة (مثل نغمة عالية الطبقة)، كانت الأدوات القديمة عمياء تماماً. لم تكن تستطيع رؤية أدلة التردد على الإطلاق. ومع ذلك، وجدها CendR بشكل مثالي. لقد حدد نطاقات التردد التي استخدمها الذكما الاصطناعي بدقة، مطابقة "الحقيقة الأرضية" (الإجابة الحقيقية) بشكل شبه مثالي.
• الأهمية: لم يجد CendR الأدلة فحسب، بل قام بترتيب أهميتها بشكل صحيح. لقد عرف أي الأدلة كانت الأكثر أهمية لقرار الذكاء الاصطناعي، بينما ارتبكت الطرق الأخرى أحياناً حول الأدلة المهمة.

اختبار العالم الحقيقي:
أخذوا الأداة إلى بيئة مصنع حقيقية، حيث نظروا في بيانات أعطال المحامل (bearing faults) (أجزاء مكسورة في الآلات).

• تم تدريب الذكاء الاصطناعي للتمييز بين المحمل السليم والمحمل الذي يحتوي على شق في الداخل أو الخارج.
• استخرج CendR مفاهيم تتماشى مع ما يعرفه الخبراء البشريون. على سبيل المثال، وجد أن الذكاء الاصطناعي كان يركز على ذروة حادة حول 2000 هرتز في أحد المستشعرات، ونطاقات محددة حول 800-1000 هرتز في مستشعر آخر.
• هذه ليست أرقاماً عشوائية؛ إنها "ترددات التوقيع" الدقيقة التي يستخدمها المهندسون لتشخيص المحامل المكسورة. وهذا يثبت أن CendR لا يبتدع أنماطاً، بل يكشف عن المنطق الفعلي الذي يستخدمه الذكاء الاصطناعي لاتخاذ تنبؤاته.

لماذا يهم هذا

تشير الورقة إلى أنه من خلال الجمع بين رؤى الوقت والتردد، ومن خلال السماح للذكاء الاصطناعي بإخبارنا بعدد الأنماط التي يراها، يمكننا الوثوق بهذه النماذج "الصندوق الأسود" بشكل أكبر. في المجالات الحرجة مثل الرعاية الصحية أو السلامة الصناعية، لا يمكننا تحمل تكلفة أن يخمن الذكاء الاصطناعي الإجابة الصحيحة لأسباب خاطئة. يوفر CendR وسيلة للتحقق من أن الذكاء الاصطناعي ينظر إلى "الأدلة" الصحيحة — سواء كان ذلك إيقاع ضربات قلب معين أو اهتزاز آلة معين — قبل أن نتركه يتخذ قرارات تتعلق بالحياة أو الموت.

يشير المؤلفون بحذر إلى أنه بينما يعمل CendR بشكل رائع على أنواع نماذج الذكاء الاصطناعي التي اختبروها (1D CNNs)، فإنه يعتمد على امتلاك الذكاء الاصطناعي لهيكل محدد (الارتباط بالانتقال/translation equivariance). وهم يقترحون أن العمل المستقبى سيحتاج إلى تكييف هذا مع أنواع أخرى من الذكاء الاصطناعي، مثل الـ Transformers، التي أصبحت شائعة جداً. ولكن في الوقت الحالي، يقدم CendR عدسة جديدة قوية لرؤية ما بداخل عقل الآلة، محولاً التخمين الغامض إلى قصة واضحة وقابلة للتفسير.