Reliable AI Needs to Externalize Implicit Knowledge: A Human-AI Collaboration Perspective
تجادل ورقة الموقف هذه بأن تحقيق ذكاء اصطناعي موثوق يتطلب تطوير "كائنات معرفية" لتمثيل المعرفة الضمنية وتأطيرها، مما يتيح التحقق البشري من أنماط الاستدلال الحرجة التي لا يمكن فحصها حالياً، ويخلق مساراً قابلاً للتوسع لتحسين موثوقية الذكاء الاصطناعي بمرور الوقت.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح للورقة البحثية باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.
المشكلة الجوهرية: الشيف "الصندوق الأسود"
تخيل أنك استأجرت شيفاً بارعاً (الذكاء الاصطناعي) ليطهو وجبة معقدة. هذا الشيف تذوق ملايين الأطباق من كل مطعم في العالم؛ فهو يعرف تماماً كيف يمزج النكهات، ومتى يضيف الملح، وكيف يصلح صلصة محترقة.
ومع ذلك، هناك عقبة. لقد تعلم الشيف هذه المهارات من خلال مشاهدة ملايين الأشخاص وهم يطبخون، وليس من خلال قراءة كتاب وصفات رسمي.
- المعرفة الصريحة (كتاب الوصفات): هذا هو الشيء الذي يمكن للشيف الإشارة إليه. "الوصفة تقول أضف كوبين من الدقيق". يمكن للشيف أن يريك الصفحة في الكتاب. هذا أمر سهل التحقق منه.
- المعرفة الضمنية (حدس الشيف): هذا هو الشيء الذي "يشعر" به الشيف. "أضف رشة ملح لأن الصلصة تبدو حامضة جداً"، أو "لا تستخدم هذا السكين لأن مقبضه يبدو زلقاً". الشيف لم يكتب هذا أبداً؛ إنه مجرد نمط التقطه من مراقبة الآخرين.
ادعاء الورقة البحثية الكبير:
في الوقت الحالي، الذكاء الاصطناعي بارع جداً في استخدام هذا "الحدس" (المعرفة الضمنية) للقيام بأشياء ذكية. ولكن بما أنه لم يُكتب أبداً، فنحن لا نستطيع التحقق مما إذا كان صحيحاً أم لا. قد يكون الشيف يستخدم تقنية عبقرية، أو قد يكون يقلد عادة سيئة من مطعم سيء. لا يمكننا التمييز بينهما لأن "وصفة" ذلك الحدس غير موجودة.
هذا يخلق فجوة خطيرة: الذككاء الاصطناعي قادر جداً، لكننا لا نستطيع الوثوق به لأننا لا نستطيع رؤية كيف قرر القيام بما فعله.
لماذا لا تنجح الحلول الحالية؟
تستعرض الورقة أربع طرق يحاول بها الناس إصلاح موثوقية الذكاء الاصطناعي، وتشرح لماذا تفشل في حل هذه المشكلة تحديداً:
- البحث عن الحقائق (RAG): تخيل أن الشيف مسموح له بفتح كتاب وصفات أثناء الطبخ. هذا يساعد في الحقائق (مثل "كم بيضة في العجة")، لكنه لا يساعد في "الحدس" (مثل "كيفية تقدير ما إذا كانت المقلاة ساخنة بما يكفي"). لا يزال الشيف يعتمد على شعوره الداخلي غير المرئي.
- طلب التحقق من الشيف لنفسه: تخيل أنك تسأل الشيف، "هل أنت متأكد أن هذا المذاق صحيح؟" قد يقول الشيف، "نعم، أنا متأكد بنسبة 99%!". ولكن إذا تعلم الشيف عادة سيئة منذ البداية، فسيقول بثقة إن العادة السيئة جيدة. لا يمكنه اكتشاف نقاط ضعفه الخاصة.
- تدريب الشيف: تخيل إعطاء الشيف مجموعة جديدة من القواعد ليتبعها. هذا يغير سلوكه، لكن القواعد محبوسة داخل دماغه (بارامترات النموذج). لا يمكنك النظر في الداخل لترى أي قاعدة جعلته يفعل شيئاً ما.
- إعطاء الشيف دفتراً (الذاكرة): تخيل أن الشيف يكتب ما فعله اليوم ليتذكره غداً. ولكن إذا كتب خطأً، فسيقوم بتكرار هذا الخطأ للأبد. الدفتر لا يخبرك ما إذا كانت الملحوظة "صحيحة" أم "خاطئة".
العيب المشترك: كل هذه الطرق تبقي "الحدس" محبوساً داخل الذكاء الاصطناعي. البشر لا يستطيعون رؤيته، أو التحقق منه، أو المصادقة عليه.
الحل: "كائنات المعرفة" (Knowledge Objects - KOs)
يقترح المؤلفون أداة جديدة تسمى كائن المعرفة (KO).
فكر في كائن المعرفة (KO) كأنه بطاقة وصفة شفافة لـ "حدس الشيف".
عندما يستخدم الذكاء الاصطناعي حدسه لحل مشكلة ما، يجب عليه التوقف وكتابة بطاقة منظمة تقول:
- الادعاء: "استخدمت نمط Singleton لقاعدة البيانات."
- التعليل: "رأيت 12 خبيراً آخرين يفعلون ذلك في حالات حركة المرور العالية."
- القيود: "هذا يعمل فقط لتطبيقات Java، وليس لمعالجة الدفعات (batch processing)."
- المُدقق: "أليس (مهندسة أولى) تحققت من هذا في 15 يناير وقالت 'تم الاعتماد'."
كيف يغير هذا كل شيء:
بدلاً من أن يعطيك الذكاء الاصطناعي إجابة فحسب، فإنه يعطيك الإجابة بالإضافة إلى "بطاقة الوصفة" التي توضح كيف وصل إليها.
- يجعل غير المرئي مرئياً: يمكنك الآن رؤية المنطق، وليس النتيجة فقط.
- يسمح بعمليات الفحص البشري: يمكن لخبير بشري (مثل أليس) النظر في البطاقة وقول، "نعم، هذا نمط جيد"، أو "لا، هذا نمط خطير".
- يوفر الوقت (الأثر التراكمي):
- بدون كائنات المعرفة (KOs): في كل مرة يسأل فيها مطور جديد الذكاء الاصطناعي سؤالاً، يتعين عليه قضاء 30 دقيقة في التحقق مما إذا كان الذكاء الاصطناعي على حق.
- مع كائنات المعرفة (KOs): تقوم أليس بالتحقق مرة واحدة. تضع ختم "تم التحقق" على البطاقة. الآن، الـ 1,000 مطور التاليين يرون البطاقة، ويرون ختم أليس، ويثقون في الإجابة فوراً. العمل تم لمرة واحدة، لكن الفائدة تدوم للأبد.
مثال "CodeAssist"
تستخدم الورقة مثالاً برمجياً لشرح ذلك:
- السيناريو: يساعد الذكاء الاصطنا_ي مبرمجاً في اتخاذ قرار بشأن كيفية الاتصال بقاعدة البيانات.
- الطريقة القديمة: يقول الذكاء الاصطناعي، "استخدم نمط Singleton". وعلى المبرمج أن يخمن ما إذا كان هذا آمناً أم سيؤدي إلى تعطل النظام.
- طريقة كائن المعرفة (KO): يقول الذكاء الاصطناعي، "استخدم نمط Singleton"، ويعرض بطاقة: "تحذير: هذا يسبب أعطالاً إذا تجاوز عدد المستخدمين 100 في وقت واحد. تم التحقق بواسطة المهندسة الأولى أليس لتطبيقات الويب القياسية. غير مُتحقق منه لعمليات الدفعات (batch jobs)."
- النتيجة: يعرف المبرمج تماماً متى يستخدمه ومتى يتجنبه. ليس عليه التخمين.
الملخص
تجادل الورقة بأننا لا يمكننا الاعتماد على الذكاء الاصطناعي وحده لأن "دماغه" يحتوي على الكثير من الحدس الخفي وغير المتحقق منه. لجعل الذكاء الاصطناعي موثوقاً، نحتاج إلى إجباره على كتابة منطقه في تنسيق يمكن للبشر التحقق منه.
من خلال تحويل الحدس الخفي إلى كائنات معرفة (Knowledge Objects)، فإننا نحول التخمين لمرة واحدة إلى أصل دائم وموثوق. إنها تحول الذكاء الاصطناعي من "صندوق أسود" نخشاه إلى شريك تعاوني حيث يتم تسجيل الحكم البشري، ومشاركته، والبناء عليه بمرور الوقت.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.