تخيل أن لديك صديقًا آليًا فائق الذكاء يمكنه قراءة أي كتاب، وكتابة أي قصة، والتحدث كالبشر. هذا الروبوت هو "نموذج لغوي كبير" (LLM). إنه مذهل في الظهور بمظهر الواثق واللبق. لكن هناك مشكلة؛ إذا طلبت من هذا الروبوت القيام بعملية حسابية أو تقديم نصيحة طبية محددة بناءً على بياناتك الشخصية، فقد يقوم ببساطة بتأليف أشياء ليبدو جيدًا. الأمر يشبه ممثلًا موهوبًا يمكنه الارتجال في خطاب مقنع عن الطقس، ولكن إذا سألته عن درجة الحرارة بدقة، فقد يخمن "72 درجة" بينما هي في الواقع تمطر ويسودها البرد. في عالم الصحة، هذا أمر خطير. فإذا أخبرك الروبوت أن مستوى السكر في دمك جيد بينما هو ليس كذلك، أو اخترع خطرًا لا تعاني منه، فقد يؤدي ذلك إلى قرارات سيئة. يحاول العلماء اكتشاف كيفية منع هذه الروبات من "الهلوسة" (تأليف الأشياء) وإجبارها على الالتزام بالحقائق الصلبة، خاصة عندما يتعلق الأمر بأجسادنا.

هذه الورقة البحثية، التي تحمل عنوان "تأصيل الذكاء الاصطناوي الصحي" (Grounding Health AI)، تتحدث عن بناء شبكة أمان لهذه الروبوتات الصحية. لقد صمم الباحثون نظامًا يسمى "وكيل الصحة الشخصي لمشروع النمط الظاهري البشري" (PHA). فكر في الأمر كأنك تمنح الروبوت كتاب قواعد صارم، وفريقًا من الخبراء الحسابيين، ومكتبة ضخمة من البيانات البشرية الحقيقية للتحقق منها قبل أن يتحدث. لقد اختبروا هذا النظام عبر تغذيته ببيانات حقيقية لمدة أسبوعين لأشخاص يرتدون أجهزة مراقبة الجلوكوز (أجهزة تتبع مستويات السكر في الدم) وسجلات طعام. والنتيجة؟ عندما استخدم الروبوت هذا النظام الجديد، توقف عن تأليف الأرقام. وبدلاً من تخمين أنماط السكر في الدم الخاصة بك، قام بحسابها باستخدام أدوات حقيقية. وبدلاً من اختراع المخاطر، اعترف عندما لا يملك معلومات كافية. وجد الفريق أنه من خلال الجمع بين هذه "الأدوات" و"المهارات" (قواعد حول كيفية التحدث)، استطاعوا تحويل روبوت كانت دقة هيكله وحقائقه تبلغ حوالي 37% فقط إلى روبوت تصل دقته إلى 91%. إنها خطوة كبيرة نحو جعل الذكاء الاصطناعي الذي يمكن للأطباء والمرضى الوثوق به حقًا.

المشكلة: الروبوت الذي يكذب ليبدو لطيفًا

تخيل أنك سلمت روبوتًا مستقبليًا مذكرات لكل ما أكلته لمدة أسبوعين ورسمًا بيانيًا لمستويات السكر في دمك. ثم سألته: "كيف هي عملية التمثيل الغذائي لدي؟" قد يكتب ذكاء اصطناعي قياسي فائق الذكاء تقريرًا منسابًا وجميلاً. قد يقول: "لقد تناولت 172 وجبة!" (بينما تناولت 70 فعليًا!) أو "تقلبات السكر في دمك كانت طفيفة"، بينما كانت في الواقع جامحة. يبدو الكلام مثاليًا، لكنه كذب. الروبوت بارع جدًا في الكتابة لدرجة أنه يملأ الفراغات بتخمينات تبدو منطقية ولكنها خاطئة تمامًا.

وجد الباحثون أن أفضل نماذج الذكاء الاصطناي في العالم كانت تفعل ذلك. فقد كانوا يخترعون مقياسًا يسمى "MAGE" (الذي يقيس مدى ارتفاع وانخفاض السكر في الدم) ويقولون إنه 41، بينما أظهرت الحسابات الحقيقية أنه 84.8. كانوا يدعون تحليل 172 وجبة بينما البيانات تحتوي على 70 فقط. بل وكانوا يتنبؤون بمخاطر صحية مستقبلية دون امتلاك الأدوات اللازمة لحسابها. الأمر يشبه طباخًا لا يعرف كيف يطبخ، لكنه يكتب مراجعة خمس نجوم لوجبة لم يتذوقها قط. بالنسبة للشخص العادي، هذا أمر مربك. وبالنسبة للطبيب، هو أمر خطير.

الحل: "حزمة التأصيل" (The Grounding Stack)

لإصلاح ذلك، بنى الفريق نوعًا جديدًا من وكلاء الذكاء الاصطناي يسمى PHA. لم يكتفوا بإخبار الروبوت بأن "يكون حذرًا"، بل بنوا نظام "تأصيل" مكونًا من أربع طبقات. تخيل أن الروبوت طالب يؤدي اختبارًا:

1. المكتبة المرجعية (مشروع النمط الظاهري البشري): أولاً، أعطوا الروبوت مكتبة ضخمة من البيانات لأكثر من 13,000 شخص حقيقي. هذه ليست مجرد أرقام عشوائية؛ بل هي نظرة عميقة لكيفية تفاعل أجساد البشر الحقيقيين مع الطعام والتمارين الرياضية. إذا أراد الروبوت أن يقول "سكر الدم لديك مرتفع"، فعليه التحقق من هذه المكتبة ليرى كم عدد الأشخاص الآخرين الذين لديهم نفس المستوى من حيث العمر والجنس. إنه مثل امتلاك فصل دراسي ضخم يضم 13,000 طالب لمقارنة درجات اختبارك بهم، بدلاً من التخمين ما إذا كنت قد أبليت بلاءً حسنًا أم لا.

2. الأدوات الخبيرة (الآلات الحاسبة): بعد ذلك، منحوا الروبوت صندوق أدوات يحتوي على 21 آلة حاسبة محددة. لا يُسمح للروبوت بإجراء الحسابات في ذهنه. إذا احتاج لمعرفة متوسط السكر في الدم، فعليه أن يطلب من أداة محددة إجراء الحساب. وإذا احتاج لمعرفة مخاطر قلبه، فعليه استخدام آلة حاسبة محددة لمخاطر القلب. الروبوت مجرد رسول؛ الأدوات هي من تقوم بالعمل الشاق.

3. المهارات السلوكية (كتاب القواعد): هذا هو الجزء الأكثر ذكاءً. لدى الروبوت مجموعة من "المهارات" المكتوبة في ملفات نصية بسيطة (مثل كتاب القواعد). هذه القواعد تخبر الروبوت بما يمكنه وما لا يمكنه قوله. على سبيل المثال، قد تنص قاعدة على: "إذا لم تقم بحساب عدد الوجبات باستخدام الأداة، فلا يمكنك قول عدد الوجبات التي تناولها الشخص". قاعدة أخرى قد تقول: "إذا لم تكن لديك بيانات ضغط الدم، فلا يمكنك تخمين مخاطر القلب". هذه القواعد تمنع الروبوت من اختلاق الأشياء، حتى لو أراد ذلك.

4. دورة الاختبار الموجه (المصحح): أخيرًا، بنى الفريق نظامًا يختبر الروبوت أثناء بنائه. في كل مرة يرتكب فيها الروبوت خطأً (مثل اختراع رقم)، يكتب الفريق اختبارًا محددًا للإمساك بهذا الخطأ بالضبط في المرة القادمة. إنه مثل لعبة فيديو حيث كلما سقطت في حفرة، تضيف اللعبة فخًا جديدًا للتأكد من أنك لن تسقط هناك مجددًا.

ماذا وجدوا: الأدوات مقابل القواعد

أجرى الباحثون تجربة ضخمة. أخذوا بيانات 14 شخصًا حقيقيًا وطلبوا من الروبوت كتابة تقارير باستخدام إعدادات مختلفة. قارنوا بين:

• الأساس (Baseline): الروبوت الذكي فقط بدون أدوات أو قواعد.
• الأدوات فقط: الروبوت المزود بالآلات الحاسبة ولكن بدون كتاب قواعد.
• النظام الكامل: الروبوت المزود بكل من الآلات الحاسبة وكتاب القواعد.

كانت النتائج واضحة ومفاجئة:

• روبوت الأساس: حصل على درجة 0.37 (من أصل 1.0) في اختبار "الموثوقية". كان فصيحًا ولكنه مليء بالحقائق المختلقة.
• الأدوات فقط: عندما أعطوا الروبوت الآلات الحاسبة ولكن بدون قواعد، ارتفعت الدرجة قليلاً إلى 0.49. أصبح بإمكان الروبوت إجراء الحسابات الآن، لكنه لم يكن يعرف كيف يبلغ عنها بشكل صحيح. كان ينسى أحيانًا ذكر العملية الحسابية أو يقول أشياء لا تدعمها الأدوات.
• النظام الكامل: عندما أضافوا كتاب القواعد (المهارات) فوق الأدوات، قفزت الدرجة إلى 0.91.

الدرس الكبير هنا هو أن الأدوات والقواعد يقومان بوظائف مختلفة. جعلت الأدوات الأرقام دقيقة (من 14% دقة إلى 90% دقة). لكن القواعد جعلت التقرير كاملاً، صادقًا، ومنظمًا بشكل صحيح. بدون القواعد، كان لدى الروبوت الإجابات ولكنه لم يكن يعرف كيف يقدمها. ومع القواعد، أصبح مساعدًا موثوقًا.

"قوة الرفض" الخارقة

من أروع الأشياء التي تعلمها النظام الجديد هو كيفية قول "أنا لا أعرف". في الاختبارات القديمة، عندما لم يكن لدى الروبوت بيانات كافية (مثل غياب قراءات ضغط الدم)، كان يخمن مخاطر القلب على أي حال. كان يقول: "مخاطرك عالية"، رغم أنه لا يستطيع حسابها.

أما النظام الجديد، فقد تعلم التوقف. عندما حاول الروبوت حساب مخاطر القلب دون وجود بيانات ضغط الدم، أجبرته القواعد على قول: "لا يمكنني حساب هذا لأنني أفتقد بيانات ضغط الدم. يرجرج الحصول على هذه البيانات أولاً". لقد رفض الكذب. هذا تحول هائل. فبدلاً من أن يكون روبوتًا يمتلك دائمًا إجابة (حتى لو كانت خاطئة)، أصبح روبوتًا يعرف حدوده.

هل يصلح هذا لأشياء أخرى؟

اختبر الفريق أيضًا ما إذا كان هذا النظام يمكنه التعامل مع أنواع مختلفة من الأسئلة الصحية. حاولوا السؤال عن الصحة الأيضية العامة وحتى صحة القلب (المخاطر القلبية الوعائية). عمل النظام بشكل جيد في كليهما، حيث قفز من درجة منخفضة حوالي 0.37 إلى درجة عالية تصل إلى 0.70 أو 0.72. وهذا يشير إلى أن "الوصفة" التي وجدوها —الجمع بين البيانات الحقيقية، والأدوات المحددة، والقواعد الصارمة— يمكن استخدامها لأجزاء مختلفة من الطب، وليس فقط لسكر الدم.

الخلاصة

تظهر هذه الورقة أنه لجعل الذكاء الاصطناعي آمنًا للصحة، لا يمكننا الاعتماد فقط على كون الذكاء الاصطناعي "أكثر ذكاءً". يجب أن نبني نظامًا يُجبر فيه الذكاء الاصطناعي على استخدام آلات حاسبة حقيقية، والتحقق من بيانات بشرية حقيقية، واتباع قواعد صارمة بشأن ما يمكنه قوله. النتيجة هي نظام أقل عرضة لاختلاق حقائق مخيفة أو خاطئة.

يعترف الباحثون بأن هذا ليس حلاً مثاليًا بعد. لقد اختبروه على مجموعة صغيرة من الناس وعلى التقارير المكتوبة بشكل أساسي، وليس على المحادثات المباشرة. كما أشاروا إلى أن "جوهر" التقرير —مدى كونه مفيدًا أو لطيفًا مع المريض— يصعب اختباره بالحواسيب ويحتاج إلى أطباء بشريين للتحقق منه. ولكن بالنسبة لـ "شكل" التقرير —الأرقام، والمصادر، والصدق— فإن النظام الجديد يمثل تحسنًا هائلاً. إنه يحول الروبوت الذي يبدو واثقًا ولكنه مخطئ، إلى روبوت يبدو واثقًا لأنه على حق.