From Hallucination to Reliability: Generative Modeling and the Structure of Scientific Inference

لطالما اعتمد العلم على فكرة بسيطة ومريحة: إذا بنيت نموذجاً للعالم، يمكنك الوثوق به لإخبارك بالحقيقة، شريطة أن تغذيه بالبيانات الصحيحة. لكن جيلاً جديداً من الذكاء الاصطناعي يغير القواعد. هذه ليست الحواسيب القديمة التي تكتفي بتصنيف المعلومات في فئات مرتبة؛ بل هي نماذج توليدية، أنظمة مصممة لإنشاء بيانات جديدة ومعقدة تماماً من الصفر. يمكنها التنبؤ بكيفية انطواء البروتين في شكل ثلاثي الأبعاد أو توقع الطقس عبر الكرة الأرضية بأكملها. المشكلة هي أن هذه الآلات الإبداعية لها جانب مظلم؛ فهي عرضة لـ "الهلوسة"، وهو مصطلح مستعار من علم النفس البشري لوصف الحالة التي يبتكر فيها الذكاء الاصطناعي تفاصيل تبدو منطقية ولكنها لا وجود لها ببساطة. في الفحص الطبي، قد يبدو هذا ككسر في عظمة سليمة؛ وفي نموذج بروتيني، قد يكون هيكلاً صلباً حيث تركت الطبيعة فوضى غير منظمة. لعقود من الزمن، قلق العلماء من أن هذه الأخطاء كانت عيوباً قاتلة، مما يجعل التكنولوجيا خطيرة جداً على الاكتشافات الجادة. إذا كانت الآلة تخترع أشياءً، فكيف يمكننا معرفة ما هو حقيقي؟

تجادل ورقة بحثية جديدة كتبها تشارلز راثكوبف، وهو باحث في مركز يوليش للأبحاث، بأننا كنا ننظر إلى المشكلة من الزاوية الخطأ. إن الخوف من أن الهلوسة تجعل الذكاء الاصطناعي التوليدي غير موثوق يعتمد على سوء فهم لكيفية عمل العلم في الواقع. يقترح راثكوبف أنه ينبغي لنا التوقف عن الحكم على نموذج الذكاء الاصطناعي بمعزل عن غيره، والبدء في الحكم على العملية العلمية بأكملها، أو "سير العمل" الذي يندمج فيه النموذج. تقترح الورقة أنه حتى لو استمر الذكاء الاصطناعي في ابتكار تفاصيل كاذبة، يمكن للعلماء بناء شبكة أمان حوله. فمن خلال استخدام معرفتهم العميقة والمسبقة بالعالم الطبيعي، يمكن للباحثين تصفية الأكاذيب والاحتفاظ بالحقائق. والنتيجة هي أن الاستنتاج العلمي النهائي يمكن أن يكون موثوقاً، حتى لو كانت الأداة المستخدمة للوصول إليه غير مثالية.

لفهم سبب أهمية ذلك، يجب على المرء أولاً أن يستوعب ما تفعله نماذج الذكاء الاصطنا هذه. على عكس البرمجيات التقليدية التي تتبع قواعد صارمة ومكتوبة مسبقاً، يتعلم الذكاء الاصطناعي التوليدي من خلال دراسة كميات هائلة من البيانات الموجودة ثم يخمن ما سيأتي بعد ذلك. الأمر يشبه طالباً قرأ كل كتاب في المكتبة ويُطلب منه الآن كتابة قصة جديدة. قد يكتب الطالب شيئاً جميلاً وجديداً، ولكنه قد يبتكر أيضاً شخصية لم توجد قط أو حبكة تخالف قوانين الفيزياء. في عالم العلم، هذا "الابتكار" هو الهلوسة. تشير الورقة إلى أن هذه الأخطاء ليست مجرد أخطاء عشوائية، بل هي حتمية. ولأن الذكاء الاصطناعي يحاول إنشاء هياكل معقدة وعالية الأبعاد — مثل الانطواء المعقد للبروتين أو الأنماط الدوامية للعاصفة — فإنه يجب عليه ملء الفجوات حيث تكون البيانات ضئيلة. وبقيامه بذلك، فإنه يصنع أحياناً هيكلاً يبدو مثالياً على السطح ولكنه خاطئ جوهرياً في العمق. يرى المؤلف أننا لا يمكننا ببساطة تدريب الذكاء الاصطناعي بشكل أقوى أو بناء نسخة أفضل من النموذج لمنعه من ذلك؛ فذات الآلية التي تسم ت الذكاء الاصطناعي ليكون مبدعاً ومفيداً هي نفسها الآلية التي تجبره على الهلوسة.

تتحدى الورقة افتراضاً شائعاً في هذا المجال: وهو أن الهلوسة هي مجرد قطعة من البيانات تبدو مختلفة عما تدرب عليه الذكاء الاصطناعي. لو كان الأمر كذلك، لكان بإمكان العلماء ببساطة التخلص من أي مخرجات لا تتطابق مع بيانات تدريبهم. لكن راثكوبف يجادل بأن هذا فخ. في العلم، الهدف ليس تكرار ما نعرفه بالفعل، بل هو اكتشاف ما لا نعرفه. إذا قام عالم بالتخلص من نتيجة جديدة غريبة لمجرد أنها تبدو مختلفة عما كان في الماضي، فقد يتخلص بالخطأ من اكتشاف حقيقي. بدلاً من ذلك، تعرف الورقة الهلوسة بدقة أكبر: هي مخرج يمثل بشكل خاطئ الكائن الواقعي الذي يُفترض أن يصفه، وهي تفعل ذلك عن طريق الخطأ، وليس عن طريق التصميم. إنها خطأ ترتكبه الآلة من تلقاء نفسها، وليس خدعة تعلمتها.

ينتقل المؤلف بعد ذلك إلى مثالين من العالم الحقيقي ليبين كيف يحل العلماء هذه المشكلة بالفعل دون الحاجة إلى إصلاح الذكاء الاصطناعي نفسه. الحالة الأولى هي "ألفافولد" (AlphaFold)، وهو نظام ذكاء اصطناعي شهير طورته جوجل ديب مايند للتنبؤ بالأشكال ثلاثية الأبعاد للبروتينات. البروتينات هي محركات الحياة، وأشكالها تحدد وظائفها. يستخدم "ألفافولد 3"، النسخة الأحدث، نهجاً توليدياً يسمح له بابتكار هياكل جديدة. كان المطورون يعلمون أن هذا سيؤدي إلى الهلوسة. في الواقع، يبتكر النظام أحياناً شكلاً متماسكًا ومدمجاً لجزء من البروتين يُفترض في الأصل أن يكون مرناً وغير منظم. إذا أخذ عالم تلك المخرجات على أنها حقيقة مطلقة، فسوف يُضلل. ومع ذلك، قام الفريق ببناء "سير عمل" حول الذكاء الاصطناعي للإمساك بهذه الأخطاء. لقد أضافوا طبقة ثانية من التحليل تعمل مثل مفتش مراقبة الجودة. ينظر هذا النظام إلى مخرجات الذكاء الاصطناعي ويتحقق منها مقابل القواعد المعروفة للكيمياء والفيزياء. على سبيل المثال، يعرف النظام أن الأجزاء غير المنظمة من البروتين يجب أن تكون معرضة للمياه المحيطة، بينما يجب أن تكون الأجزاء الصلبة مدفونة في الداخل. إذا ابتكر الذكاء الاصطناعي شكلاً صلباً لجزء غير منظم، فإن سير العمل يصنف ذلك كأمر مشبوه. كما يمنح النظام درجة ثقة لكل جزء من الشكل المتوقع، ليخبر العالم بالضبط أي الأجزاء موثوقة وأيها من المرجح أن تكون هلوسات. لا يزال الذكاء الاصطناعي يرتكب أخطاء، لكن سير العمل يضمن عدم وصول تلك الأخطاء إلى الاستنتاج النهائي.

المثال الثاني يأتي من علم الأرصاد الجوية، وتحديداً من نظام يسمى "سيدز" (SEEDS) يُستخدم للتنبؤ بالطقس. الطقس يتسم بالفوضى؛ فالتغييرات الصغيرة في الظروف الأولية يمكن أن تؤدي إلى نتائج مختلفة تماماً. للتعامل مع ذلك، يستخدم المتنبئون "النماذج التجميعية" (ensembles)، مما يعني تشغيل نفس النموذج مرات عديدة للحصول على نطاق من الاحتمالات المستقبلية. يستخدم "سيدز" ذكاءً اصطناعياً توليدياً لإنشاء هذه الاحتمالات المستقبلية المتعددة بسرعة. تشير الورقة إلى أن التوقعات الفردية من هذا الذكاء الاصطناعي قد تكون مستحيلة فيزيائياً، مثل خريطة طقس يتناقض فيها الضغط الجوي ودرجة الحرارة مع قوانين الفيزياء. هذه هي الهلوسة. ومع ذلك، يظل النظام موثوقاً. كيف؟ لأن العلماء لا ينظرون إلى توقع واحد بمعزل عن غيره، بل ينظرون إلى المجموعة بأكملها المكونة من 512 توقعاً معاً. إذا كان أحد التوقعات عبارة عن هلوسة، فسيكون مجرد صوت واحد وسط حشد كبير. وطالما أن الهلوسات نادرة وليست جميعها متشابهة، فإنها تتلاشى عند حساب الاحتمالية النهائية لهطول الأمطار أو الحرارة. سير العمل هنا هو "التجميع" نفسه. من خلال التعامل مع المخرجات كمجموعة من الاحتمالات بدلاً من حقيقة واحدة، يقوم النظام بتصفية الضجيج. كما يستخدم الباحثون أدوات إحصائية للتحقق مما إذا كانت مجموعة التوقعات، ككل، تتطابق مع الواقع، مما يضمن أن أرقام الاحتمالات النهائية جديرة بالثقة.

النتيجة الجوهرية للورقة هي أن الموثوقية لا تتطلب أن يكون الذكاء الاصطناعي مثالياً، بل تتطلب أن تكون العملية البشرية المحيطة به ذكية. يجادل راثكوبف بأنه ينبغي لنا التوقف عن محاولة بناء ذكاء اصطناعي "خالٍ من الهلوسة"، وهو هدف قد يكون مستحيلاً، والبدء في بناء سير عمل "مقاوم للهلوسة". وهذا ينقل التركيز من الآلة إلى المنهج. يمكن للآلة أن تكون "صندوقاً أسود"، مولداً غامضاً للأفكار، طالما أن العلماء المحيطين بها لديهم المعرفة لاختبار تلك الأفكار. تشير الورقة إلى أن هذا هو ما كان يفعله العلم دائماً: نحن نستخدم أدوات غير مثالية، لكننا نحيطها بالضوابط والتوازنات. يوفر الذكاء الاصطناعي المادة الخام، بينما يوفر العالم الحكم والتقدير.

يغير هذا النهج أيضاً طريقة تفكيرنا في دور الذكاء الاصطناعي في العلم. يجادل بعض النقاد بأن الذكاء الاصطناعي جيد فقط في إيجاد أفكار جديدة (الاكتشاف) وليس في إثبات صحتها (التبرير). ويقولون إنه لا ينبغي لنا الوثوق بالذكاء الاصطناعي إلا إذا تمكنا من اختبار تنبؤاته في المختبر. يتفق راثكوبف مع أن الاختبار أمر بالغ الأهمية، لكنه يضيف أن سير العمل نفسه هو جزء من الإثبات. إن عملية التصفية، والترتيب، وتوصيف مخرجات الذكاء الاصطناعي هي شكل من أشكال التبرير. الأمر لا يتعلق فقط بانتظار رؤية ما إذا كان الذكاء الاصطناعي على صواب، بل يتعلق ببناء نظام يضمن أن يكون الذكاء الاصطناعي على صواب قبل حتى إجراء التجربة. تشير الورقة إلى أنه طالما لدينا معرفة خلفية كافية بالنظام الذي ندرسه — سواء كان بروتيناً أو جبهة عاصفة — يمكننا بناء هذه الشبكات الأمنية.

تختتم الورقة بنبرة واقعية ولكنها مليئة بالأمل. إن القدرة على بناء سير عمل موثوق كهذا تعتمد على امتلاك فهم عميق للنظام المستهدف. فإذا كان العلماء يحاولون نمذجة شيء يعرفون عنه القليل جداً، فلن يتمكنوا من بناء المرشحات اللازمة للإمساك بأكاذيب الذكاء الاصطناعي. في تلك المناطق الحدودية، تظل المخاطرة عالية. ولكن بالنسبة للعديد من المجالات التي لدينا فيها إدراك راسخ للقواعد — مثل انطواء البروتين أو ديناميكيات الطقس — يمكن للذكاء الاصطناولي التوليدي أن يكون شريكاً قوياً. ستستمر الآلة في الهلوسة، تماماً كما قد يرتكب فنان بشري خطأً أثناء الرسم. ولكن طالما أن العالم يعرف كيف تبدو اللوحة الحقيقية، يمكنه رصد الخطأ والاحتفاظ بالتحفة الفنية. لا تدعي الورقة أن مشكلة الذكاء الاصطناعي قد حُلت أو أن الهلوسة ستختفي، بل تدعي شيئاً أكثر عملية: يمكننا تعلم التعايش معها، وإدارتها، واستخدام هذه الأدوات القوية لتوسيع آفاق المعرفة البشرية. إن موثوقية العلم، كما يرى المؤلف، لم تكن يوماً متعلقة بكمال أدواتنا، بل بحكمة كيفية استخدامها.