Symposium: Trust via Auditable Records for Communities of AI Scientist Agents

لطالما اعتمد العلم على إيقاع بشري بسيط: يقوم الباحث بتقديم ادعاء، ويجمع الأدلة، ثم يدونها ليتمكن الآخرون من التحقق منها. يعمل هذا النظام لأن السجل مستقر؛ فالورقة البحثية التي تُنشر اليوم يمكن قراءتها والتحقق منها من قبل زميل بعد عشر سنوات، والذي يمكنه تتبع كل خطوة وصولاً إلى البيانات الأصلية. ولكن نوع جديد من العلماء بدأ يدخل المختبر: العميل الاصطناعي (AI agent). هذه البرامج يمكنها قراءة آلاف الأوراق البحثية، وتصميم التجارب، وتحليل البيانات بسرعة تفوق أي إنسان بكثير. إنها تعد بتسريع الاكتشاف، ومع ذلك فهي تحمل خطراً فريداً. ولأنها سريعة وقادرة للغاية، يمكنها أيضاً ارتكاب أخطاء يصعب رصدها، مثل اختلاق الحقائق، أو إساءة قراءة المصادر، أو تحريف البيانات ببراعة لتناسب نتيجة مرغوبة. عندما يرتكب الباحث البشري خطأً، فإنه عادة ما يكون واضحاً. أما عندما يرتكب العميل الاصطناعي خطأً، فقد يكون الخطأ مدفوناً داخل جبل من النصوص المولدة، مما يجعل من الصعب معرفة ما يمكن الوثوق به.

إن السؤال الذي يواجه المجتمع العلمي ليس فقط كيفية بناء ذكاء اصطناعي أفضل، بل كيفية بناء نظام يمكننا من خلاله الوثوق بما يقوله الذكاء الاصطناعي. إذا ولد برنامج آلي فرضية ما أو حلل مجموعة بيانات، فكيف نعرف أن الاستدلال سليم؟ كيف نعرف أنه لم يقم بمجرد التخمين؟ الإجابة لا تكمن في تغيير الذكاء الاصطناعي نفسه، بل في تغيير كيفية تسجيل عمله. نحن بحاجة إلى طريقة لالتقاط عملية التفكير الكاملة للذكاء الاصطناعي، من تخمينه الأول إلى استنتاجه النهائي، في تنسيق دائم وشفاف ومستحيل التغيير بعد إتمامه. هذا هو التحدي الذي يعالجه ديكستر برات، الباحث في جامعة كاليفورنيا - سان دييغو، في إطار عمل جديد يسمى "سيمبوزيوم" (Symposium).

"سيمبوزيوم" ليس نوعاً جديداً من عملاء الذكاء الاصطناعي، ولا هو أداة برمجية تساعد العملاء في أداء وظائفهم. بدلاً من ذلك، هو نظام أرشفة رقمي مصمم خصيصاً لعصر الذكاء الاصطناعي. تخيل مكتبة حيث كل كتاب، وكل ملاحظة، وكل قصاصة ورق موضوعة داخل واجهة زجاجية لا يمكن فتحها أو تغييرها بمجرد إغلاقها. في هذه المكتبة، "الكتب" ليست مجرد تقارير نهائية، بل هي المسار الكامل للاستدلال الذي أدى إلى الاستنتاج. يسجل النظام كل فرضية يضعها العميل الاصطناعي، وكل قطعة بيانات يفحصها، وكل افتراض يضعه في طريقه. والأهم من ذلك، أنه يجبر الذكاء الاصطناعي على التصريح بدقة عن قطع المعلومات التي يستخدمها كدليل. إذا ادعى عميل ما أن دواءً معيناً فعال، فيجب عليه الإشارة إلى جدول بيانات محدد أو تجربة تدعم هذا الادعاء، ولا يمكنه استخدام أي معلومات أخرى كدليل ما لم يصرح صراحةً بأنه يفعل ذلك.

الفكرة الجوهرية وراء "سيمبوزيوم" هي أن الثقة ليست درجة واحدة أو حكماً بسيطاً بـ "نعم" أو "لا". إنها قرار يُتخذ لغرض محدد. قد يقرر الباحث الوثوق بنتيجة ذكاء اصطناعي بما يكفي لإجراء تجربة متابعة صغيرة، ولكن ليس بما يكفي لبناء توصية طبية كبرى عليها. يلتقط "سيمبوزيوم" هذا الفارق الدقيق من خلال اشتراط ذكر الغرض من كل مدخل والمخاطر المرتبطة به. عندما ينشر الذكاء الاصطناعي نتيجة ما، يجب عليه شرح سبب وصوله إلى ذلك الاستنتاج، وما هي الافتراضات التي توجب عليه اتخاذها، وماذا ستكون العواقب إذا كان مخطئاً. هذا يخلق مساراً واضحاً وقابلاً للتدقيق. إذا أراد عالم مستقبلي، أو حتى عميل اصطناعي آخر، البناء على ذلك العمل، فيمكنه النظر في السجل ورؤية كيف تم التوصل إلى الاستنتاج الأصلي بالضبط. يمكنهم التحقق من الأدلة، ومعرفة ما إذا كانت الافتراضات صامدة، والقرار بأنفسهم بشأن مدى الثقة في النتيجة.

يعمل النظام من خلال معاملة كل قطعة بحثية كسجل دائم يسمى "أثر" (Artifact). هذه "الآثار" مرتبطة معاً في تاريخ لا يمكن إعادة كتابته. إذا ارتكب عميل اصطناعي خطأً أو وجد معلومات جديدة تغير استنتاجاً سابقاً، فإنه لا يحذف أو يعدل السجل القديم، بل ينشر سجلاً جديداً يشرح فيه التصحيح، تاركاً السجل الأصلي كما هو ليبقى تاريخ الخطأ والإصلاح مرئياً. يحاكي هذا النهج الطريقة التي يتعامل بها العلم البشري مع التصحيحات، ولكنه يطبقه على المخرجات عالية الحجم والسريعة للعملاء الاصطناعيين. تم تصميم الإطار ليكون مرناً، مما يسمح لمجموعات مختلفة من الباحثين باستخدام أدواتهم وطرقهم الخاصة مع الالتزام بنفس القواعد لتسجيل عملهم. إنه يفصل تاريخ البحث عن العملاء الذين ينتجونه، مما يضمن بقاء السجل حتى مع تغير التكنولوجيا الكامنة وراء هؤلاء العملاء.

يقدم بحث "برات" القواعد لهذا النظام ويوفر مثالاً عملياً لإظهار كيفية عمله في الواقع. يوضح المثال عميلاً اصطناعياً يولد حجة علمية، ويقسمها إلى ادعاءات وأدلة وافتراضات، ويربط بينها بطريقة يمكن للقارئ البشري تتبعها. يجبر النظام العميل على أن يكون صريحاً بشأن ما يعرفه وما يخمنه. ويتطلب منه أن يوضح بوضوح نقاط البيانات المستخدمة كدليل وأن يشرح المنطق وراء كل خطوة. هذا المستوى من التفصيل هو ما يجعل النظام "قابلاً للتدقيق". فهو يسمماح لأي شخص، بشرياً كان أم آلياً، بتتبع استنتاج ما وصولاً إلى مصدره والتحقق من سلامة المنطق.

يتناول البحث أيضاً مشكلة "الهلوسة"، حيث يخترع عملاء الذكاء الاصطناعي حقائق أو استشهادات. في إطار "سيمبوزيوم"، لا يمكن للعميل مجرد الاستشهاد بمصدر ما؛ بل يجب عليه إعلان ذلك المصدر كدليل وشرح سبب أهميته. إذا حاول العميل استخدام قطعة من البيانات لم يعلن عنها بشكل صحيح، فإن النظام يرفضها. هذا يخلق حاجزاً ضد نوع الخداع المبطن الذي يمكن أن يحدث عندما يحاول العميل جعل حجة ضعيفة تبدو قوية. لا يضمن النظام أن يكون الذكاء الاصطناعي على صواب دائماً، لكنه يضمن أن يكون الاستدلال مرئياً. إذا أخطأ الذكاء الاصطناعي، فسيكون الخطأ واضحاً لأن سلسلة الأدلة ستكون مكسورة أو لأن الافتراضات ستكون مذكورة بوضوح.

أحد أهم جوانب هذا العمل هو تركيزه على "أعراف المختبر" (lore of the laboratory). في العلم التقليدي، غالباً ما يحتفظ الباحثون بسجل لتجاربهم الفاشلة، والطرق المسدودة، والنتائج السلبية في دفاتر شخصية نادراً ما يتم مشاركتها. هذه السجلات قيمة لأنها تمنع الآخرين من إضاعة الوقت في نفس الأخطاء. يشجع "سيمبوزيوم" على تسجيل جميع الأعمال، وليس فقط النتائج الناجحة. ومن خلال السماح للعملاء بنشر سير عملهم بالكامل، بما في ذلك الأجزاء التي لم تنجح، يخلق النظام ذاكرة مشتركة للمجتمع العلمي. وهذا أمر مهم بشكل خاص للذكاء الاصطناعي، الذي يمكنه توليد كميات هائلة من البيانات والتحليلات في يوم واحد. وبدون نظام لتسجيل وتنظيم هذه المعلومات، سيضيع الكثير منها أو يُنسى.

تم تصميم الإطار ليستخدمه مجتمعات صغيرة من الباحثين الذين ينشرون عملاء ذكاء اصطناعي في مختبراتهم. فهو يوفر البنية التحتية لهذه المجتمعات لإنشاء سجل مشترك خاص بها، حيث يمكن للعملاء نشر عملهم والبناء على عمل الآخرين. النظام قابل للتوسع، مما يعني أنه مع ظهور أنواع جديدة من أدوات الذكاء الاصطناعي، يمكن للإطار أن يتكيف ليشملها دون كسر السجل الحالي. هذه المرونة حاسمة لأن التكنولوجيا تتطور بسرعة، والنظام الجامد سيصبح قديماً بسرعة.

لا يدعي البحث أن "سيمبوزيوم" هو حل مثالي أو أنه سيحل جميع مشاكل الذكاء الاصطناعي في العلم. إنه مقترح لطريقة جديدة لتسجيل الأبحاث، طريقة تعطي الأولوية للشفافية والمساءلة. يقر المؤلف بأن النظام يعتمد على التزام العملاء بالقواعد، وأنه لا توجد طريقة لإجبار العميل على الصدق. ومع ذلك، من خلال جعل عملية الاستدلال مرئية ودائمة، يجعل النظام من الصعب جداً على العميل إخفاء أخطائه. إنه ينقل عبء الثقة من العميل نفسه إلى السجل الذي يتركه وراءه.

في النهاية، يتعلق "سيمبوزيوم" بخلق مساحة يمكن للذكاء الاصطناعي والبشر العمل فيها معاً بثقة. إنه إطار عمل يدرك قوة الذكاء الاصطناعي في تسريع الاكتشاف مع احترام الحاجة إلى الإشراف البشري والتحقق. ومن خلال توفير سجل واضح وغير قابل للتغيير لكيفية الوصول إلى الاستنتاجات العلمية، فإنه يسمح للمجتمع العلمي بتقييم مدى موثوقية العمل الناتج عن الذكاء الاصطناعي على أساس كل حالة على حدة. هذا ليس حلاً سحرياً، بل هو خطوة عملية نحو مستقبل يمكن أن يكون فيه الذكاء الاصطناعي شريكاً موثوقاً في العملية العلمية، وليس "صندوقاً أسود" ينتج نتائج لا يمكننا فهمها. إن هذا العمل يضع الأساس لنوع جديد من التعاون العلمي، تعاون مبني على الأرض الصلبة للأدلة القابلة للتدقيق والتاريخ المشترك.