TrustRAG: Blockchain-Enhanced RAG via Committee-Based Credibility Scoring
إن TrustRAG هو نظام توليد معزز بالاسترجاع مدعوم بتقنية البلوكشين يضمن سلامة وقابلية التحقق من المستندات المسترجعة في المجالات الحرجة عبر توظيف آلية تسجيل نقاط المصداقية القائمة على لجنة، والمؤمنة من خلال براهين المعرفة الصفرية والحوسبة متعددة الأطراف الآمنة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في العصر الرقمي الحديث، تعلم الذكاء الاصطناعي التحدث بطلاقة الخبراء المتمرسين، مستمدًا كميات هائلة من المعلومات من تدريبه للإجابة على الأسئلة، وكتابة القصص، وحل المشكلات. ومع ذلك، فإن هذه المعرفة ثابتة، ومجمدة في الزمن مثل مكتبة توقفت رفوفها عن التحديث منذ سنوات. ولإصلاح ذلك، طور الباحثون طريقة تسمى "التوليد المعزز بالاسترجاع" (Retrieval-Augmented Generation)، والتي تسمح لهذه الأنظمة الذكية بالتواصل وجلب حقائق جديدة ومحددة من مصادر خارجية قبل صياغة الإجابة. وقد أصبح هذا النهج حيويًا في مجالات مثل الطب والقانون والتمويل، حيث يمكن أن يشكل الفرق بين حقيقة صحيحة وأخرى قديمة الفرق بين قرار آمن وخطأ كارثي. ومع ذلك، ظهرت مشكلة جديدة: بينما يمكن للنظام العثور على معلومات جديدة، غالبًا ما تكون هناك طريقة موثوقة لمعرفة مصدر تلك المعلومات، أو من كتبها، أو ما إذا تم التلاعب بها. فعملية جلب هذه الحقائق غالبًا ما تتحكم فيها منظمة واحدة غامضة، مما يترك المستخدمين غير قادرين على التحقق مما إذا كانت الأدلة التي يقرؤونها حقيقية أم متلاعبًا بها.
ولحل أزمة الثقة هذه، بنى فريق من الباحثين نظامًا جديدًا يسمى "TrustRAG"، والذي يعمل كمسار آمن وشفاف لتغذية المعلومات في الذكاء الاصطناعي. تخيل عالمًا يتم فيه فحص كل قطعة من المعلومات التي تدخل النظام أولاً من قبل لجنة من الخبراء المستقلين الذين يصوتون على جودتها دون الكشف عن هوياتهم، مما يضمن عدم قدرة أي شخص بمفرده على تزييف النتيجة. يستخدم هذا النظام سجلًا رقميًا، يشبه سجلًا عامًا لا يمكن محوه أو تعديله، لتوثيق آراء الخبراء والمستندات التي يزكونها. وعندما يطرح مستخدم سؤالًا، لا يقوم النظام بمجرد جلب المستندات الأكثر شعبية أو حداثة؛ بل يسترجع فقط تلك التي تمت المصادقة عليها مسبقًا من قبل هذه اللجنة من الخبراء ويقوم بمطابقتها عبر مصادر مستقلة متعددة لضمان عدم إغفال أو استبدال أي شيء. والنتيجة هي استجابة تأتي مع شهادة أصالة مدمجة، مما يسمح لأي شخص بتتبع الإجابة وصولاً إلى مصادرها الأصلية والمحققة والتأكد من أن ترتيب تلك المصادر قد تم حسابه بنزاهة.
يكمن الابتكار الجوهري لـ TrustRAG في كيفية تعامله مع التوازن الدقيق بين الخصوصية والتحقق. في العديد من الأنظمة الحالية، إذا كشف الخبراء عن درجاتهم للمستند، فقد يتعرضون للضغط أو الرشوة لتغيير آرائهم. ولمنع ذلك، صمم الباحثون عملية يقدم فيها الخبراء تقييماتهم باستخدام طريقة تشفير خاصة تخفي الدرجة الفعلية مع إثبات صحتها. فكر في الأمر كوضع ورقة اقتراع مختومة في صندوق شفاف؛ يظهر الصندوق أنه تم الإدلاء بصوت وأنها جاءت من ناخب مسجل، ولكن لا يمكن لأحد رؤية كيف صوت الشخص حتى يتم فرز الأصوات بشكل آمن بواسطة مجموعة من الحواسيب التي تعمل معًا. هذه المجموعة، المعروفة باسم "اللجنة"، تجمع هذه الأصوات المخفية لإنتاج درجة ثقة نهائية لكل مستند. ومن الأهمية بمكان أن هذه الدرجة تُحسب مرة واحدة وتُخزن بشكل دائم، بحيث لا يحتاج النظام إلى تكرار عملية التصويت المعقدة في كل مرة يطرح فيها المستخدم سؤالًا. بدلاً من ذلك، يقوم ببساطة باسترجاع الدرجات المعتمدة مسبقًا ويستخدمها لترتيب المستندات، مما يضمن بروز المعلومات الأكثر موثوقية في المقدمة.
اختبر الباحثون هذا النظام لمعرفة ما إذا كان بإمكانه التعامل مع الأعباء الثقيلة للأمن دون إبطاء العملية. لقد بنوا نموذجًا أوليًا يعمل يحاكي شبكة من مصادر البيانات المختلفة، لكل منها لجنتها الخاصة من المصدقين. وفي اختباراتهم، وجدوا أن الجزء الأكثر استهلاكًا للوقت في العملية هو التصويت الأولي والفرز النهائي للدرجات، والذي يحدث قبل طرح أي أسئلة من المستخدمين. وبمجرد أن تصبح تلك الدرجات جاهزة، كانت عملية استرجاع الإجابات والتحقق منها سريعة للغاية. على سبيل المثال، تم قياس الوقت الذي استغرقه إنشاء الإثبات التشفيري لصحة الصوت بأجزاء من الثانية، كما كان الوقت المطلوب لجمع الدرجات المخفية من لجنة صغيرة مكونة من أربعة خبراء سريعًا جدًا أيضًا. وهذا يشير إلى أن النظام يمكنه توفير أمن عالي المستوى دون خلق عقبة تؤدي إلى إحباط المستخدمين المنتظرين للحصول على إجابة.
ومن النتائج الهامة للدراسة أن النظام لا يحتاج إلى الاعتماد على إثبات واحد ضخم للتحقق من كل شيء في وقت واحد، وهو أمر سيكون مكلفًا حوسبيًا وبطيئًا. بدلاً من ذلك، يستخدم طريقة لربط سلاسل مستقلة من المعلومات معًا باستخدام بصمات رقمية. يقوم كل مصدر بيانات بحساب درجات الثقة الخاصة به وإنشاء "هاش" (hash) فريد، أو ملخص رقمي، لنتائجه. ثم يقوم منسق مركزي بدمج هذه الملخصات في بصمة عالمية واحدة. وهذا يسمح لأي شخص بالتحقق مما إذا كان مستند معين قد تم تضمينه في الإجابة النهائية وما إذا كانت درجته قد حُسبت بشكل صحيح، دون الحاجة إلى إعادة تشغيل العملية المعقدة بالكامل من البفر. وقد أظهر الباحثون أن هذا النهج يمنع بنجًا بنجاح مزود الخدمة غير الأمين من استبدال مستند عالي الجودة بآخر منخفض الجودة أو من إخفاء مصدر كان يجب تضمينه.
كما حددت الدراسة بعناية ما يمكن للنظام فعله وما لا يمكنه فعله. فهي تضمن أن المعلومات المسترجعة لم يتم تغييرها وأن عملية الترتيب اتبعت القواعد المتفق عليها، لكنها لا تضمن أن المحتوى نفسه حقيقي من الناحية الواقعية. فإذا قامت لجنة من الخبراء بتزكية مستند يحتوي على خطأ واقعي عن طريق الخطأ، فسيعامل النظام هذا المستند على أنه موثوق لأن العملية تحققت من تصويت اللجنة، وليس من حقيقة العبارة. النظام مصمم للكشف عن التلاعب وضمان النزاهة الإجرائية، وليس ليكون "عرافًا" للحقيقة المطلقة. وهذا التمييز حيوي في المجالات عالية المخاطر مثل الرعاية الصحية والقانون، حيث الهدف هو ضمان أن القرارات تستند إلى أفضل الأدلة المتاحة والمحققة أصولًا، بدلاً من البيانات غير المتحقق منها أو المتلاعب بها.
من خلال الجمع بين التحقق اللامركزي وتقنية الحفاظ على الخصوصية، يقدم TrustRAG طريقة جديدة لبناء أنظمة ذكاء اصطناعي قوية وخاضعة للمساءلة في آن واحد. إنه يعالج القلق المتزايد من أن الأدوات التي نعتمد عليها في المعلومات الحرجة أصبحت "صناديق سوداء"، تتحكم فيها كيانات قليلة دون وجود وسيلة للجمهور لفحص عملها. لقد أظهر الباحثون أنه من الممكن إنشاء نظام يمكن للخبماء فيه التعاون لتصديق المعرفة دون خوف من الإكراه، حيث يمكن ربط مصادر البيانات معًا بشكل آمن، وحيث تأتي كل إجابة مع تاريخ يمكن التحقق منه. ويشير هذا العمل إلى أن مستقبل الذكاء الاصطناعي الموثوق قد لا يعتمد فقط على خوارزميات أكثر ذكاءً، بل على بناء بنية تحتية تجعل الثقة جزءًا قابلًا للقياس والتحقق من العملية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.