How to Avoid Debate: Scalable AI Safety via Doubly-Efficient Interactive Proofs

तकनीकी सारांश: दोहरी-कुशलतापूर्ण इंटरैक्टिव प्रूफ के माध्यम से स्केलेबल AI सुरक्षा

समस्या विवरण
जैसे-जैसे AI मॉडल शक्तिशाली क्षमताओं का विकास कर रहे हैं, यह सत्यापित करना कि उनके आउटपुट मानवीय इरादों के अनुरूप हैं, अत्यंत महत्वपूर्ण हो जाता है, विशेष रूप से जटिल कार्यों के लिए जहाँ मानवीय सत्यापन अत्यधिक महंगा है (जैसे, कानूनी अनुबंध निर्माण या वेब-आधारित डेटा सत्यापन)। "स्केलेबल ओवरसाइट" (scalable oversight) की इस समस्या के लिए एक हालिया दृष्टिकोण डिबेट (debate) है, जो इंटरैक्टिव प्रूफ का एक मॉडल है जहाँ दो प्रतिस्पर्धी AI मॉडल एक कमजोर मानव सत्यापनकर्ता को समझाने के लिए बहस करते हैं। हालाँकि, डिबेट कुछ मजबूत और संभावित रूप से अवास्तविक धारणाओं पर निर्भर करती है: दोनों मॉडलों की क्षमताएं समान होनी चाहिए, उन्हें उचित रूप से प्रेरित किया जाना चाहिए, और सबसे महत्वपूर्ण बात यह है कि उनमें से एक सत्यवादी होना चाहिए। यह धारणा कि झूठ बोलने की तुलना में झूठ का खंडन करना कठिन है, सभी परिवेशों में सुनिश्चित नहीं की जा सकती है।

इसके अतिरिक्त, शास्त्रीय इंटरैक्टिव प्रूफ परिणाम (जैसे, $IP = PSPACE$) AI सुरक्षा पर तुरंत लागू नहीं होते हैं क्योंकि AI कार्यों को अक्सर एक ओरेकल (oracle) (एक "ब्लैक-बॉक्स" फंक्शन जो मानवीय निर्णय या वेब जैसे बाहरी डेटाबेस का प्रतिनिधित्व करता है) तक पहुँच वाले गणना (computation) के रूप में मॉडल किया जाता है। यह एक ज्ञात सीमा है कि सामान्य ओरेकल-सहायता प्राप्त गणनाओं के लिए इंटरैक्टिव प्रूफ रिलेटिवाइज (relativize) नहीं होते हैं (अर्थात, वे तब तक मान्य नहीं रहते जब गणना के पास एक ओरेकल होता है)। चूंकि रिलेटिवाइजेशन AI सुरक्षा की प्रासंगिकता के लिए आवश्यक माना जाता है, इसलिए शोधकर्ताओं ने इस गुण को पुनः प्राप्त करने के लिए डिबेट की ओर रुख किया है। यह शोध जांच करता है कि क्या एक सिंगल-प्रूवर (single-prover) इंटरैक्टिव प्रूफ का निर्माण किया जा सकता है जो रिलेटिवाइज हो सके, जिससे दूसरे बहस करने वाले प्रूवर की आवश्यकता समाप्त हो जाए।

कार्यप्रणाली और तकनीकी दृष्टिकोण
लेखक गणना को एक ओरेकल बूलियन सर्किट $C^O$ के रूप में मॉडल करते हैं, जहाँ सर्किट में मानक लॉजिक गेट्स और ओरेकल गेट्स होते हैं जो एक ओरेकल $O$ को क्वेरी करते हैं। वे दो विशिष्ट सेटिंग्स के लिए दोहरी-कुशलतापूर्ण इंटरैक्टिव प्रूफ (doubly-efficient interactive proofs) (जहाँ ईमानदार प्रूवर बहुपद समय में चलता है और सत्यापनकर्ता सब-लीनियर ओरेकल क्वेरी के साथ नियर-लीनियर समय में चलता है) और इंटरैक्टिव आर्गुमेंट्स (interactive arguments) (जहाँ साउंडनेस बहुपद-समय वाले प्रूवर्स के विरुद्ध बनी रहती है) का प्रस्ताव करते हैं:

1. रोबस्ट ओरेकल कंप्यूटेशन (Robust Oracle Computation):

   • परिभाषा: एक गणना $\epsilon$-रोबस्ट है यदि उसका आउटपुट नहीं बदलता है, भले ही उसके ओरेकल प्रश्नों के अधिकतम $\epsilon$-हिस्से के उत्तर गलत हों। यह इस परिदृश्य को मॉडल करता है जहाँ मानवीय निर्णय त्रुटिपूर्ण हो सकते हैं या जहाँ रेडंडेंसी (जैसे, बहुमत मतदान) का उपयोग किया जाता है।
   • नॉन-अडेप्टिव क्वेरीज (Non-Adaptive Queries): नॉन-अडेप्टिव क्वेरी करने वाले सर्किट्स के लिए, लेखक एक इंटरैक्टिव प्रूफ ऑफ प्रॉक्सिमिटी (IPP) का उपयोग करके एक प्रोटोकॉल का निर्माण करते हैं। प्रूवर और सत्यापनकर्ता एक IPP में संलग्न होते हैं ताकि यह दिखाया जा सके कि सर्किट एक क्वेरी-आंसर स्ट्रिंग $Q$ को स्वीकार करता है जो वास्तविक स्ट्रिंग के करीब है। यह तथ्य कि सत्यापनकर्ता सीधे $Q$ तक विश्वसनीय रूप से नहीं पहुँच सकता, इसे संभालने के लिए, प्रोटोकॉल में एक डबली-एफिशिएंट इंटरैक्टिव प्रूफ (DEIP) शामिल है ताकि यह सत्यापित किया जा सके कि $Q$ में क्वेरी सही ढंग से इनपुट से संगत रूप से कंप्यूट की गई थीं।
   • अडेप्टिव क्वेरीज (Adaptive Queries): उन सर्किट्स के लिए जो अडेप्टिव क्वेरीज करते हैं (जहाँ बाद की क्वेरीज पिछले उत्तरों पर निर्भर करती हैं), लेखक चेकसम के साथ एक रिकर्सिव दृष्टिकोण पेश करते हैं। प्रूवर यूनिक-डिकोडिंग चेकसम्स (लीनियर एरर-करेक्टिंग कोड्स पर आधारित) का उपयोग करके प्रत्येक स्तर की अडैप्टिविटी के लिए क्वेरी-आंसर स्ट्रिंग्स को कमिट करता है। प्रोटोकॉल स्तर-दर-स्तर आगे बढ़ता है, यह सत्यापित करने के लिए कि स्तर $i$ की क्वेरीज चेकसम्स और स्तर $i-1$ के उत्तरों के साथ सुसंगत हैं या नहीं, IPPs का उपयोग करती हैं। यह प्रत्येक IPP के इनपुट को "फिक्स" कर देता है, जिससे यह सुनिश्चित होता है कि क्वेरीज की अडेप्टिव प्रकृति के बावजूद साउंडनेस गारंटी बनी रहे।

2. लो-डिग्री ओरेकल (Low-Degree Oracle):

   • परिभाषा: ओरेकल $O$ को एक परिमित क्षेत्र (finite field) पर एक लो-डिग्री बहुपद (polynomial) के रूप में दर्शाया जा सकता है। यह उन ओरेकल को मॉडल करता है जिन्हें सरल मशीन लर्निंग क्लासेज या लो-डिग्री एक्सटेंशन के माध्यम से परिवर्तित डेटाबेस द्वारा "सीखा" (learnable) जा सकता है।
   • प्रोटोकॉल: प्रूवर एक पॉलीनोमियल कमिटमेंट स्कीम का उपयोग करके दो पॉलीनोमियल्स, $G$ (क्वेरीज को एनकोड करने के लिए) और $F$ (उत्तरों को एनकोड करने के लिए) को कमिट करता है। प्रूवर यह सिद्ध करने के लिए कि $C(x)$ स्वीकार करता है जब $G$ और $F$ का उपयोग किया जाता है, एक सकेंद्रित ज्ञान का तर्क (Kilian's protocol) उपयोग करता है। सत्यापनकर्ता फिर यह सुनिश्चित करने के लिए एक रैंडम पॉइंट $u$ की जाँच करता है कि $F(u) = O(G(u))$ है। श्वार्ट्ज-ज़िपलेम (Schwartz-Zippel) लेम्मा के अनुसार, यदि $F$ सही ढंग से $G$ के लिए ओरेकल उत्तरों को एनकोड नहीं करता है, तो एक रैंडम पॉइंट पर वे उच्च संभावना के साथ असहमत होंगे।

प्रमुख योगदान और परिणाम
यह शोध पत्र ओरेकल-सहायता प्राप्त गणनाओं के लिए पहले रिलेटिवाइजिंग दोहरी-कुशलतापूर्ण सिंगल-प्रूवर इंटरैक्टिव प्रूफ और आर्गुमेंट्स प्रस्तुत करता है। परिणामों का सारांश इस प्रकार है:

• रोबस्ट सर्किट्स (नॉन-अडेप्टिव): एक सांख्यिकीय साउंडनेस प्रूफ सिस्टम जिसमें सत्यापनकर्ता का रनटाइम $\tilde{O}(\epsilon \ell D + 1/\epsilon + n)$ और क्वेरी कॉम्प्लेक्सिटी $\tilde{O}(1/\epsilon)$ है।
• रोबस्ट सर्किट्स (अडेप्टिव): $d$-अडेप्टिव सर्किट्स के लिए एक सांख्यिकीय साउंडनेस प्रूफ सिस्टम जिसका सत्यापनकर्ता रनटाइम $\tilde{O}(\sigma^d(\epsilon \ell D + 1/\epsilon + n))$ और क्वेरी कॉम्प्लेक्सिटी $\tilde{O}(\sigma^d/\epsilon)$ है।
• रोबस्ट सर्किट्स (आर्ग्युमेंट सिस्टम): एक कम्प्यूटेशनल साउंडनेस आर्ग्युमेंट सिस्टम जिसकी राउंड कॉम्प्लेक्सिटी कांस्टेंट $O(1)$, क्वेरी कॉम्प्लेक्सिटी $O(1/\epsilon)$, और सत्यापनकर्ता रनटाइम $\tilde{O}(1/\epsilon + n)$ है। यह हैश ट्री और सकेंद्रित ज्ञान के तर्कों का लाभ उठाता है।
• लो-डिग्री ओरेकल (आर्ग्युमेंट सिस्टम): एक कम्प्यूटेशनल साउंडनेस आर्ग्युमेंट सिस्टम जिसमें एक ओरेकल क्वेरी, कांस्टेंट कम्युनिकेशन कॉम्प्लेक्सिटी (सुरक्षा मापदंडों में बहुपद कारकों तक), और राउंड कॉम्प्लेक्सिटी $\tilde{O}(1)$ है।

महत्व
यह पेपर दावा करता है कि ये परिणाम यह प्रदर्शित करते हैं कि बिना डिबेट के भी इंटरैक्टिव वेरिफिकेशन संभव है, बशर्ते कि गणना या तो ओरेकल उत्तरों में छोटी त्रुटियों के प्रति रोबस्ट हो या ओरेकल में मजबूत बीजगणितीय संरचना (लो-डिग्री) हो। यह AI सुरक्षा के लिए रिलेटिवाइजिंग इंटरैक्टिव प्रूफ प्राप्त करने के लिए डिबेट मॉडल की आवश्यकता को चुनौती देता है। यह कार्य दोहरी-कुशलतापूर्ण इंटरैक्टिव प्रूफ के वर्ग को ओरेकल-सहायता प्राप्त गणनाओं तक विस्तारित करता है, जो सैद्धांतिक क्रिप्टोग्राफी और स्केलेबल AI ओवरसाइट की व्यावहारिक आवश्यकताओं के बीच के अंतर को पाटता है।

लेखक नोट करते हैं कि हालांकि उन्होंने सभी ओरेकल-सहायता प्राप्त गणनाओं के लिए प्रमाणों का निर्माण नहीं किया है (एक परिणाम जिसे पूर्व कार्य द्वारा असंभव सिद्ध किया गया था), उन्होंने दो प्राकृतिक सेटिंग्स की पहचान की है जहाँ सिंगल प्रूवर का उपयोग करके रिलेटिवाइजेशन को पुनः प्राप्त किया जा सकता है। पेपर निष्कर्ष निकालता है कि भविष्य की दिशाएँ, जैसे वास्तविक दुनिया के कार्यों में मजबूती (robustness) का प्रयोगात्मक सत्यापन और अन्य "लर्नेबल" (learnable) ओरेकल धारणाओं का अन्वेषण करना, अभी शेष है।