How to Avoid Debate: Scalable AI Safety via Doubly-Efficient Interactive Proofs

Resumo Técnico: Segurança de IA Escalável via Provas Interativas Duplamente Eficientes

Declaração do Problema
À medida que os modelos de IA desenvolvem capacidades poderosas, verificar se seus resultados se alinham com as intenções humanas torna-se crítico, particularmente para tarefas complexas onde a verificação humana é proibitivamente cara (ex: geração de contratos legais ou verificação de dados baseada na web). Uma abordagem recente para este problema de "supervisão escalável" envolve o debate, um modelo de provas interativas onde dois modelos de IA competindo debatem para convencer um verificador humano fraco. No entanto, o debate depende de suposições fortes e potencialmente irreais: os dois modelos devem ter habilidades iguais, serem devidamente incentivados e, crucialmente, um deve ser verdadeiro. A suposição de que é mais difícil mentir do que refutar uma mentira não é garantida em todos os cenários.

Além disso, os resultados clássicos de provas interativas (ex: $IP = PSPACE$) não se aplicam imediatamente à segurança de IA porque as tarefas de IA são frequentemente modeladas como computações com acesso a um oráculo (uma função de "caixa-preta" representando o julgamento humano ou bancos de dados externos como a web). É uma limitação conhecida que provas interativas para computações gerais auxiliadas por oráculo não relativizam (ou seja, elas não se sustentam quando a computação tem acesso a um oráculo). Como a relativização é considerada essencial para a relevância da segurança de IA, pesquisadores voltaram-se para o debate para recuperar essa propriedade. Este artigo investiga se uma prova interativa de provedor único pode ser construída de forma que relativize, evitando a necessidade de um segundo provedor debatendo.

Metodologia e Abordagem Técnica
Os autores modelam a computação como um circuito booleano com oráculo $C^O$, onde o circuito contém portas lógicas padrão e portas de oráculo que consultam um oráculo $O$. Eles propõem provas interativas duplamente eficientes (onde o provedor honesto executa em tempo polinomial e o verificador executa em tempo quase linear com consultas ao oráculo sublineares) e argumentos interativos (onde a solidez se mantém contra provedores de tempo polinomial) para dois cenários específicos:

1. Computação de Oráculo Robusta:

   • Definição: Uma computação é $\epsilon$-robusta se sua saída não muda mesmo se até uma fração $\epsilon$ das respostas às suas consultas ao oráculo estiver incorreta. Isso modela cenários onde o julgamento humano é propenso a erros ou onde a redundância (ex: votação por maioria) é utilizada.
   • Consultas Não Adaptativas: Para circuitos que realizam consultas não adaptativas, os autores constroem um protocolo usando uma Prova Interativa de Proximidade (IPP). O provedor e o verificador engajam-se em uma IPP para mostrar que o circuito aceita uma string de consulta-resposta $Q$ que é próxima da string verdadeira. Para lidar com o fato de que o verificador não pode acessar $Q$ diretamente de forma confiável, o protocolo inclui uma Prova Interativa Duplamente Eficiente (DEIP) para verificar se as consultas em $Q$ foram computadas corretamente a partir da entrada.
   • Consultas Adaptativas: Para circuitos que realizam consultas adaptativas (onde consultas posteriores dependem de respostas anteriores), os autores introduzem uma abordagem recursiva com checksums. O provedor compromete as strings de consulta-resposta para cada nível de adaptividade usando checksums de decodificação única (baseados em códigos de correção de erros lineares). O protocolo procede nível a nível, usando IPPs para verificar se as consultas no nível $i$ são consistentes com os checksums e as respostas do nível $i-1$. Isso "fixa" a entrada de cada IPP, permitindo que as garantias de solidez se mantenham apesar da natureza adaptativa das consultas.

2. Oráculo de Baixo Grau:

   • Definição: O oráculo $O$ é representável como um polinômio de baixo grau sobre um corpo finito. Isso modela oráculos que são "aprendíveis" por classes simples de aprendizado de máquina ou bancos de dados convertidos via extensões de baixo grau.
   • Protocolo: O provedor compromete dois polinômios, $G$ (codificando as consultas) e $F$ (codificando as respostas), usando um esquema de compromisso polinomial. O provedor usa um argumento de conhecimento sucinto (protocolo de Kilian) para provar que $C(x)$ aceita ao usar $G$ e $F$. O verificador então checa um ponto aleatório único $u$ para garantir que $F(u) = O(G(u))$. Pelo lema de Schwartz-Zippel, se $F$ não codifica corretamente as respostas do oráculo para $G$, eles discordarão com alta probabilidade em um ponto aleatório.

Principais Contribuições e Resultados
O artigo apresenta as primeiras provas e argumentos de interação duplamente eficientes de provedor único que relativizam para computações auxiliadas por oráculo. Os resultados são resumidos como segue:

• Circuitos Robustos (Não Adaptativos): Um sistema de prova de solidez estatística com tempo de execução do verificador $\tilde{O}(\epsilon \ell D + 1/\epsilon + n)$ e complexidade de consulta $\tilde{O}(1/\epsilon)$.
• Circuitos Robustos (Adaptativos): Um sistema de prova de solidez estatística para circuitos $d$-adaptativos com tempo de execução do verificador $\tilde{O}(\sigma^d(\epsilon \ell D + 1/\epsilon + n))$ e complexidade de consulta $\tilde{O}(\sigma^d/\epsilon)$.
• Circuitos Robustos (Sistema de Argumento): Um sistema de argumento de solidez computacional com complexidade de rodadas constante $O(1)$, complexidade de consulta $O(1/\epsilon)$ e tempo de execução do verificador $\tilde{O}(1/\epsilon + n)$. Isso utiliza árvores de hash e argumentos de conhecimento sucintos.
• Oráculo de Baixo Grau (Sistema de Argumento): Um sistema de argumento de solidez computacional com uma consulta ao oráculo, complexidade de comunicação constante (até fatores polinomiais nos parâmetros de segurança) e complexidade de rodadas $\tilde{O}(1)$.

Significância
O artigo afirma que estes resultados demonstram que a verificação interativa é possível mesmo sem o debate, desde que a computação seja robusta a pequenos erros nas respostas do oráculo ou que o oráculo possua uma forte estrutura algébrica (baixo grau). Isso desafia a necessidade do modelo de debate para alcançar provas interativas que relativizam na segurança de IA. O trabalho estende a classe de provas interativas duplamente eficientes para computações auxiliadas por oráculo, abordando uma lacuna entre a criptografia teórica e as necessidades práticas de supervisão de IA escalável.

Os autores observam que, embora não tenham construído provas para todas as computações auxiliadas por oráculo (um resultado provado impossível por trabalhos anteriores), identificaram dois cenários naturais onde a relativização pode ser recuperada usando um único provedor. O artigo conclui sugerindo direções futuras, como a validação experimental da robustez em tarefas do mundo real e a exploração de outras suposições de oráculo "aprendíveis".