Verifying Restrictions on Frontier AI Research

Resumo Técnico: Verificando Restrições à Pesquisa de IA de Fronteira

Declaração do Problema
O desenvolvimento prematuro da Inteligência Superinteligente Artificial (ASI) acarreta riscos catastróficos para a humanidade, motivando propostas de acordos internacionais para interromper tal desenvolvimento até que a segurança possa ser assegurada. O progresso da IA depende de três insumos primários: computação, dados e algoritmos. Embora o controle de chips aborde a computação, eles são insuficientes por si só; avanços em algoritmos e dados poderiam contornar as restrições de hardware. Consequentemente, os acordos internacionais devem incluir restrições a atividades de pesquisa específicas (ex: pesquisa de capacidades de IA de fronteira, design de chips, treinamento descentralizado). No entanto, dada a baixa confiança internacional, as nações signatárias exigem métodos robustos para verificar o cumprimento das restrições de pesquisa. O desafio central é determinar como os governos podem verificar se pesquisas proibidas não estão ocorrendo, particularmente contra três tipos de atores de ameaça: atores estatais ocultos com infraestrutura secreta, organizações estabelecidas e cumpridoras da lei, e acadêmicos renegados.

Metodologia
Este artigo não propõe um tratado internacional específico nem define os limites precisos da pesquisa proibida; em vez disso, permanece agnóstico quanto ao escopo específico das restrições. Em vez disso, emprega uma abordagem analítica de dois ramos:

1. Análise de Fatores: Os autores analisam fatores técnicos e sociológicos fundamentais que influenciam a verificabilidade das restrições de pesquisa. Isso inclui os requisitos computacionais para validar inovações algorítmicas, a raridade de especialistas humanos capazes de impulsionar a fronteira e a iminente mudança em direção a sistemas de IA que automatizam a própria pesquisa de IA.
2. Catalogação de Mecanismos: O artigo mapeia sistematicamente o espaço de potenciais mecanismos de verificação. Baseando-se em precedentes de não proliferação nuclear, tratados de armas químicas e regulação financeira, os autores identificam, avaliam e catalogam 28 mecanismos candidatos de alto nível. Estes são agrupados pelo seu alvo: detecção de projetos ocultos, monitoramento de organizações declaradas de alto risco, verificação de uso de chips e prevenção de não proliferação.

Principais Contribuições
A principal contribuição do artigo é uma taxonomia estruturada de 28 mecanismos de verificação, categorizados da seguinte forma:

• Detectando Projetos Ocultos:

  • Denunciantes (Whistleblowers): Estabelecimento de canais seguros e incentivados (modelados no programa Dodd-Frank da SEC) para reportar projetos secretos.
  • Coleta de Inteligência: Utilização de sinais, inteligência financeira e humana para monitorar alvos conhecidos de alto risco e identificar outros desconhecidos (ex: via inteligência de fontes abertas).
  • Interrogatório Direto: Entrevistas com pesquisadores e oficiais, potencialmente apoiadas por polígrafos ou detecção de mentiras.
  • Mandados de Busca e Inspeções: Mandados internacionais para propriedades e arquivos, potencialmente incluindo inspeções de desafio de curto aviso, semelhantes às da Convenção sobre Armas Químicas.
  • Operações de Isca (Sting Operations): Recrutamento de falsa bandeira para identificar participantes dispostos em projetos ocultos.

• Monitorando Organizações Declaradas de Alto Risco:

  • Revisão Automática de Código: Uso de IA para rastrear bases de código de produção e pesquisa em busca de algoritmos restritos sem expor detalhes proprietários a inspetores humanos.
  • Auditores In Loco: Alocação de auditores humanos em tempo integral dentro das organizações (análogo a inspetores de usinas nucleares).
  • Monitoramento de Funcionários: Supervisão de software nos dispositivos de trabalho, potencialmente analisando dados via métodos automatizados para preservar a privacidade.
  • Pré-registro e Revisão: Pré-registro obrigatório de planos de pesquisa e revisão prévia de resultados de publicações.
  • Avaliação de Modelos: Avaliação de modelos de IA por terceiros para detectar ganhos de capacidade inexplicáveis que sugiram que pesquisas restritas estão ocorrendo.
  • Ambientes Controlados: Exigência de que pesquisadores de alto risco trabalhem em instalações seguras (SCIFs) sem dispositivos pessoais.

• Verificação de Uso de Chips (para Chips Declarados):

  • Revisão de Treinamento: Revisão de códigos e métodos usados no treinamento em clusters monitorados para garantir que nenhum método novo e restrito seja aplicado.
  • Monitoramento de Inferência: Classificação de conteúdo de inferência (prompts/outputs) para detectar atividades de pesquisa restritas.
  • Revisão de Dados: Verificação de dados de treinamento para melhorias proibidas (ex: uso de dados sintéticos).
  • Classificação de Carga de Trabalho: Análise das características de atividade do chip (consumo de energia, largura de banda) para distinguir experimentos restritos de inferência permitida.
  • Lista Branca de Modelos (Allowlisting): Restrição de chips para executar apenas modelos pré-aprovados (ex: via conceitos de Gestão de Direitos Digitais).

• Não Proliferação:

  • Prevenção do desenvolvimento e disseminação de sistemas de IA capazes de automatizar a pesquisa restrita (IAs capazes de R&D de IA).
  • Proteção de segredos algorítmicos e dados para limitar a proliferação de conhecimento.

Resultados e Descobertas
A análise produz vários insights críticos sobre a viabilidade da verificação:

1. O Desafio do "Data Center Secreto": A lacuna de verificação mais significativa é a potencial existência de data centers secretos e desconhecidos. Se os modelos de IA se tornarem capazes de automatizar a pesquisa, a necessidade de especialistas humanos diminui, deixando apenas a computação como um gargalo detectável. Clusters de computação de pequena escala (ex: <8 equivalentes a H100) são difíceis de detectar fisicamente.
2. Efetividade Diferenciada:
   • Atores Ocultos: A coleta de inteligência tradicional e os denunciantes são identificados como as ferramentas mais eficazes para detectar projetos secretos.
   • Organizações Declaradas: Métodos automatizados (revisão de código, monitoramento de inferência) são considerados mais adequados para monitorar entidades conhecidas de alto risco, pois podem escalar e preservar a privacidade melhor do que a vigilância humana constante.
   • Verificação de Chips: A revisão do treinamento de IA em clusters monitorados para novos métodos é destacada como um mecanismo de alto valor para evitar que atores ocultos utilizem infraestruturas legítimas e monitoradas para escalar pesquisas restritas.
3. Variância de Implementação: Os mecanismos variam significamente em termos de prontidão. Denunciantes, entrevistas e coleta de inteligência são imediatamente implementáveis. Em contraste, a verificação robusta de uso de chips e a revisão automática de código requerem pesquisa e desenvolvimento (P&D) significativo adicional para estarem prontos para implantação.

Significância e Alegações
O artigo alega fornecer um framework fundamental para pesquisas futuras em governança técnica de IA. Ele não afirma que um regime de verificação perfeito é atualmente possível, observando que a dificuldade de detectar clusters de computação de pequena escala e o potencial para a IA automatizar a pesquisa criam incerteza substancial.

Os autores afirmam que seu trabalho avança o estado do pensamento ao:

• Ir além da questão do que restringir para o como verificar as restrições.
• Destacar que a verificação não é uma tarefa monolítica, mas requer uma abordagem em camadas combinando inteligência humana, monitoramento automatizado e inspeção física.
• Identificar áreas específicas (como verificação de uso de chips e revisão automática de código) onde P&D urgente é necessário para tornar esses mecanismos viáveis para futuros acordos internacionais.

O artigo conclui com uma avaliação modesta: embora existam razões tanto para o otimismo quanto para o pessimismo em relação à facilidade de verificação, estabelecer esses mecanismos é crítico para a viabilidade de qualquer acordo internacional destinado a deter o desenvolvimento prematuro de ASI. Também reconhece o risco de uso duplo desta pesquisa, observando que as ferramentas de verificação poderiam ser mal utilizadas para repressão ou que o próprio artigo poderia servir como um guia para evasores, mas argumenta que o benefício de permitir propostas de governança concretas supera esses riscos.