Macro-Prudential AI Governance: A Two-Layer Early Warning and Response System for Frontier AI

Resumo Técnico: Governança de IA Macroprudencial (MEWRS)

Declaração do Problema
O artigo identifica uma lacuna estrutural na atual governança de IA de fronteira: enquanto um esforço significativo é dedicado à supervisão microprudencial (avaliando modelos individuais ou decisões de lançamento específicas), há uma carência de ferramentas macroprudenciais para gerenciar o acúmulo de riscos correlacionados em todo o setor. Traçando uma analogia com a crise bancária pré-2008, o autor argumenta que descobrir um risco em um único modelo não garante ação, e revisões de modelos individuais falham em capturar dinâmicas sistêmicas onde vulnerabilidades (ex: técnicas de jailbreak) se generalizam através de sistemas estruturalmente semelhantes em diferentes laboratórios. As propostas atuais frequentemente abordam a segurança de modelos únicos, mas deixam o setor exposto a falhas em cascata impulsionadas por corridas competitivas, arquiteturas compartilhadas e dependências comuns.

Metodologia: O Framework MEWRS de Duas Camadas
O artigo propõe o Sistema de Alerta Precoce e Resposta Macroprudencial (MEWRS), especificamente voltado para a IA de fronteira interna do desenvolvedor (sistemas usados para pesquisa interna, testes e fluxos de trabalho de produção, distintos de produtos externos). O framework adapta a arquitetura de estabilidade financeira de Basileia III e o modelo de supervisão de estabilidade financeira dos EUA em duas camadas distintas:

Camada A: Alerta Precoce e Resposta Coordenada
Esta camada adapta o modelo "buscador-coordenador-defensor" para rotear relatórios estruturados através de uma central de coordenação governamental para grupos de trabalho específicos do domínio.

• Buscadores (Finders): Equipes de avaliação interna, red-teamers contratados, pesquisadores independentes e parceiros governamentais (ex: NIST CAISI) submetem relatórios estruturados sobre quatro categorias: capacidades de duplo uso, indicadores de autonomia, comprometimentos de segurança e falhas de integridade de alinhamento.
• Coordenador: Uma entidade específica de jurisdição (proposta como uma instanciação dos EUA envolvendo o BIS e o NIST CAISI, ou órgãos análogos na UE/Reino Unido) realiza a triagem baseada em severidade, raio de explosão (blast radius) e sinais de correlação entre laboratórios.
• Defensores (Defenders): Grupos de trabalho independentes (organizados por domínio de ameaça: cibernética, bio/química, autonomia, roubo) utilizam manuais (playbooks) pré-comprometidos para mitigação imediata, divulgação coordenada e escalonamento.
• Esquema de Relatórios: Um esquema padronizado captura o escopo de implantação, evidência de capacidade e estados de segurança sem exigir a divulgação de segredos comerciais, análogo à divulgação do Pilar 3 de Basileia.

Camada B: Buffers de Segurança de IA
Esta camada calibra controles operacionais via três métricas quantitativas de buffer. Semelhante ao modo como ativos ponderados pelo risco impulsionam os índices de capital no setor bancário, estas métricas acionam salvaguardas mais fortes conforme os perfis de risco aumentam.

1. Computação Efetiva em Risco (ECAR - Effective Compute-at-Risk): Um proxy para o raio de explosão sistêmico, calculado como $ECAR(m) = C(m) \cdot A(m) \cdot R(m)$. Combina computação de treinamento efetiva ($C$) com um fator de autonomia ($A$) e um fator de alcance ($R$), escalonado em relação à fronteira do setor.
2. Horas Cumulativas de Red-Teaming (CRTH - Cumulative Red-Team Hours): Uma soma ponderada de horas de testes de estresse por especialistas, ajustada pela independência, capacidade e nível de acesso do avaliador. Funciona como um "desconto de volatilidade" (volatility haircut), onde um CRTH baixo implica maior incerteza residual e exige maiores buffers.
3. Pontuação de Robustez de Alinhamento (ARS - Alignment Robustness Score): Uma medida empírica da estabilidade do modelo sob condições adversariais e de mudança de distribuição. Um ARS baixo sinaliza sistemas frágeis, acionando aumento nos testes e limites de velocidade de implantação.

Principais Contribuições
O artigo delineia cinco contribuições específicas para o campo da governança de IA:

1. Esquema de Relatórios e Arquitetura: Um esboço detalhado de um pipeline de relatório coordenado para sistemas internos, incluindo um esquema versionado para categorias de risco em evolução.
2. Métricas de Buffer: A definição e lógica de calibração para ECAR, CRTH e ARS, projetadas para escalar controles operacionais com o risco.
3. Mapeamento de Mecanismos: Um mapeamento estrutural de seis mecanismos de Basileia III (buffers de capital ponderados pelo risco, classificação de G-SIB, buffers contracíclicos, divulgação do Pilar 3, planos de resolução/living wills e capacidade técnica de banco central) para análogos de governança de IA.
4. Análise de Modos de Falha: Identificação de sete potenciais modos de falha (incluindo captura regulatória, abuso do coordenador, barreiras de conformidade e manipulação de métricas) com mitigações concretas, como minimização de dados, cláusulas de caducidade (sunset clauses) e tabelas de fatores padronizadas.
5. Plano de Validação: Uma proposta de plano de validação em estágios centrado em exercícios de red-team/blue-team para testar o tempo de triagem e a absorção de mitigação, em vez de depender apenas de suposições teóricas.

Resultos e Alegações
O artigo não apresenta resultados experimentais empíricos, pois trata-se de uma proposta de política e design de framework. Em vez disso, alega fornecer:

• Um framework conceitual que preenche a lacuna entre a segurança de modelos individuais e a vigilância de risco em todo o setor.
• Um mecanismo de pré-compromisso, criando "vias de saída" antes que uma cascata se desenrole, vinculando os requisitos de buffer a métricas de atraso (trailing metrics) e ajustes contracíclicos (ex: um Índice de Surto de Capacidade).
• Um princípio de proporcionalidade, garantindo que projetos pequenos e de código aberto enfrentem encargos mínimos, enquanto Instituições de IA Sistemicamente Importantes (SIAI) enfrentam padrões mais rigorosos.
• Um sistema de gatilho híbrido que combina métricas de atraso (para evitar manipulação) com limiares de capacidade perigosa prospectivos (para manter a responsividade).

Significância
O autor argumenta que o MEWRS é significativo porque aborda a "lacuna de descoberta-resposta" e a ausência de vigilância de risco em todo o setor. Ao tomar emprestada a arquitetura estrutural da regulação financeira pós-2008, o framework oferece um caminho testável e implementável para gerenciar o acúmulo de riscos correlacionados na IA de fronteira. O artigo enfatiza que, embora a analogia com o setor bancário seja estrutural e não literal (reconhecendo diferenças nos ciclos de capacidade e a ausência de um emprestador de última instância), a transferência funcional de ferramentas como buffers contracíclicos e classificação sistêmica fornece uma evolução necessária além das abordagens microprudenciais atuais. O framework foi desenhado para ser pilotado voluntariamente até amadurecer para um regime estatutário, visando reduzir a probabilidade de falhas sistêmicas enquanto preserva a inovação benéfica.