Resumo Técnico: A Governança Abrangente de IA Requer o Enfrentamento dos Ganhos de Capacidade Não Relacionados ao Modelo

1. Declaração do Problema

O paradigma predominante na governança de IA de fronteira é a governança ao nível do modelo, que opera sob a premissa de que o perfil de capacidade de um modelo é primariamente uma função do computação e dos dados utilizados durante suas fases de pré-treinamento e pós-treinamento padrão. Esta abordagem depende fortemente da avaliação e mitigação pré-implantação pelo desenvolvedor do modelo.

No entanto, este artigo argumenta que a governança ao nível do modelo está se tornando estruturalmente ineficiente à medida que o progresso da capacidade é cada vez mais impulsionado por "ganhos não relacionados ao modelo" (non-model gains). Estes são melhorias na capacidade que são independentes dos avanços no modelo base propriamente dito. À medida que o "piso" das capacidades acessíveis sobe através destes vetores não relacionados ao modelo, o espaço de atores capazes de alcançar resultados perigosos se expande, mesmo que o teto absoluto de capacidade permaneça com os desenvolvedores de fronteira. Consequentemente, as estratégias de gestão de risco que dependem exclusivamente da avaliação pré-implantação do modelo base são insuficientes para gerir o evoluído cenário de riscos.

2. Metodologia e Estrutura

O artigo emprega uma análise conceitual e uma abordagem de desenvolvimento de taxonomia para formalizar o conceito de ganhos não relacionados ao modelo. Não apresenta novos experimentos empíricos, mas sim sintetiza tendências emergentes no desenvolvimento de IA (ex: modelos de raciocínio, sistemas multiagentes e corporeidade física) para categorizar ganhos de capacidade que caem fora do ciclo de treinamento tradicional.

Os autores constroem uma estrutura distinguindo entre:

1. Ganhos ao nível do modelo: Derivados da escala de computação e dados de pré-treinamento.
2. Ganhos não relacionados ao modelo: Derivados de melhorias de pós-treinamento, escala de inferência ou acesso a ativos restritos.

A análise procede identificando três vetores primários de ganhos não relacionados ao modelo e três vetores futuros emergentes, mapeando-os em seguida contra as limitações das atuais estratégias de governança para propor um portfólio mais amplo de mecanismos de governança.

3. Principais Contribuições: Taxonomia de Ganhos Não Relacionados ao Modelo

O artigo formaliza uma taxonomia de ganhos de capacidade que minam a governança ao nível do modelo:

A. Vetores Primários

1. Ganho de Inferência: Melhorias de capacidade resultantes da escala de recursos computacionais no tempo de teste (inferência).

   • Mecanismo: Técnicas como escala de inferência sequencial e paralela (ex: modelos de "pensamento") permitem que modelos menores ou de pesos abertos emulem o desempenho de modelos de fronteira maiores.
   • Impacto na Governança: Reduz o diferencial de desempenho entre modelos proprietários e de pesos abertos, potencialmente permitindo que atores maliciosos contornem a necessidade de jailbreaking de modelos proprietários simplesmente escalando a inferência em modelos abertos acessíveis.

2. Ganho de Sistemas: Melhorias de capacidade provenientes de incrementos de pós-treinamento personalizados aplicados após o lançamento do modelo base.

   • Mecanismo: Inclui scaffolding (andaimes), orquestração multiagente, uso de ferramentas e esquemas de autoaperfeiçoamento iterativo.
   • Impacto na Governança: Estes ganhos geralmente ocorrem a um custo baixo em relação ao pré-treinamento. Uma vez que uma "receita" para um scaffold de alto desempenho é descoberta, ela se propaga livremente. Os desenvolvedores não conseguem antecipar todas as modificações a jusante ou o "melhor scaffold" específico que um terceiro possa descobrir.

3. Ganho de Ativos: Aumentos de capacidade resultantes da combinação de um modelo de IA com ativos restritos indisponíveis para os desenvolvedores originais.

   • Mecanismo: Integração com expertise detida por governos (ex: física nuclear, tecnologia furtiva/stealth), hardware especializado (corporeidades físicas) ou dados classificados (ex: vulnerabilidades não divulgadas, dados de patógenos).
   • Impacto na Governança: Cria um "excesso de capacidade" (capability overhang) que é difícil de estimar ou avaliar pré-implantação devido à natureza restrita dos ativos.

B. Vetores Futuros

O artigo também identifica três vetores emergentes que podem desafiar ainda mais a governança:

• Ganho de Corporeidade (Embodiment Gain): Integração com sensores físicos e atuadores, deslocando o risco da informação para a segurança física (ex: robótica).
• Aprendizado Contínuo: A capacidade de os modelos evoluírem ao longo do tempo, potencialmente levando ao desvio de segurança (safety drift) ou ao esquecimento catastrófico do treinamento de segurança pós-implantação.
• Efeitos de Difusão: Efeitos agregados da implantação generalizada, como riscos de monocultura ou falhas em cascata em sistemas interdependentes (ex: mercados financeiros).

4. Resultados e Análise de Governança

A análise demonstra que a dependência de elicitação pré-implantação é insuficiente porque:

• Falha de Elicitação: É cada vez mais difícil para os desenvolvedores preverem como seus modelos serão modificados por atores a jusante (scaffolding, escala de inferência).
• Falha de Mitigação: Mesmo que capacidades perigosas sejam elicitadas, o baixo custo de replicar estes ganhos via vetores não relacionados ao modelo torna a mitigação difícil.
• Custo de Excesso (Overhang Cost): O potencial dano de falhar em eliciar uma capacidade aumenta à medida que os ganhos não relacionados ao modelo permitem que mais atores acessem capacidades perigosas.

Portfólio de Governança Proposto

O artigo argumenta que a governança ao nível do modelo deve ser complementada, não substituída, por um portfólio diversificado de estratégias de governança:

1. Governança Aprimorada ao Nível do Modelo:

   • Padrões de Elicitação Evolutiva: Mudando de "do que o modelo é capaz" para "o que um ator com determinados recursos pode eliciar em um determinado período de tempo?".
   • Parcerias: Aprofundar a cooperação com testadores terceiros, autoridades de segurança nacional e fabricantes de hardware para melhorar as pilhas de avaliação.
   • Monitoramento Pós-Implantação: Reavaliação contínua de modelos implantados via leaderboards e compartilhamento de inteligência de ameaças.
   • Previsão (Forecasting): Investir em metodologias para prever excessos de capacidade (capability overhangs), particularmente para ganhos de inferência e de sistema.

2. Além da Governança ao Nível do Modelo:

   • Governança de Sistemas: Responsabilizar os provedores de sistemas (ex: aqueles que constroem scaffolds complexos ou agentes) pela gestão de riscos, particularmente quando seus sistemas elevam significativamente as capacidades do modelo base.
   • Governança de Entidades: Focar na estrutura organizacional, incentivos e cultura de risco das entidades que desenvolvem ou implantam IA, e não apenas nos pesos do modelo.
   • Governança de Agentes: Abordar riscos decorrentes de dinâmicas multiagentes, delegação e interação autônoma (ex: má coordenação, colusão).
   • Governança de Nuvem: Explorar o monitoramento de uso de computação de inferência e conteúdo de forma segura para a privacidade no nível do provedor de nuvem para detectar padrões de uso indevido.
   • Resiliência Societal: Intervenções para ajudar comunidades a lidar com e recuperar-se de distúrbios habilitados por IA (ex: assegurar cadeias de suprimentos biológicos, infraestrutura econômica) quando a governança técnica falha em prevenir a materialização do risco.

5. Significância e Alegações

O artigo alega que os retornos relativos à intervenção ao nível do modelo podem diminuir à medida que os ganhos não relacionados ao modelo ganham importância. Sua principal significância reside em:

• Formalizar o Conceito: Fornecer uma taxonomia rigorosa de ganhos não relacionados ao modelo que anteriormente eram discutidos de forma anedótica.
• Preparação de Políticas: Argumentar que o ecossistema de IA deve se preparar para um cenário de risco em transformação, onde o "modelo base" não é mais o único locus de controle ou risco.
• Diversificação Estratégica: Demonstrar que uma estratégia de governança abrangente deve ir além do modelo para incluir nós de sistema, entidade, agente e nuvem, bem como a resiliência societal.

Os autores mantêm uma postura modesta, reconhecendo que estratégias de governança alternativas enfrentam barreiras práticas, legais e técnicas proibitivas. Eles não alegam que estas alternativas sejam imediatamente implementáveis ou que a governança ao nível do modelo se tornará redundante. Em vez disso, argumentam que uma análise abrangente e a exploração destes mecanismos mais amplos devem acontecer "o quanto antes" para evitar que o ecossistema de governança seja deixado despreparado conforme os ganhos não relacionados ao modelo se tornam o principal motor do progresso da capacidade.