Model Merging is Secretly Certifiable: Non-Vacuous Generalisation Bounds for Low-Shot Learning

No mundo da inteligência artificial, existe uma tensão crescente entre o poder desses sistemas e nossa capacidade de confiar neles. Dependemos da IA para tomar decisões em campos de alto risco, como a medicina e a segurança, mas o requisito mais fundamental para a confiança é saber que um sistema terá um desempenho confiável em novos dados não vistos, não apenas nos exemplos nos quais foi treinado. Por décadas, cientistas tentaram criar garantias matemáticas que provassem que um modelo não falharia inesperadamente. No entanto, essas garantias têm sido frequentemente inúteis para as redes massivas e complexas que impulsionam a IA moderna. Os cálculos necessários para provar a segurança de sistemas tão grandes geralmente resultam em avisos tão amplos e pessimistas que não nos dizem nada útil, essencialmente dizendo que a taxa de erro poderia estar em qualquer lugar entre zero e cem por cento. Este problema torna-se ainda mais difícil quando há muito poucos dados disponíveis para treinar o sistema, uma situação comum em campos especializados onde reunir milhares de exemplos é impossível.

Uma equipe de pesquisadores descobriu uma maneira surpreendente de contornar essas limitações ao mudar a forma como olham para o próprio processo de aprendizado. Em vez de tentar certificar toda a rede neural massiva, eles se concentraram em uma técnica chamada fusão de modelos (model merging), que combina vários especialistas pré-treinados em um único novo modelo. Ao tratar o processo de combinação desses modelos como uma forma de aprendizado com pouquíssimas configurações ajustáveis, os pesquisadores descobriram que podiam aplicar verificações de segurança rigorosas que eram anteriormente impossíveis. O trabalho deles demonstra que é possível fornecer garantias significativas e não vazias para o desempenho de sistemas de inteligência artificial gigantescos, mesmo quando são treinados com apenas cem exemplos. Essa descoberta sugere que as ferramentas necessárias para certificar a segurança dos modelos de IA mais poderosos de hoje já estavam escondidas à vista de todos, esperando para serem reconhecidas através de uma lente teórica diferente.

O cerne desta descoberta reside em reimaginar como treinamos e validamos a IA quando os dados são escassos. Tradicionalmente, para provar que um modelo funciona, os cientistas dividem seus dados limitados em um conjunto de treinamento e um conjunto de validação separado. Mas quando você tem apenas cem exemplos, dividir esses dados ao meio deixa você com poucos para treinar um bom modelo e poucos para testá-lo de forma confiável. Os pesquisadores perceberam que um método popular chamado fusão de modelos oferecia uma solução. Nesta abordagem, em vez de treinar uma rede gigante do zero, você pega várias redes existentes que já aprenderam diferentes habilidades e as mistura. A mistura é controlada por um pequeno conjunto de números, ou pesos, que determinam quanto cada rede original contribui para o resultado final. Como o número desses pesos de mistura é minúsculo comparado aos bilhões de parâmetros dentro das redes originais, o processo de aprendizado torna-se muito mais simples.

Os pesquisadores mostraram que essa simplicidade é a chave para a certificação. Eles aplicaram uma estrutura conhecida como PAC-Bayes, que é um método para calcular a probabilidade de um modelo ter um bom desempenho em novos dados. Normalmente, este método falha para redes grandes porque a matemática se torna muito vaga para ser útil. No entanto, como a fusão de modelos ajusta apenas um punhado de pesos, a matemática permanece precisa. A equipe demonstrou que algoritmos de fusão existentes, que foram projetados simplesmente para criar o melhor modelo combinado possível, já estavam fornecendo essas garantias de segurança precisas sem qualquer modificação especial. Em muitos casos, a maneira padrão como esses algoritmos funcionavam era suficiente para provar que o modelo resultante não falharia catastroficamente, mesmo com muito poucos dados de treinamento.

Para tornar essas garantias ainda mais fortes, a equipe desenvolveu uma maneira de ajustar o processo de aprendizado. Eles modificaram o objetivo do algoritmo de fusão para minimizar explicitamente o limite de segurança (safety bound) em si, em vez de apenas tentar obter o menor erro nos dados de treinamento. Este ajuste permitiu que transformassem garantias "vazias", que não ofereciam qualquer garantia real, em limites concretos e úteis sobre a frequência com que o modelo poderia falhar. Eles testaram esta abordagem em dois tipos muito diferentes de inteligência artificial: um sistema de visão capaz de reconhecer imagens e um grande modelo de linguagem capaz de compreender texto. Para o sistema de visão, utilizaram um modelo com aproximadamente oitenta e oito milhões de parâmetros e, para o modelo de linguagem, um com sete bilhões de parâmetros. Em ambos os casos, treinaram os sistemas com apenas cem exemplos por tarefa.

Os resultados foram impressionantes. Para as tarefas de visão, os pesquisadores foram capazes de certificar que os modelos fundidos atuariam dentro de uma faixa de precisão específica e estreita. Para o modelo de linguagem, que é significativamente maior e mais complexo, eles alcançaram o mesmo resultado. Em muitas instâncias, o modelo de linguagem base apresentou um desempenho ruim em novas tarefas quando não recebeu nenhum exemplo de treinamento, mas após ser fundido e treinado com apenas cem exemplos, o sistema não apenas melhorou seu desempenho, como também veio acompanhado de um certificado matemático provando sua confiabilidade. Os pesquisadores descobriram que, para todos os conjuntos de dados, o erro de teste pôde ser certificado para estar dentro de 5% do erro de treinamento.

Este trabalho desafia a crença de longa data de que certificar grandes sistemas de IA exige quantidades massivas de dados. Os pesquisadores mostraram que, ao focar no pequeno número de parâmetros que realmente mudam durante o processo de fusão, a complexidade do sistema torna-se gerenciável para provas de segurança. Eles também exploraram uma técnica chamada priors dependentes de dados (data-dependent priors), que envolve o uso de uma pequena parte dos dados de treinamento para estabelecer um ponto de partida melhor para o cálculo de segurança. Isso tornou as garantias ainda mais precisas, provando que o método é robusto e adaptável. O estudo não alegou resolver todos os problemas de segurança da IA, mas forneceu um caminho claro para certificar sistemas em regimes de baixos dados, um cenário que é crítico para aplicações do mundo real onde os dados são caros ou difíceis de obter.

As implicações desta descoberta estendem-se além dos números. Sugere que a segurança dos sistemas de IA existentes pode ser mais fácil de verificar do que se pensava anteriormente. Se os métodos usados para combinar modelos podem ser certificados tão facilmente, então os sistemas construídos usando esses métodos podem ser confiados com maior confiança. Os pesquisadores enfatizaram que esta abordagem funciona tanto para o reconhecimento de imagens quanto para a compreensão de linguagem, indicando que o princípio é geral e não se limita a um tipo específico de IA. Ao provar que garantias não vazias, ou significativas, são possíveis para modelos de até sete bilhões de parâmetros com apenas cem exemplos, a equipe abriu um novo caminho para garantir que a inteligência artificial possa ser implantada com segurança nas áreas mais críticas da vida humana. O trabalho serve como uma demonstração de que, às vezes, a chave para resolver um problema teórico complexo não é construir uma máquina maior, mas olhar para a máquina existente sob um ângulo diferente.