The Loss Floor of Denoising Score Matching: Fisher Geometry from Schrödinger Bridges

Nos últimos anos, um novo tipo de inteligência artificial surgiu, capaz de criar imagens, vídeos e sons incrivelmente realistas a partir de simples descrições de texto. Esses sistemas, conhecidos como modelos de difusão, funcionam aprendendo a reverter um processo de destruição gradual. Imagine pegar uma fotografia nítida e adicionar lentamente ruído estático a ela até que a imagem se torne nada mais do que uma massa granulada e irreconhecível. Um modelo de difusão aprende o inverso: partindo de puro ruído, ele aprende como remover o estático gradualmente, passo a passo, até que uma imagem clara reapareça. Para fazer isso, o modelo é treinado para prever como empurrar uma imagem ruidosa de volta em direção à clareza. Esse processo de treinamento baseia-se em um alvo matemático chamado "score", que essencialmente aponta na direção dos dados limpos. Durante anos, pesquisadores utilizaram um método padrão para ensinar essa habilidade ao modelo, assumindo que, se o modelo aprendesse a prever a direção corretamente em média, acabaria por dominar a tarefa de gerar novas imagens.

No entanto, um novo estudo revela que este método de treinamento padrão contém um custo oculto e inevitável que foi negligenciado. Os pesquisadores descobriram que o alvo que o modelo tenta aprender não é uma direção única e fixa, mas uma variável aleatória que muda toda vez que o modelo observa uma imagem ruidosa. Como o modelo é forçado a adivinhar esse alvo oscilante, o processo de treinamento sempre inclui uma quantidade de erro basal que nenhum nível de melhor aprendizado ou hardware mais potente poderá jamais eliminar. Este erro não é uma falha no design do modelo; é uma propriedade intrínseca da matemática usada para ensiná-lo. O estudo identifica este erro inevitável como o traço da métrica de Fisher–Rao dos dados, medindo quanta informação sobre a imagem original é perdida conforme o ruído é adicionado. Ao isolar este custo oculto, os pesquisadores mostraram que comparar os scores brutos de treinamento de diferentes modelos pode ser enganoso, pois o score depende fortemente de como o ruído foi adicionado, e não apenas de quão bom é o modelo.

O cerne desta descoberta reside na compreensão da diferença entre o que o modelo precisa saber e o que lhe é realmente solicitado aprender. O objetivo ideal para o modelo é aprender a direção média que aponta para todas as possíveis imagens limpas que poderiam ter produzido um estado ruidoso específico. Esta direção média é o verdadeiro "score" da distribuição dos dados. Na prática, porém, calcular esta média é impossível. Em vez disso, o processo de treinamento pede ao modelo que adivinhe a direção com base em uma única imagem limpa e aleatória que foi usada para criar o ruído. Embora este palpite esteja correto em média após muitas tentativas, qualquer palpite individual é ruidoso e incerto. O estudo prova que o erro extra introduzido pelo uso desses palpites aleatórios é exatamente igual ao traço da métrica de Fisher–Rao da família de pontos finais condicionais. Em termos simples, isto é uma medida de quanto a imagem ruidosa nos diz sobre a imagem limpa específica de que ela provém. À medida que o ruído aumenta, esta informação desaparece, e o estudo mostra que o erro total de treinamento acumula-se precisamente à taxa em que esta informação é perdida.

Esta descoberta altera a forma como devemos ver o treinamento destes poderosos sistemas de IA. Os pesquisadores demonstraram que o erro total relatado durante o treinamento é, na verdade, a soma de duas partes distintas: o erro que o modelo pode realmente corrigir ao aprender melhor, e o erro irredutível causado pela aleatoriedade do alvo de treinamento. Esta parte irredutível, que eles chamam de "piso de perda" (loss floor), depende inteiramente dos dados e do cronograma de ruído usado durante o treinamento, não do modelo em si. Consequentemente, se dois modelos forem treinados com diferentes cronogramas de ruído ou diferentes intervalos de ruído, seus scores brutos de treinamento não podem ser comparados diretamente. Um modelo treinado com um intervalo mais amplo de ruído pode parecer ter um erro maior simplesmente porque tem que pagar um custo de "piso" maior, mesmo que seja, de fato, um modelo melhor. O estudo fornece uma maneira de subtrair este custo oculto, revelando o verdadeiro desempenho do modelo. Em testes, a remoção deste piso corrigiu a classificação dos modelos, mostrando que o melhor modelo era, de fato, melhor, um fato que estava anteriormente obscurecido pelo ruído matemático do processo de treinamento.

A pesquisa também conecta este erro de treinamento à geometria fundamental dos dados. O estudo mostra que o erro irredutível está relacionado à forma do espaço onde os dados residem. Por exemplo, se os dados consistem em imagens que residem em uma superfície de dimensão inferior dentro de um espaço de alta dimensão, a taxa na qual o erro cresce conforme o ruído é adicionado revela a dimensionalidade dessa superfície. Isso significa que o próprio processo de treinamento contém uma medição integrada da complexidade dos dados. Além disso, o estudo esclarece que a maneira como agendamos o ruído — o quão rápido o adicionamos e quanto peso damos a diferentes estágios do processo — não altera a quantidade total deste erro irredutível. Apenas altera onde ao longo do caminho o erro ocorre. Isto sugere que, embora possamos reorganizar o processo de treinamento para torná-lo mais eficiente, não podemos eliminar o custo fundamental de aprender a partir de dados ruidosos.

Uma das implicações mais práticas deste trabalho é uma nova forma de avaliar e comparar diferentes modelos de IA. Os autores mostram que, ao calcular e subtrair este piso oculto, os pesquisadores podem obter uma medida real de quão bem um modelo está aprendendo. Eles testaram isso em dados sintéticos onde a qualidade dos modelos já era conhecida. Ao observar os números brutos de treinamento, a classificação dos modelos era por vezes invertida, fazendo com que um modelo pior parecesse melhor do que um bom, simplesmente devido ao cronograma de ruído utilizado. Uma vez subtraído o piso, a classificação correta foi restaurada. Isto sug que o padrão atual para relatar o progresso do treinamento está incompleto e que as comparações futuras devem considerar este custo geométrico. O estudo não propõe um novo algoritmo de treinamento ou uma nova forma de gerar imagens, mas sim uma compreensão mais clara dos existentes. Ele expõe uma camada oculta do processo de treinamento que sempre esteve lá, à espera de ser medida.

Os pesquisadores também exploraram como este conceito se aplica a outros tipos de dados, como o texto, onde o processo envolve o mascaramento de palavras em vez da adição de ruído Gaussiano. Eles descobriram que um custo oculto semelhante existe ali também, ligado à entropia, ou incerteza, dos dados. Isto indica que o princípio é universal através de diferentes tipos de modelos generativos. O estudo conclui que a geometria dos dados, o fluxo de informação e o objetivo de treinamento são todos descrições diferentes da mesma realidade subjacente. O "piso de perda" não é um erro a ser corrigido, mas uma característica do universo da informação que deve ser reconhecida. Ao separar a capacidade de aprendizado do modelo do custo inevitável do método de treinamento, obtemos uma imagem mais honesta e precisa do que estes sistemas de inteligência artificial são realmente capazes de alcançar.