On the Decompositionality of Neural Networks

Título: Sobre a Decomponibilidade de Redes Neurais

Autores: Junyong Lee, Baek-Ryun Seong, Sang-Ki Ko, Andrew Ferraiuolo, Minwoo Kang, Hyuntae Jeon, Seungmin Lim, Jieung Kim.

1. O Problema

Apesar dos avanços notáveis das redes neurais profundas em visão computacional e processamento de linguagem natural (PLN), a maioria dos modelos é tratada como funções monolíticas de "caixa preta". Isso limita a manutenibilidade, a otimização por componentes e a verificação sistemática.

Embora existam abordagens empíricas para poda (pruning) e decomposição de redes, o campo carece de uma noção semântica principial de quando uma rede neural pode ser decomposta de forma significativa.

• Limitação Atual: As avaliações existentes dependem principalmente da precisão agregada (accuracy) em conjuntos de teste. No entanto, a precisão é uma aproximação esparsa do domínio de entrada e não garante a preservação do comportamento semântico, especialmente nas fronteiras de decisão (regiões onde pequenas perturbações mudam a classe prevista).
• Questão Central: Quando uma rede neural admite uma decomposição semanticamente significativa? A decomposição atual é frequentemente vista como um procedimento, mas os autores argumentam que deve ser tratada como uma propriedade intrínseca do modelo.

2. Metodologia e Definições Formais

Os autores introduzem o conceito de Decomponibilidade Neural, definido como um contrato semântico-estrutural entre um modelo original e seus componentes decompostos.

A. Definição de Decomponibilidade

A decomponibilidade é caracterizada por duas condições ortogonais que devem ser satisfeitas simultaneamente:

1. Fidelidade Semântica Consciente da Fronteira (Boundary-Aware Semantic Fidelity):
   • O modelo decomposto deve preservar o comportamento de classificação do modelo original nas vizinhanças das fronteiras de decisão ($\tau$-vizinhança).
   • Formalmente, a probabilidade de desacordo entre o modelo original e o decomposto, restrita a inputs próximos à fronteira de decisão, deve ser menor que um limiar $\epsilon$.
   • Isso garante que as transições semânticas (mudanças de classe) não sejam alteradas indevidamente.
2. Divergência Estrutural (Structural Divergence):
   • Os componentes resultantes devem ser estruturalmente distintos e não triviais.
   • Disjunção Estrutural: A sobreposição entre os conjuntos de unidades (neurônios/canais) ativados por diferentes componentes deve ser baixa (limiar $\gamma$).
   • Redução Não Trivial: Cada componente deve ser significativamente menor que o modelo original (limiar $\eta$).

B. Abstração para Viabilidade Prática

Verificar essa definição globalmente é computacionalmente inviável devido ao espaço de entrada contínuo. Os autores propõem uma Abstração de Decomponibilidade Local:

• Substituem a vizinhança teórica da fronteira por um subconjunto finito de dados com margens de logit baixas (inputs próximos à fronteira).
• Utilizam o Teorema de Hoeffding para garantir que a fidelidade semântica estimada empiricamente em amostras fintras seja uma aproximação válida da propriedade global com alta probabilidade.

C. O Framework SAVED (Semantic-Aware Verification-Driven Decomposition)

Para operacionalizar a definição, os autores desenvolveram o framework SAVED, que possui quatro fases:

1. Decomposição Estrutural: Criação de componentes binários baseados em classes (um componente por classe).
2. Geração de Inputs Conscientes da Fronteira: Uso de métodos adversariais (PGD) seguidos de refinamento por busca binária para gerar dados que cruzam ou ficam muito próximos da fronteira de decisão.
3. Refinamento Semântico-Estrutural (LBMask):
   • Aprendizado de máscaras binárias estruturadas sobre os pesos congelados do modelo pré-treinado.
   • Otimização conjunta para minimizar a perda de precisão na fronteira (fidelidade semântica) e maximizar a separação estrutural entre as máscaras (divergência estrutural).
4. Avaliação do Contrato: Verificação empírica de se o modelo decomposto satisfaz os limiares de fidelidade semântica e divergência estrutural definidos.

3. Contribuições Principais

1. Definição Formal de Decomponibilidade: A primeira definição formal que caracteriza a decomponibilidade não como um algoritmo, mas como uma propriedade verificável baseada na preservação das fronteiras de decisão.
2. Contrato Semântico-Estrutural: Estabelecimento de que a decomposição válida exige simultaneamente a preservação do comportamento na fronteira e a separação estrutural dos componentes, evitando soluções degeneradas (como cópias idênticas ou redes totalmente conectadas).
3. Framework SAVED: Uma metodologia prática que combina mineração de contraexemplos, cobertura probabilística e poda consciente da estrutura para testar essa propriedade.
4. Insights Empíricos: Demonstração de que a decomponibilidade não é universal; ela depende da arquitetura e da tarefa.

4. Resultados Experimentais

Os autores avaliaram o framework em três famílias de modelos: Transformers de Linguagem (BERT), CNNs (ResNet) e Vision Transformers (ViT/DeiT).

• Resultados em NLP (BERT):

  • Em tarefas de classificação de texto (ex: DBPedia-14), o BERT satisfaz o contrato completo.
  • Os componentes decompostos mantêm a fidelidade semântica nas fronteiras e apresentam baixa sobreposição estrutural.
  • Isso sugere que modelos de linguagem tendem a codificar informações discriminativas de forma esparsa e específica por classe.

• Resultados em Visão (CNNs e ViTs):

  • Modelos de visão (ResNet e DeiT) falham consistentemente na condição de fidelidade semântica, mesmo quando conseguem reduzir a estrutura.
  • Existe um trade-off claro: tentar separar estruturalmente os componentes destrói a precisão nas fronteiras de decisão.
  • Isso indica que representações visuais são altamente distribuídas e entrelaçadas, tornando difícil isolar componentes específicos por classe sem alterar o comportamento semântico.

• Falhas de Métodos Existentes:

  • Métodos de poda padrão (como Wanda) que preservam a precisão global frequentemente falham na separação estrutural (sobreposição > 90%), resultando em decomposições degeneradas.
  • Métodos que focam apenas na estrutura falham na preservação semântica.

5. Significado e Implicações

• Mudança de Paradigma: O trabalho muda o foco de "como decompor" para "quando é possível decompor". A decomponibilidade é apresentada como uma propriedade intrínseca da representação aprendida pelo modelo, e não apenas do método de decomposição.
• Engenharia de Software para IA: A definição fornece uma base teórica para tratar redes neurais com princípios de engenharia de software modular (raciocínio local, reuso, reparo), mas apenas quando o contrato semântico é atendido.
• Escalabilidade em Verificação: Quando a decomponibilidade é válida (como no BERT), os componentes menores permitem que tarefas de verificação formal (que são computacionalmente caras) sejam realizadas de forma mais escalável, pois a verificação pode ser feita em módulos menores.
• Limitações Arquitetônicas: O estudo revela barreiras intrínsecas na decomposição de tarefas de visão, sugerindo que arquiteturas futuras para visão podem precisar de restrições de treinamento que forcem representações mais modulares (decomponibilidade consciente do treinamento).

Em resumo, o paper estabelece que a decomposição neural significativa é possível e verificável, mas é uma propriedade condicional que depende fundamentalmente de como a informação discriminativa está organizada na arquitetura do modelo, sendo mais prevalente em modelos de linguagem do que em modelos de visão.