Do Sparse Autoencoders Learn Meaningful Concept Hierarchies?

Resumo Técnico: Os Autoencoders Esparsos Aprendem Hierarquias de Conceitos Significativas?

Declaração do Problema
Os Autoencoders Esparsos (SAEs) emergiram como uma ferramenta primária para a descoberta de conceitos não supervisionada em grandes modelos de linguagem e de visão-linguagem, decompondo as ativações do modelo em características latentes esparsas e de alta dimensão. No entanto, à medida que esses espaços de características crescem, eles se tornam difíceis de navegar e interpretar devido à falta de uma estrutura inerente. Embora os humanos organizem naturalmente os conceitos de forma hierárquica (ex: tênis $\to$ raquete de tênis), as abordagens atuais de SAE frequentemente produzem espaços de conceitos desordenados. Embora métodos recentes tentem impor estruturas hierárquicas — seja explicitamente durante o treinamento ou implicitamente via restrições — não há um framework acordado sobre o que constitui uma hierarquia de características "significativa". Consequentemente, a comparação rigorosa entre métodos é difícil, e a avaliação tem dependido amplamente de ilustrações qualitativas ou protocolos quantitativos fragmentados.

Metodologia
Para abordar a falta de um protocolo de avaliação padronizado, os autores derivam um conjunto abrangente de requisitos para hierarquias de generalização/especialização no aprendizado de conceitos não supervisionado, baseando-se em pesquisas de redes semânticas, avaliação de taxonomias e literatura recente de SAE. Esses requisitos são categorizados em três níveis:

1. Nível de Conceito: Foca em características individuais.
   • Interpretabilidade (A1): Os nós devem corresponder a conceitos compreensíveis por humanos.
2. Nível de Estrutura: Foca na topologia estática do grafo.
   • Abstração Hierárquica (B1): Os nós filhos devem ser semanticamente mais específicos que seus pais.
   • Similaridade de Irmãos (B2): Filhos do mesmo pai devem formar um conjunto coerente e semanticamente relacionado.
3. Nível de Co-ativação: Foca no comportamento de ativação dinâmica em entradas concretas.
   • Implicação de Ativação (C1): Um filho ativo deve implicar um pai ativo (sem "absorção dura").
   • Dominância de Ativação (C2): A força de ativação do pai deve ser pelo menos tão forte quanto a do filho quando ambos estão ativos.
   • Refinamento Frequente (C3): Pais ativos devem co-ativar frequentemente com pelo menos um filho ativo.
   • Correlação Condicional (C4): A magnitude da ativação do pai deve correlacionar-se positivamente com a ativação máxima de seus filhos ativos (abordando a "absorção suave").

Com base nesses requisitos, os autores derivam um protocolo de avaliação unificado e não supervisionado consistindo em métricas específicas (ex: Pontuação de Monossemântica, Pontuação de Abstração Hierárquica, Pontuação de Implicação de Ativação). Eles aplicam este protocolo para avaliar seis abordagens de SAE treinadas em dados visuais (embeddings CLIP ViT-L/14 e DINOv2): um TopK SAE padrão, Matryoshka SAEs (ActMSAE, ArchMSAE), EWG-SAE, Matching-Pursuit SAE (MP-SAE) e H-SAE.

Principais Resultados
A avaliação revela várias descobertas críticas em relação ao estado do aprendizado de conceitos hierárquicos em SAEs:

• Hierarquias Rasas: A maioria dos métodos (TopK, EWG-SAE, ArchMSAE, H-SAE) produz predominantemente hierarquias de dois níveis. Apenas o ActMSAE gera consistentemente estruturas mais profundas (mais de dois níveis).
• Estrutura Semântica vs. Consistência de Ativação: Embora os espaços de características geralmente forneçam uma base para grafos estruturados semanticamente (altas pontuações de abstração e similaridade de irmãos), estabelecer um comportamento de ativação hierárquica consistente permanece desafiador.
• O Problema da Absorção: Uma descoberta central é o comprometimento sistemático da qualidade da hierarquia devido à absorção de características.
  • Absorção Dura: A supressão da ativação do pai quando um filho está ativo.
  • Absorção Suave: Um fenômente recém-identificado onde ativações de filhos mais fortes gradualmente suprimem as ativações dos pais mesmo quando ambos estão ativos, levando a uma baixa correlação (baixa Pontuação de Correlação Condicional) e pontuações de dominância.
• Desempenho Específico por Método:
  • Abordagens Matryoshka (ActMSAE): Mostram as melhores métricas de co-ativação e estruturas de múltiplos níveis, embora a absorção suave persista.
  • H-SAE (Hierarquia Explícita): Impõe uma co-ativação consistente por design, mas falha em manter o significado semântico; suas características muitas vezes carecem de interpretabilidade, com filhos às vezes parecendo mais abstratos que os pais.
  • Standard TopK SAE: Surpreendentemente forma agrupamentos semânticos significativos, mas sofre significativamente de forças de ativação inconsistentes entre pais e filhos.
• Independência do Encoder: Os desafios em aprender espaços hierárquicos parecem ser impulsionados pelas estratégias de treinamento de SAE, e não pelo encoder de visão subjacente (CLIP vs. DINOv2), desde que os embeddings contenham informação suficiente.

Significância e Alegações
O artigo afirma estabelecer o primeiro conjunto geral de requisitos e um protocolo de avaliação quantitativa correspondente para hierarquias de conceitos não supervisionadas. Sua principal contribuição é identificar que, embora os SAEs possam aprender características capazes de formar hierarquias significativas, as abordagens atuais lutam para manter a consistência dinâmica necessária para que essas hierarquias sejam praticamente úteis.

Os autores argumentam que o campo deve navegar em uma tensão fundamental entre esparsidade e consistência de ativação hierárquica. Eles sugerem que abordagens futuras podem precisar repensar as restrições de esparsidade rígida, postulando que um SAE menos esparso com comportamento de ativação hierárquica consistente poderia ser mais valioso do que um mais esparso com estrutura fragmentada. Além disso, destacam que restrições estruturais explícitas sozinhas são insuficientes sem garantir a coerência semântica dentro da hierarquia.

O trabalho conclui que, embora as métricas e requisitos propostos possam servir como restrições de treinamento para futuros extratores, questões abertas permanecem em relação ao método ideal para extrair grafos de hierarquia de espaços latentes e o equilíbrio entre a imposição explícita e a indução implícita de estrutura.