Resumo Técnico: Viés Induzido por Objetivos e Dinâmicas de Busca em Seleção de Características Não Supervisionada Multiobjetivo

1. Definição do Problema

A Seleção de Características Não Supervisionada (UFS) visa identificar subconjuntos compactos de características que preservam a informação do conjunto de dados sem depender de rótulos de destino. Embora frequentemente formulada como um problema de otimização multiobjetivo (MOFS) para otimizar conjuntamente a qualidade e o tamanho do subconjunto, a eficácia dessa abordagem depende criticamente de escolhas de projeto que permanecem pouco exploradas. Especificamente, o comportamento das formulações MOFS é sensível a:

• A escolha do objetivo de avaliação (ex.: qualidade de agrupamento vs. perda de reconstrução).
• A direção da regularização do tamanho do subconjunto (minimização vs. maximização).
• A estratégia de inicialização da população em algoritmos evolutivos.

Sem controle explícito, esses fatores podem levar a soluções degeneradas, como subconjuntos triviais de baixa cardinalidade que falham em capturar estruturas informativas, ou dinâmicas de busca que falham em explorar regiões relevantes da frente de Pareto dentro de um orçamento limitado de avaliações.

2. Metodologia

2.1 Framework Experimental

Os autores propõem um framework experimental controlado utilizando um conjunto de dados sintético com uma taxonomia de características conhecida. Este conjunto de dados inclui:

• Características Informativas: Projetadas para separar classes com ruído adicionado.
• Características Redundantes: Combinações lineares e não lineares de características informativas.
• Características de Ruído: Ruído gaussiano e ruído estruturado (que possuem estrutura interna, mas não estão relacionados ao alvo).
• Características de Varredura: Características informativas progressivamente perturbadas para testar a priorização de sinal.

Essa configuração permite a inspeção direta da composição dos subconjuntos selecionados (informativas, redundantes, irrelevantes) em vez de depender exclusivamente de valores de objetivo.

2.2 Formulações Multiobjetivo

O estudo compara seis formulações MOFS combinando três objetivos de avaliação ($f_1$) com duas direções de regularização do tamanho do subconjunto ($f_2$):

1. Objetivos de Avaliação:
   • Pontuação Silhueta: Uma métrica de qualidade de agrupamento que mede a coesão intra-agrupamento e a separação inter-agrupamento.
   • Precisão de Classificação: Uma linha de base supervisionada (Random Forest) usada como referência.
   • Perda de Reconstrução PCA (Proposta): Um novo objetivo não supervisionado que minimiza o Erro Quadrático Médio entre a projeção do conjunto de dados completo em seus componentes principais e a reconstrução dessa projeção usando apenas o subconjunto de características selecionadas via regressão linear. Isso aborda explicitamente a redundância de características avaliando a informação coletiva em vez da contribuição individual de variância.
2. Regularização ($f_2$):
   • Minimização do tamanho do subconjunto ($|x|$).
   • Maximização do tamanho do subconjunto ($-|x|$).

2.3 Dinâmicas de Busca e Inicialização

A otimização é realizada utilizando o algoritmo SMS-EMOA. O estudo investiga três estratégias de inicialização para determinar seu impacto nas dinâmicas de busca:

• Amostragem Aleatória Binária: Ensaios de Bernoulli independentes para seleção de características.
• Amostragem Segmentada: A população é dividida em subpopulações com diferentes probabilidades de seleção (ex.: $p \in \{0.25, 0.5, 0.75\}$) para garantir diversidade na cardinalidade.
• Amostragem de Cardinalidade Fixa: Todos os indivíduos começam com o mesmo número de características selecionadas.

3. Contribuições Principais

1. Análise de Escolhas de Projeto: O estudo demonstra como a direção da regularização do tamanho do subconjunto e as estratégias de amostragem da população inicial moldam a estrutura da frente de Pareto e determinam quais regiões do espaço de busca são exploradas sob orçamentos computacionais limitados.
2. Análise de Composição de Características: Utilizando o conjunto de dados sintético com linhagem de características conhecida, os autores caracterizam como diferentes objetivos selecionam tipos de características (informativas vs. redundantes vs. irrelevantes).
3. Introdução da Perda PCA: O artigo introduz a perda de reconstrução PCA como um objetivo não supervisionado para seleção de características. Analisa o comportamento desse objetivo sob regularização do tamanho do subconjunto, mostrando que aborda efetivamente o viés de cardinalidade e alinha-se com o desempenho de classificação a jusante.

4. Resultados

4.1 Impacto da Regularização e Inicialização

• Precisão + Minimização de Tamanho: Esta formulação padrão produz frentes de Pareto bem distribuídas. No entanto, a estratégia de inicialização afeta significativamente a busca. Contra-intuitivamente, começar com populações de baixa cardinalidade (ex.: características únicas) frequentemente produz melhores resultados do que começar com subconjuntos maiores, pois o objetivo de precisão direciona a busca para subconjuntos maiores apenas quando ganhos de desempenho são realizados, evitando a armadilha de ficar preso em ótimos locais de alta cardinalidade.
• Silhueta + Minimização de Tamanho: Esta combinação induz um forte viés em direção a soluções triviais de baixa cardinalidade. A pontuação silhueta é inerentemente enviesada para subconjuntos pequenos em espaços de alta dimensionalidade (a "maldição da dimensionalidade"), onde subconjuntos pequenos podem inflar artificialmente as pontuações ao isolar agrupamentos acidentais. Mesmo com regularização adequada, essa formulação falha em capturar estruturas informativas e colapsa em direção à origem do espaço de busca.

4.2 Composição das Soluções

• Formulações Baseadas em Silhueta: Mesmo quando emparelhadas com a maximização do tamanho (para contrabalançar o viés), objetivos baseados em silhueta tendem a selecionar características redundantes e irrelevantes. As frentes de Pareto resultantes são dominadas por soluções que não alcançam alta precisão de classificação, indicando que a pontuação silhueta é um proxy fraco para desempenho preditivo neste contexto.
• Formulações Baseadas em Perda PCA: O objetivo de perda PCA proposto, quando emparelhado com a minimização do tamanho, retém com sucesso uma proporção substancial de características informativas enquanto descarta ruído puro. O método aproxima efetivamente subconjuntos de características quase ótimos. Soluções na frente de Pareto mostram uma clara compensação entre o tamanho do subconjunto e a perda de reconstrução, com níveis de desempenho comparáveis aos obtidos pela otimização direta da precisão supervisionada.

4.3 Desempenho Comparativo

Quando avaliados em um conjunto de teste mantido de fora, o objetivo de perda PCA produziu subconjuntos compactos com precisão de teste comparável à linha de base de precisão supervisionada. Em contraste, formulações baseadas em silhueta tiveram consistentemente desempenho inferior, independentemente da direção da regularização.

5. Significado e Alegações

O artigo afirma que o design do objetivo é central para a seleção de características não supervisionada multiobjetivo eficaz. O estudo destaca que:

• O Viés é Induzido pelo Objetivo: A escolha do objetivo de avaliação (ex.: métricas de agrupamento vs. perda de reconstrução) dita fundamentalmente as dinâmicas de busca e a qualidade da frente de Pareto resultante.
• Métricas de Agrupamento são Proxies Defeituosos: Pontuações silhueta e métricas de agrupamento similares são propensas a induzir vieses em direção a soluções triviais de baixa cardinalidade e são proxies fracos para desempenho preditivo.
• Perda PCA é uma Alternativa Viável: A perda de reconstrução PCA proposta oferece um sinal não supervisionado estável que equilibra a compactação do subconjunto com o desempenho preditivo, lidando efetivamente com a redundância de características sem exigir rótulos de destino.

Os autores concluem que, embora suas descobertas sejam robustas no conjunto de dados sintético controlado, trabalhos futuros são necessários para verificar esses resultados em conjuntos de dados do mundo real e explorar representações latentes mais complexas usando modelos de reconstrução não lineares.