Feature space reduction method for ultrahigh-dimensional, multiclass data: Random forest-based multiround screening (RFMS)

Resumo Técnico: Triagem de Múltiplas Rodadas Baseada em Random Forest (RFMS)

Definição do Problema
O artigo aborda o desafio da redução do espaço de características em conjuntos de dados ultra-altamente dimensionais que contêm centenas de milhares de características e milhares de classes. Embora existam inúmeros métodos de triagem para dados ultra-altamente dimensionais, a maioria falha ao lidar com variáveis de resposta multiclasse de forma eficaz. Este problema específico surge frequentemente na autenticação biométrica (por exemplo, verificação de assinatura, análise de marcha) e na neurociência, onde modelos de predição devem autenticar usuários com base em dados multicanais. Métodos tradicionais de seleção de variáveis frequentemente têm dificuldade em identificar o conjunto ideal de preditores ativos em tais espaços altamente dimensionais, e técnicas de redução de dimensionalidade como a Análise de Componentes Principais (PCA) têm sido reportadas como geradoras de resultados insatisfatórios. Além disso, os métodos de triagem existentes muitas vezes carecem de capacidade para examinar estruturas interativas e não lineares de ordem superior inerentes a esses conjuntos de dados.

Metodologia
Os autores propõem a Triagem de Múltiplas Rodadas Baseada em Random Forest (RFMS), um novo algoritmo projetado para lidar com dados multiclasse ultra-altamente dimensionais. O método opera dividindo o espaço de características em subconjuntos menores e executando uma série de construções de modelos parciais para destilar iterativamente um subconjunto de alto desempenho de características.

O algoritmo procede da seguinte forma:

1. Preparação: O vetor de características de entrada $x$ (contendo $n$ características) é permutado aleatoriamente e dividido em $m$ subconjuntos de tamanho $\alpha$.
2. Iteração (Ordenação baseada em torneio): O algoritmo processa esses subconjuntos sequencialmente. Em cada rodada $i$, ele concatena o subconjunto atual com as $\beta$ melhores características selecionadas da rodada anterior ($z_{i-1}$). Um classificador Random Forest (RF) é treinado neste conjunto combinado para determinar a importância da característica com base na frequência de seleção (o número de vezes que uma característica aparece na floresta de classificação).
3. Seleção: As $\beta$ características mais importantes da rodada atual são retidas e passadas para a próxima iteração.
4. Resultado: Após processar todos os subconjertos, o conjunto final de $\beta$ características representa o subconjunto mais informativo identificado pelo algoritmo.

O método é implementado em um pacote Julia disponível publicamente. Para testar o RFMS, os autores utilizaram o BiometricBlender, um gerador de dados sintéticos que cria espaços de características multiclasse ultra-altamente dimensionais com verdade fundamental (ground truth) conhecida e parâmetros de utilidade de características. O conjunto de dados de teste consistiu em 100 classes, 64 amostras por classe, 10.000 características (100 verdadeiras, 300 falsas e outras), e estruturas intercorrelacionadas.

Principais Contribuições

• Algoritmo Inovador: Introdução do RFMS, um método especificamente adaptado para problemas multiclasse ultra-altamente dimensionais onde a triagem tradicional falha.
• Refinamento Iterativo: Ao contrário da triagem estática, o RFMS utiliza uma abordagem de estilo torneio, baseada em rodadas, para refinar iterativamente a seleção de características, permitindo a identificação de estruturas não lineares e interativas.
• Saída Sem Transformação: Ao contrário da Análise Fatorial (FA) ou PCA, o RFMS fornece um subconjunto das características originais em vez de um espaço de características transformado. Isso preserva a interpretabilidade e permite o cálculo apenas das características selecionadas em ambientes de produção.
• Benchmarking: Avaliação abrangente contra métodos padrão da indústria (PCA, FA, k-best) usando três classificadores: k-Vizinhos Mais Próximos (kNN), Classificador de Vetor de Suporte (SVC) e Random Forest (RF).

Resultados
O estudo comparou o RFMS com PCA, FA e triagem k-best utilizando três classificadores: k-Nearest Neighbors (kNN), Support Vector Classifier (SVC) e Random Forest (RF).

• Acurácia: O RFMS e o FA superaram o PCA e o k-best. A maior acurácia (61,4%) foi alcançada pelas combinações RFMS–SVC e FA–RF. Notavelmente, o RFMS demonstrou robustez superior entre diferentes classificadores; enquanto o FA–RF teve um bom desempenho, o FA combinado com kNN ou SVC resultou em acurácia significativamente menor (10% e 42%, respectivamente). Em contraste, o RFMS manteve alto desempenho em todos os três classificadores (ex: 38,1% para kNN, 61,4% para SVC).
• Robustez: O RFMS mostrou maior estabilidade em relação ao número de características triadas. Reduzir a contagem de características de 500 para 100 diminuiu apenas ligeiramente a acurácia do RFMS (de ~61% para 55,4%), enquanto a acurácia do FA caiu precipitadamente (de ~61% para 25%) sob reduções semelhantes.
• Eficiência: Embora o tempo de triagem inicial para o RFMS tenha sido mais longo (aprox. 11.000s) em comparação ao FA ou PCA, os autores observam que a triagem é realizada infrequentemente em comparação com o ajuste do modelo. Além disso, os hiperparâmetros do RFMS podem ser ajustados para reduzir significativamente o tempo de triagem (ex: para ~2.143s) com impacto mínimo na acurácia.
• Dados Proprietários: Em um conjunto de dados proprietário (10.000 classes, 81.000 amostras), as características filtradas pelo RFMS atingiram até 93% de acurácia de classificação, superando as características transformadas por FA (aprox. 82%), embora com um tempo de triagem mais longo.

Significância e Alegações
O artigo afirma que o RFMS está "em pé de igualdade com os métodos de triagem de características padrão da indústria", oferecendo vantagens distintas em flexibilidade, robustez e operação. A principal significância reside em sua capacidade de triar eficazmente dados multiclasse ultra-altamente dimensionais — um domínio onde poucos métodos existentes são aplicáveis.

Os autores enfatizam que o RFMS fornece uma solução sem transformação, o que é crítico para sistemas de produção onde o custo computacional e a interpretabilidade são primordiais. Ao selecionar um subconjunto das características originais, o método evita a necessidade de calcular o conjunto total de características para cada nova amostra, economizando potencialmente tempo e recursos significativos.

O artigo conclui de forma modesta, reconhecendo que o gerador de dados sintéticos (BiometricBlender) ainda não reproduz totalmente todas as propriedades dos dados reais que desafiam os triadores de características, particularmente em relação ao desempenho da Análise Fatorial. Consequentemente, os autores sugerem que trabalhos futuros devem focar no refinamento do gerador de dados e na otimização dos hiperparâmetros do RFMS (ex: determinação automática de retenção de características, paralelização e pontuação de torneio alternativa) para melhorar ainda mais a acurácia e a eficiência computacional.