LLM-Driven Reasoning for Constraint-Aware Feature Selection in Industrial Systems

Título: Seleção de Recursos Orientada por Raciocínio de LLM para Sistemas Industriais com Restrições

Autores: Yuhang Zhou et al. (Meta AI)
Data: 27 de março de 2026

1. Problema e Motivação

A seleção de recursos (feature selection) é um componente crítico em sistemas de aprendizado de máquina industriais de grande escala, influenciando diretamente a precisão do modelo, a eficiência e a manutenibilidade.

• Limitações dos Métodos Tradicionais: As abordagens clássicas (filtros, wrappers e métodos embutidos) dependem fortemente de dados rotulados e heurísticas estatísticas. Em ambientes de produção, onde os dados rotulados são escassos e existem múltiplas restrições operacionais (como limites de capacidade, grupos de recursos e requisitos de manutenção), esses métodos tornam-se difíceis de aplicar.
• Oportunidade com LLMs: Modelos de Linguagem Grandes (LLMs) possuem a capacidade de entender o significado semântico e o contexto quantitativo de recursos descritos em linguagem natural. No entanto, as abordagens existentes baseadas em LLMs geralmente focam apenas na utilidade preditiva, ignorando restrições práticas e não aproveitando os metadados ricos disponíveis em sistemas de produção.

O objetivo deste trabalho é preencher essa lacuna, propondo um framework que realize seleção de recursos baseada em raciocínio, seja consciente de restrições operacionais e capaz de lidar com grandes volumes de dados heterogêneos.

2. Metodologia: O Framework MoFA

Os autores propõem o Model Feature Agent (MoFA), um framework baseado em LLM que trata a seleção de recursos como um processo sequencial de raciocínio.

2.1 Formulação do Problema

O objetivo é selecionar um subconjunto ótimo $S^*$ de recursos $F$ que maximize uma função objetivo $O$ (ex: desempenho do modelo), sujeito a um conjunto de restrições $C$ (ex: limites de capacidade, restrições de grupos de recursos).
Cada recurso $f_i$ é representado como uma tupla contendo:

• Nome e descrição textual.
• Metadados quantitativos (pontuações de importância, correlações, grupos de propriedade).

2.2 Fluxo de Trabalho (Workflow)

O MoFA opera em duas fases principais para garantir escalabilidade:

1. Estratégia "Divide and Conquer" (Dividir e Conquistar):

   • Fase 1 (Seleção Paralela em Buckets): O conjunto total de recursos (que pode exceder a janela de contexto do LLM) é dividido em $B$ buckets disjuntos. Um agente LLM realiza a seleção sequencial em cada bucket independentemente, preservando os recursos mais relevantes de cada partição.
   • Fase 2 (Síntese e Refinamento Global): Os subconjuntos candidatos de cada bucket são mesclados em um pool refinado. O agente realiza uma última rodada de seleção sequencial global neste pool reduzido para atingir o tamanho final desejado ($K$). Isso permite que o LLM raciocine sobre dependências e redundâncias entre recursos de diferentes buckets, mitigando problemas de colinearidade.

2. Seleção Sequencial via Raciocínio de LLM:

   • Em cada passo $t$, o LLM recebe um prompt estruturado contendo: o objetivo da tarefa, a lista atual de recursos selecionados ($S_t$), a lista de candidatos restantes ($A_t$) com seus metadados e as restrições auxiliares.
   • O LLM executa um processo de raciocínio para escolher o próximo recurso $f^*_t$ que melhor satisfaz o objetivo e as restrições, fornecendo uma justificativa explicável (reasoning) para a escolha.

2.3 Construção do Prompt

O prompt inclui descrições semânticas dos recursos, pontuações de importância, correlações com métricas-chave e informações de grupo. A saída do modelo é estruturada em duas partes: o recurso selecionado e a explicação lógica (Reason) de por que ele é a melhor escolha considerando o contexto.

3. Contribuições Principais

1. Framework MoFA: Um novo paradigma para seleção de recursos que integra compreensão semântica (via LLM) com metadados quantitativos e restrições operacionais.
2. Abordagem Escalável: A estratégia de Divide-and-Conquer permite aplicar raciocínio de LLM em conjuntos de dados industriais com milhares de recursos, contornando limitações de janela de contexto.
3. Consciência de Restrições: Diferente de métodos puramente estatísticos, o MoFA consegue otimizar ativamente para restrições de negócio, como a redução da complexidade de manutenção (agrupamento de recursos por equipe).
4. Validação em Cenários Reais: Avaliação em três casos de uso distintos em sistemas de produção da Meta.

4. Resultados Experimentais

O MoFA foi avaliado em três aplicações industriais reais:

4.1 Previsão de Interesse Real e Valor de Tempo (True Interest & Time-Worthiness)

• Tarefa: Prever se um conteúdo reflete o interesse real do usuário e se vale a pena o tempo dele.
• Resultado: O MoFA alcançou precisão (AUC) comparável ou superior ao Lasso (baseline estatística), especialmente em orçamentos de recursos pequenos.
• Vantagem Operacional: O MoFA reduziu drasticamente o número de grupos de recursos necessários.
  • Para $K=500$, reduziu os grupos de 187 (Lasso) para 85 (MoFA) na tarefa de Interesse Real (redução de 54%).
  • Isso diminui significativamente a dependência entre equipes e a sobrecarga de manutenção.

4.2 Melhoria do Modelo de Valor (Value Model Enhancement)

• Tarefa: Identificar termos de interação de alta ordem (ex: $p_{like} \times p_{click}$) para melhorar um modelo de valor linear.
• Resultado: O MoFA selecionou pares de sinais interativos que, ao serem incorporados ao modelo de produção, resultaram em ganhos estatisticamente significativos nas métricas de engajamento (sessões diárias), com melhorias de 0,018% a 0,055%.
• Significado: Demonstrou a capacidade do LLM de descobrir interações complexas que modelos lineares tradicionais não capturam.

4.3 Previsão de Comportamento de Notificação

• Tarefa: Selecionar um subconjunto de 4.000 recursos de um espaço total de 8.169 para um modelo de aprendizado multi-tarefa.
• Resultado: O modelo treinado com os recursos selecionados pelo MoFA superou tanto o modelo de produção atual (com >7.500 recursos) quanto uma seleção aleatória.
  • Melhoria de 0,065% na perda de entropia normalizada (NE) para cliques.
  • Melhoria de 0,198% na perda NE para rejeição de notificações.
• Significado: Demonstrou que é possível melhorar a precisão e a eficiência de inferência reduzindo o número de recursos através de seleção inteligente.

5. Significado e Conclusão

O trabalho demonstra que o raciocínio baseado em LLMs é uma ferramenta prática e eficaz para a seleção de recursos em sistemas de produção complexos. O MoFA consegue equilibrar três pilares fundamentais:

1. Interpretabilidade: As escolhas são justificadas por raciocínio natural.
2. Flexibilidade: Adapta-se a restrições de negócio específicas (grupos, tipos de dados).
3. Escalabilidade: Funciona em ambientes industriais com milhares de recursos.

Limitações e Trabalhos Futuros:

• O tempo de computação escala linearmente com o número de recursos (devido à seleção sequencial), embora seja aceitável como etapa offline.
• Desafios com limites de tokens em listas massivas de metadados.
• A abordagem sequencial é uma busca gulosa (greedy), o que pode, teoricamente, perder combinações ótimas de recursos que só mostram sinergia quando selecionados juntos.

Em suma, o MoFA representa um avanço significativo na automação e otimização de pipelines de ML industriais, transcendendo as limitações das heurísticas estatísticas tradicionais.