Resumo Técnico: SemanticOpt: Rumo à Otimização de Caixa-Preta Semântica Baseada em LLM

Definição do Problema

A otimização de sistemas experimentais é frequentemente prejudicada pelo alto custo, consumo de tempo ou dificuldade de realizar avaliações individuais. Nessas cenários de "caixa-preta dispendiosa", a relação entre parâmetros de projeto e resultados é desconhecida. Otimizadores tradicionais, como a Otimização Bayesiana (BO), baseiam-se exclusivamente em observações numéricas (configurações e resultados escalares). Eles carecem da capacidade de incorporar conhecimento de domínio mais amplo, como heurísticas de especialistas, literatura científica ou descrições semânticas de experimentos anteriores. Embora os Modelos de Linguagem de Grande Escala (LLMs) possuam a capacidade de interpretar tais informações semânticas, os LLMs mais avançados lutam para realizar uma otimização iterativa confiável. Eles frequentemente se destacam no início quente (propondo candidatos iniciais), mas falham em manter um equilíbrio eficaz entre exploração e exploração ao longo de trajetórias mais longas, levando a platôs de desempenho.

Metodologia

Os autores introduzem o SemanticOpt, um framework que equipa LLMs com capacidades robustas de otimização de caixa-preta ao ajustá-los finamente em trajetórias de BO estruturadas, aumentadas com contexto em linguagem natural.

1. Formulação do Problema

A otimização é tratada como um problema de tomada de decisão sequencial, onde uma política de LLM $\pi_\theta$ interage com uma função objetivo desconhecida $f$. Em cada passo $t$, o modelo recebe um histórico de observações $D_t = \{(x_i, y_i)\}$ e contexto semântico $C$ (por exemplo, descrições do problema, dados históricos ou feedback de avaliação). O modelo gera a próxima configuração $x_{t+1} \sim \pi_\theta(\cdot | C, D_t)$.

2. Geração de Dados e Treinamento

Para superar a escassez de benchmarks do mundo real com dados semânticos, os autores construíram um conjunto de dados de treinamento em grande escala, compreendendo mais de 100.000 trajetórias de otimização:

• Espaços de Funções: Eles geraram objetivos sintéticos diversos usando dois métodos:
  • Funções de Processo Gaussiano (GP): Geradores flexíveis e escaláveis, aumentados com distorção de coordenadas não lineares, descontinuidades, restrições e regiões de falha para imitar irregularidades do mundo real.
  • Funções Geradas por LLM: Usando o Qwen 3.5 35B-A3B, eles geraram contextos semânticos para domínios do mundo real (por exemplo, reações químicas, logística de transporte) emparelhados com 100 pontos avaliados para definir a verdade fundamental via ajuste de substituto.
• Geração de Trajetórias: O framework de BO mais avançado HEBO foi usado para gerar trajetórias de otimização de alta qualidade nesses espaços de funções. O processo envolveu a inicialização com 5 passos (usando amostragem de Sobol para funções GP e inicializações geradas por LLM para funções semânticas) e a execução de 3 modelos substitutos diferentes (GP, Random Forest e SVIDKL). O substituto de melhor desempenho em contagens de passos específicas (10, 25, 50, 100) foi selecionado para compilar o conjunto de dados.
• Estrutura do Prompt: Os dados de treinamento são formatados como conversas de múltiplas voltas. A instrução do sistema impõe uma saída JSON estrita contendo a configuração proposta, média prevista, desvio padrão e (se aplicável) probabilidade de falha.
• Ajuste Fino: Os autores ajustaram finamente os modelos Qwen 3.5 27B (e 9B) usando Adaptação de Baixo RANK (LoRA). O modelo é treinado para gerar tanto configurações candidatas quanto previsões no estilo de substituto, aprendendo efetivamente a atuar como um otimizador sequencial de ponta a ponta que integra feedback numérico com raciocínio semântico.

3. Pipeline de Inferência

Durante a inferência, o SemanticOpt segue a mesma estrutura de múltiplas voltas. Ele começa propondo 5 configurações iniciais com base no contexto fornecido. Posteriormente, propõe iterativamente novas configurações. Para aprimorar a tomada de decisão, o modelo amostra duas configurações candidatas por passo, e a seleção final é feita maximizando a melhoria esperada ponderada pela probabilidade prevista de sucesso, levando assim em conta a viabilidade.

Contribuições Principais

1. Conjunto de Dados de Treinamento em Grande Escala: A construção de um conjunto de dados com mais de 100.000 trajetórias de otimização em diversos espaços de funções gerados por GP e por LLM, utilizando métodos de BO para garantir dados de otimização de alta qualidade.
2. Abordagem de Ajuste Fino Estruturada: Um método inovador para ajustar finamente LLMs em dados de BO para gerar tanto configurações candidatas quanto previsões calibradas no estilo de substituto, criando o modelo SemanticOpt.
3. Avaliação Abrangente: Avaliação em benchmarks de substituto do mundo real com variados níveis de contexto semântico, demonstrando que o SemanticOpt supera tanto os métodos clássicos de BO quanto as abordagens existentes baseadas em LLM quando informações semânticas relevantes são fornecidas.

Resultados

Os autores avaliaram o SemanticOpt contra um conjunto abrangente de baselines, incluindo HEBO (com substitutos GP, RF e SVIDKL), otimizadores baseados em transformadores (PFNs4BO) e LLMs de fronteira (GPT-5.4, Qwen 3.5 27B).

• Desempenho: Através de domínios diversos (por exemplo, CFD de perfil aerodinâmico, Controle MuJoCo, Mistura de Tintas, PD1), o SemanticOpt alcançou o melhor desempenho normalizado médio. Ele superou significativamente os LLMs base (Qwen 3.5 27B) na otimização iterativa, mostrando melhoria contínua em vez de atingir platôs.
• Contexto Semântico: A inclusão de dados semânticos (contexto de texto longo, exemplos históricos, métricas extras) consistentemente melhorou o desempenho. Por exemplo, em uma tarefa de mistura de tintas, o SemanticOpt utilizou descrições de cor para encontrar uma correspondência alvo (pontuação 0,91) muito superior à do HEBO GP (pontuação 6,5).
• Comparação com Modelos de Fronteira: Embora o GPT-5.4 tenha mostrado forte desempenho de inicialização em benchmarks derivados de conjuntos de dados públicos (sugerindo potencial memorização), o SemanticOpt superou-o em benchmarks gerados via simulações com menos dados online (por exemplo, CFD de perfil aerodinâmico, Controle MuJoCo). Quando dada a mesma inicialização do GPT-5.4, o SemanticOpt demonstrou capacidades superiores de otimização iterativa.
• Qualidade do Substituto: As previsões internas do SemanticOpt (média e desvio padrão) mostraram precisão e calibração de incerteza competitivas ou superiores em comparação com os modelos substitutos tradicionais de BO.
• Estudos de Ablação:
  • Tamanho do Modelo: O modelo de 27B manteve capacidades de inicialização melhores do que o modelo de 9B, que sofreu de "esquecimento dependente de capacidade" de priores pré-treinados.
  • Inicialização vs. Iteração: Os ganhos do SemanticOpt derivam tanto de uma inicialização quente aprimorada quanto de uma otimização iterativa superior.

Significado e Alegações

O artigo afirma que o SemanticOpt preenche a lacuna entre as forças de raciocínio semântico dos LLMs e a busca eficiente em amostras e consciente de incerteza da Otimização Bayesiana. Ao ajustar finamente LLMs diretamente em trajetórias de BO estruturadas, aumentadas com contexto semântico, os autores demonstram que os LLMs podem ser treinados como otimizadores sequenciais eficazes.

O significado reside na criação de um otimizador semântico de ponta a ponta que não depende de loops de BO externos ou prompts simples. Ele permite que sistemas de otimização aproveitem documentação, experimentos anteriores e medições auxiliares ao propor novos experimentos. Os autores notam limitações, particularmente em espaços puramente categóricos (onde os próprios métodos de BO lutam) e em domínios com objetivos altamente descontínuos onde a calibração de BO pode falhar. Eles sugerem que trabalhos futuros poderiam envolver a incorporação de justificativas de decisão e a expansão para espaços de funções mais flexíveis.