A trust-region funnel algorithm for gray-box optimization

Título: Um Algoritmo de Funil de Região de Confiança para Otimização de Caixas-Cinzentas (Grey-Box)

1. O Problema

A otimização de sistemas de processos frequentemente enfrenta o desafio da otimização de caixas-cinzentas (grey-box). Neste cenário, partes do modelo são representadas por equações algébricas explícitas ("caixas-de-vidro" ou glass-box), com derivadas analíticas disponíveis, enquanto outras partes dependem de modelos de "caixa-preta" (black-box), que podem ser simulações computacionais caras (ex: CFD, Aspen) ou proprietárias, sem derivadas analíticas.

Os métodos tradicionais de otimização não linear (NLP) baseados em gradiente falham quando dependem inteiramente de estimativas de derivadas ruidosas de caixas-preta. Abordagens existentes, como o método de Filtro de Região de Confiança (TR Filter), são robustas, mas frequentemente exigem ajustes complexos de parâmetros, múltiplas camadas de formulação e podem estagnar quando os erros de aproximação do modelo reduzido dominam o processo. Além disso, muitas soluções avançadas carecem de implementações de código aberto acessíveis.

2. Metodologia Proposta

Os autores propõem um novo algoritmo: o Algoritmo de Funil de Região de Confiança (TR Funnel) para otimização de caixas-cinzentas. A metodologia baseia-se nos seguintes pilares:

• Estrutura Híbrida: O problema é reformulado para separar as variáveis de decisão explícitas das variáveis de saída das caixas-preta. Modelos Reduzidos (RMs) locais (como polinômios, séries de Taylor ou Processos Gaussianos) são construídos para aproximar as caixas-preta dentro de uma região de amostragem.
• Mecanismo de Funil: Diferente do método de filtro, que mantém uma lista de pares (objetivo, inviabilidade) e exige parâmetros de ajuste heurísticos, o método de funil impõe uma restrição unidimensional dinâmica sobre a medida de inviabilidade.
  • Define-se um "funil" (uma largura máxima de inviabilidade, $\phi^{(k)}$) que deve ser monotonamente não crescente.
  • O algoritmo aceita passos que reduzem a inviabilidade para dentro do funil (passos do tipo $\theta$) ou passos que melhoram o objetivo mantendo a inviabilidade dentro do limite (passos do tipo $f$).
• Verificações de Criticidade e Compatibilidade:
  • Criticidade: Avalia a proximidade de um ponto KKT (Karush-Kuhn-Tucker) de primeira ordem. Se o critério for atendido, o raio de amostragem ($\sigma$) é reduzido para refinar a precisão do modelo local.
  • Compatibilidade: Garante que o subproblema de região de confiança (TRSP) seja viável com o modelo reduzido atual. Se falhar, inicia-se uma fase de restauração.
• Atualização de Região de Confiança: O raio da região de confiança ($\Delta$) é ajustado dinamicamente com base na razão de redução da função de mérito, permitindo passos maiores para variáveis de caixa-de-vidro mesmo quando a região de amostragem para caixas-preta encolhe.

3. Principais Contribuições

1. Novo Algoritmo de Otimização: Introdução de um método TR Funnel que substitui o critério de aceitação de filtro complexo por um mecanismo de funil mais simples e generalizável.
2. Prova de Convergência Global: Estabelecimento de uma prova rigorosa de convergência global para um ponto crítico de primeira ordem, adaptando a teoria de filtros para o contexto de funil em otimização de caixas-cinzentas.
3. Implementação de Código Aberto: O algoritmo foi implementado no framework Pyomo (Python), permitindo a integração com diversos solvers NLP (como IPOPT) e oferecendo flexibilidade na escolha de formas de Modelos Reduzidos (lineares, quadráticos, GP, etc.).
4. Simplificação de Parâmetros: Redução da sensibilidade a parâmetros de ajuste em comparação com métodos de filtro, eliminando a necessidade de manter listas de pares não dominados e ajustando apenas a largura do funil.

4. Resultados Experimentais

O algoritmo foi testado em sete problemas (benchmarks numéricos e estudos de caso de engenharia) e comparado com o método clássico de Filtro TR:

• Benchmarks Numéricos (Colville, Himmelblau, Loeppky):
  • O método TR Funnel alcançou os mesmos valores ótimos que o filtro TR.
  • Em modelos de baixa fidelidade (lineares e quadráticos simples), o TR Funnel foi significativamente mais eficiente, exigindo até 135 vezes menos avaliações de função externa e menos tempo de CPU.
  • Para modelos de alta fidelidade (Processos Gaussianos, Séries de Taylor), o desempenho foi comparável, com pequenas economias de tempo.
• Projetos de Engenharia (Peso da Asa e Viga Soldada):
  • O TR Funnel demonstrou uma convergência mais suave, reduzindo a inviabilidade rapidamente na fase inicial (passos de restauração e tipo $\theta$) e depois focando na otimização do objetivo (passos tipo $f$).
  • No problema da Viga Soldada, o método de filtro exigiu muito mais chamadas de função (ex: 256 vs 123 para modelos lineares) para convergir.
• Estudos de Caso de Processos (Williams-Otto e Produção de Hidrogênio):
  • Em problemas complexos de processos químicos, o TR Funnel manteve a robustez, convergindo para soluções locais ótimas com um perfil de iterações consistente.
  • No caso de produção de hidrogênio (193 iterações, 1544 avaliações externas), ambos os métodos tiveram desempenho similar, mas o TR Funnel mostrou uma redução mais suave da medida de inviabilidade.

5. Significado e Conclusão

O artigo demonstra que o Algoritmo de Funil de Região de Confiança é uma alternativa superior e mais simples ao método de filtro tradicional para otimização de caixas-cinzentas em grande escala.

• Eficiência: Reduz a sobrecarga computacional ao minimizar ciclos de correção de viabilidade excessivos, especialmente quando os modelos reduzidos não são perfeitamente precisos.
• Acessibilidade: A disponibilidade no Pyomo facilita a adoção por engenheiros de processos e pesquisadores, superando a barreira de ferramentas proprietárias ou fechadas.
• Teoria e Prática: A prova de convergência valida teoricamente a abordagem, enquanto os resultados empíricos confirmam sua eficácia prática em problemas reais de engenharia química e design estrutural.

Em suma, o trabalho oferece uma ferramenta robusta, escalável e de código aberto que equilibra a exploração de modelos explícitos e a aproximação de modelos implícitos, facilitando a otimização de sistemas complexos de processos.