Resumo Técnico: Uma Comunidade Científica de IA Agêntica para a Descoberta Automatizada de Operadores Neurais

Declaração do Problema

O aprendizado de operadores visa construir substitutos (surrogates) rápidos para resolvedores de Equações Diferenciais Parciais (PDEs). No entanto, as famílias existentes de operadores neurais (ex: Operadores Neurais de Fourier, DeepONets, operadores de Wavelet) codificam vieses indutivos fixos adequados a regimes específicos. Além disso, selecionar hiperparâmetros de arquitetura (profundidade, largura, composição de blocos) para novas PDEs permanece um processo manual. A questão central abordada é se uma simulação agêntica e automatizada de uma comunidade de pesquisa pode descobrir a arquitetura de operador neural ideal para um determinado problema sem conhecimento prévio ou intervenção humana.

Metodologia

O Framework da Comunidade Científica de IA

Os autores propõem uma comunidade descentralizada de $N=16$ laboratórios virtuais que exploram o espaço de busca de arquitetura ao longo de $T=20$ iterações. O sistema opera sob uma "economia de influência baseada em citações":

1. Dinâmica de Enxame: Laboratórios bem citados (aqueles com alto fitness) ganham influência e prioridade de reprodução, enquanto laboratórios não citados são substituídos. Isso mimetiza comunidades científicas do mundo real, onde direções de pesquisa bem-sucedidas atraem seguidores.
2. Estrutura do Laboratório Virtual: Cada laboratório contém três agentes distintos:
   • Planejador LLM: Propõe o próximo genoma de arquitetura com base em seu histórico, no melhor global e em um resumo dos laboratórios pares.
   • Trabalhador Numérico: Um treinador baseado em gradiente, não-LLM, que compila a arquitetura proposta, treina-a em "fidelidade de triagem" (dados/épocas reduzidos para velocidade) e mede o erro relativo $L_2$.
   • Revisor LLM: Participa de uma revisão por pares entre laboratórios, lançando votos suaves baseados no desempenho do candidato e na novidade arquitetônica.
3. Espaço de Busca (Genoma): As arquiteturas são definidas como sequências de blocos ($L \in [2, 8]$) extraídos de um vocabulário: $\{ \text{BRANCH\_TRUNK, FOURIER, ATTENTION, WAVELET, RESIDUAL\_CONV} \}$. O genoma também inclui hiperparâmetros como largura oculta, modos espectrais e taxas de aprendizado.
4. Função de Fitness: Um escore composto $F_i$ combina precisão ($A_i$), robustez ao ruído ($G_i$), eficiência de parâmetros ($E_i$) e novidade arquitetônica ($\nu_i$). A precisão é fortemente ponderada ($w_a=0.70$), mas a novidade e a eficiência evitam o colapso para soluções triviais.

Estudo de Ablação de LLM

Para isolar a contribuição da agência do LLM, os autores conduziram um estudo de ablação controlado onde o planejador e o revisor LLM foram substituídos por algoritmos determinísticos:

• Planejador Baseado em Regras: Utiliza atualizações padrão de otimização de enxame de partículas (particle-swarm optimization - explore/exploit).
• Revisor Baseado em Regras: Utiliza votação proporcional à precisão.
  Ambas as condições compartilham tamanhos de enxame, contagens de iteração, orçamentos de treinamento e sementes aleatórias idênticos.

Auditoria de Agentes

Para garantir que o sistema não degradasse silenciosamente para retrocessos baseados em regras (um risco conhecido em sistemas agênticos), cada chamada de LLM (prompt, resposta, status de análise) foi registrada e auditada. O sistema utiliza um modelo gemma3:12b local via Ollama para garantir a reprodutibilidade sem APIs pagas.

Principais Resultados

1. Descoberta de Híbridos de Múltiplas Famílias

A comunidade impulsionada por LLM descobriu consistentemente arquiteturas híbridas de múltiplas famílias.

• Taxa de Hibridização: Em 99,8% das decisões do planejador, o LLM optou por "HIBRIDIZAR" (enxertar blocos de diferentes famílias) em vez de apenas explorar ou explorar puramente uma única família.
• Adequação ao Regime: As arquiteturas descobertas adaptaram-se à física do problema. Para problemas favoráveis ao espectro (Advecção, Burgers, Navier-Stokes), blocos de Fourier lideraram as pilhas. Para regressão por partes e fluxo de Darcy, blocos de Wavelet ou do tipo DeepONet foram proeminentes.
• Desempenho:
  • Navier-Stokes (2D): O híbrido descoberto alcançou um erro relativo $L_2$ de $0.0005 \pm 0.0000$, aproximando-se do estado da arte do FNO ($0.0002$), mas com menos parâmetros (1,1M vs 1,2M para o FNO).
  • Fluxo de Darcy (2D): O híbrido alcançou um erro de $0.0631 \pm 0.0083$, empatando estatisticamente com o DeepONet ($0.0649$) e superando significativamente o FNO ($0.3070$).

2. O Teorema de "Não Há Almoço Grátis" para Operadores Neurais

Os resultados confirmam que nenhuma arquitetura de operador única domina todos os problemas.

• O híbrido de Navier-Stokes teve um desempenho ruim em fluxo de Darcy (erro $\approx 0.71$), e o híbrido de Darcy teve um desempenho ruim em Navier-Stokes.
• Isso valida a hipótesza de que diferentes regimes de PDE exigem vieses indutivos distintos.

3. O Papel da Agência do LLM (Achados da Ablação)

Embora a precisão da comunidade de LLM e da baseada em regras tenha sido estatisticamente indistinguível na fidelidade de triagem, os resultados arquitetônicos diferiram significativamente:

• Comunidade de LLM: Manteve a diversidade, produzindo consistentemente híbridos de múltiplas famílias com poucos parâmetros.
• Comunidade Baseada em Regras: Tendeu a "colapsar" em pilhas canônicas de uma única família (ex: Fourier puro para Navier-Stokes, Wavelet puro para Darcy).
• Eficiência: Em Navier-Stokes, os híbridos de LLM alcançaram precisão comparável às pilhas de Fourier puro da comunidade baseada em regras, mas com 2,5× menos parâmetros (2,2M vs 5,6M).
• Conclusão: A agência do LLM é necessária para preservar a diversidade arquitetônica e descobrir soluções híbridas eficientes, enquanto agentes baseados em regras convergem prematuramente para famílias padrão.

4. Custo Computacional

A abordagem impulsionada por LLM incorre em um overhead de aproximadamente 2–4× no tempo de execução (wall-clock time) em comparação com a coordenação baseada em regras (ex: ~271 minutos vs ~103 minutos para Navier-Stokes). Este custo é atribuído às chamadas de planejamento e revisão do LLM (duas chamadas por laboratório por iteração). No entanto, o uso de "fidelidade de triagem" (treinamento em segundos em vez de horas) torna a abordagem de enxame viável em uma única GPU.

Significância e Alegações

O artigo reivindica três contribuições primárias:

1. Um Novo Framework: Uma comunidade científica de IA agêntica que automatiza com sucesso a descoberta de operadores neurais usando um enxame de laboratórios virtuais com planejadores e revisores de LLM.
2. Evidência da Necessidade de LLM: Um estudo de ablação demonstrando que a agência do LLM é crítica para manter a diversidade arquitetônica e descobrir modelos híbridos eficientes, evitando o colapso para soluções de família única observado em sistemas baseados em regras.
3. Validação Empírica de "Não Há Almoço Grátis": Uma simulação em larga escala confirmando que não existe um operador neural universal; a "melhor" arquitetura é dependente do problema, e comunidades automatizadas podem descobrir esses híbridos específicos para cada problema.

Os autores declaram explicitamente que o sistema não pretende superar os baselines projetados por humanos em termos de precisão bruta (já que os baselines de LLM e baseados em regras foram comparáveis na triagem), mas sim em descoberta arquitetônica e eficiência de parâmetros. O trabalho enfatiza que o LLM atua como uma política para tomada de decisão, não como um executor de ferramentas autônomo. Todo o código, configurações e transcrições completas de LLM (9.623 chamadas) foram liberados para reprodutibilidade.