Language-Guided Hypotheses Generation for Sparse SMEFT Analyses

Resumo Técnico: Geração de Hipóteses Guiada por Linguagem para Análises Esparsas de SMEFT

Formulação do Problema
A Teoria de Campo Eficaz do Modelo Padrão (SMEFT) fornece uma estrutura independente de modelo para interpretar medições de precisão e buscar física além do Modelo Padrão (SM) via operadores de dimensões superiores. No entanto, ajustes globais de SMEFT enfrentam uma "obstrução combinatória". Embora os modernos frameworks de ajuste (por exemplo, SMEFiT) possam restringir dezenas de coeficientes de Wilson simultaneamente, o número de subconjuntos possíveis de operadores esparsos cresce combinatoriamente. Para um ajuste global com $N=52$ coeficientes, o número de hipóteses possíveis contendo até $s=4$ operadores excede $2,9 \times 10^5$. Testar exaustivamente todos os subconjuntos via ajustes numéricos (particularmente ajustes quadráticos que exigem amostragem aninhada) é computacionalmente proibitivo.

Além disso, identificar hipóteses motivadas fisicamente requer tipicamente um conhecimento especializado substancial para navegar pelas correlações de operadores, degenerescências e a sensibilidade de observáveis específicos. Fenomenólogos devem selecionar manualmente subconjuntos de operadores que expliquem tensões observadas sem realizar varreduras exaustivas. O desafio reside em automatizar a seleção dessas hipóteses esparsas e fisicamente relevantes, deixando a inferência estatística rigorosa para ferramentas numéricas estabelecidas.

Metodologia: O Framework llm4smeft
Os autores apresentam o llm4smeft, um framework de código aberto que combina um Modelo de Linguagem Grande (LLM) especializado no domínio com Geração Aumentada por Recuperação (RAG) baseada em resumos de ajustes globais pré-computados. O framework opera em duas fases:

1. Fase-I: LLM Consciente de SMEFT (Ajuste Fino/Fine-tuning)

   • Modelo Base: Os autores utilizam o modelo Qwen3-8B.
   • Construção de Dados: Um conjunto de dados de ajuste de instrução dedicado foi construído a partir de preprints de física de partículas (fonte LaTeX). Uma estratégia de "fragmentação consciente da física" segmenta a literatura com base em estruturas físicas (definições de operadores, termos do Lagrangiano, mapeamentos de observáveis) em vez de fronteiras linguísticas para preservar relações semânticas.
   • Destilação Professor-Aluno: Um modelo professor (Claude Sonnet 5) gera pares de instrução-resposta a partir desses fragmentos, emulando o raciocínio de um especialista em SMEFT. O conjunto de dados inclui 20% de pares de instrução-resposta não relacionados à SMEFT, cobrindo conhecimentos gerais, programação, medicina, história, matemática e tarefas criativas, para ensinar o modelo a rejeitar educadamente consultas não relacionadas à SMEFT.
   • Treinamento: O modelo é ajustado utilizando Low-Rank Adaptation (LoRA) com QLoRA (quantização de 4 bits) para reduzir os requisitos de memória. O modelo resultante, qwen-smeft, internaliza a notação de SMEFT, estruturas de operadores e padrões de raciocínio teórico.

2. Fase-II: Inferência de SMEFT Guiada pela Teoria

   • Aumento de Recuperação (Retrieval Augmentation): Em vez de depender da memória paramétrica do LLM para resultados quantitativos, o framework recupera registros JSON estruturados de um banco de dados pré-computado de ajustes globais do SMEFiT. Esses registros contêm informação de Fisher, análise de componentes principais (PCA) da matriz de Fisher, estatísticas de bondade de ajuste e listas de operadores não identificáveis (degenerados) para 29 subconjuntos específicos de observáveis.
   • Fluxo de Raciocínio: Após a entrada de observáveis pelo usuário, o sistema recupera o resumo do ajuste relevante. O LLM é então instruído a realizar um processo de raciocínio de "cadeia de pensamento guiada pela teoria". Ele é instruído a:
     1. Identificar tensões dominantes nos observáveis.
     2. Mapear tensões para direções de SMEFT.
     3. Classificar direções por pesos de informação de Fisher.
     4. Considerar correlações e sobreposições de operadores.
     5. Aplicar restrições de esparsidade (limitando o número de operadores por hipótese).
   • Modo Interativo: O framework suporta uma sessão interativa onde usuários podem aceitar hipóteses ou fornecer feedback para refinar a saída do modelo. As hipóteses aceitas são armazenadas como novos registros no banco de dados, expandindo a base de conhecimento para sessões futuras.

Principais Contribuições

• Pacote llm4smeft: Um framework de execução local, lançado publicamente, que não requer acesso à internet ou serviços de nuvem pagos após o download inicial do modelo.
• Modelo qwen-smeft: Um LLM ajustado especificamente para o domínio SMEFT, capaz de compreender definições de operadores, coeficientes de Wilson e a lógica de ajustes globais.
• Banco de Dados Estruturado: Uma coleção curada de 29 registros de ajuste SMEFiT cobrindo 16 grupos de observáveis, 85 medições e 61 operadores, organizada para suportar a recuperação de informação de Fisher e estruturas de degenerescência.
• Estratégia de Inferência Híbrida: Uma abordagem inovadora que separa a geração de hipóteses (LLM) da avaliação estatística (ajustes pré-computados), garantindo que as saídas do modelo sejam fundamentadas em dados quantitativos em vez de resultados alucinados.

Resultos e Validação
O framework foi validado através de três testes primários:

1. Reprodutibilidade: Em 50 execuções independentes com diferentes sementes aleatórias e paráfrases em linguagem natural dos mesmos observáveis (largura do bóson Z e força de sinal do Higgs), o modelo gerou a hipótese principal ($O_{\phi B}, O_{\phi G}, O_{\phi WB}$) em 90% dos casos. As três hipóteses mais frequentes cobriram 93% de todas as saídas, demonstrando alta estabilidade.
2. Robustez ao Feedback: Quando submetido a feedback adversário do usuário rejeitando explicitamente os operadores de classificação superior, o modelo mostrou graus variados de suscetibilidade. Em alguns casos (ex: Higgs STXS), o modelo mudou para operadores fracamente restringidos (queda de 98% na informação de Fisher), indicando que a recuperação atua como orientação contextual e não como uma restrição rígida. Em outros casos, o modelo permaneceu amplamente resistente.
3. Comparação com o Modelo Base: Comparando o qwen-smeft contra o modelo base Qwen3 revelou melhorias significativas. O modelo base frequentemente propunha conjuntos de operadores sensíveis apenas a observáveis de precisão eletrofraca, falhando em considerar desvios na força de sinal do Higgs. O modelo ajustado identificou corretamente os operadores ($O_{\phi G}, O_{\phi B}$) que modificam interações do Higgs, demonstrando que o ajuste fino de domínio melhora tanto o mapeamento de observáveis quanto a relevância física.

Significância e Alegações
Os autores posicionam o llm4smeft não como um substituto para ajustes globais de SMEFT, mas como uma ferramenta de suporte à decisão para auxiliar na exploração e interpretação de resultados de ajustes. Ao reduzir a dimensionalidade do espaço de hipóteses, o framework ajuda fenomenólogos a priorizar quais subconjuntos esparsos de operadores merecem investigação numérica detalhada.

O artigo afirma que o framework consegue construir uma ponte entre observáveis experimentais e hipóteses teóricas ao combinar a capacidade de raciocínio de um LLM com o rigor quantitativo de ajustes pré-computados. Os autores enfatizam que o sistema é projetado para ser transparente: cada proposta é acompanhada pela informação de Fisher e diagnósticos do ajuste subjacente, garantindo que as hipóteses geradas permaneçam sujeitas à avaliação de especialistas. A implementação atual é limitada a análises de SMEFT linear ($O(\Lambda^{-2})$), e os autores observam que estender o banco de dados para incluir ajustes de ordem quadrática ($O(\Lambda^{-4})$) é uma direção natural para trabalhos futuros.