A mathematical framework for parameter recovery in large language models via a joint Euclidean mirror

Resumo Técnico: Recuperação de Parâmetros em LLMs via Espelho Euclidiano Conjunto

1. O Problema

Os Grandes Modelos de Linguagem (LLMs) modernos operam frequentemente como "caixas-pretas", onde seus pesos internos e arquiteturas não são acessíveis ou abertos. Além disso, o comportamento de um LLM é altamente sensível a parâmetros de ajuste (tuning parameters) não observados, como temperature (temperatura), logit_bias, ou características do conjunto de dados de treinamento.
O desafio central identificado pelos autores é: Como quantificar as diferenças entre modelos de linguagem e recuperar os parâmetros latentes que geraram uma resposta específica, baseando-se apenas nas respostas (distribuições de saída) e não na estrutura interna do modelo?

A comparação baseada apenas em pesos é inviável devido à falta de acesso e diferenças arquiteturais. Portanto, é necessário um framework matemático para comparar as distribuições de respostas geradas por diferentes configurações de parâmetros e inferir esses parâmetros a partir de amostras de texto.

2. Metodologia Proposta

Os autores propõem um framework matemático que trata as respostas de um LLM como realizações de distribuições de probabilidade de alta dimensão. A abordagem baseia-se em três pilares principais:

• Espaço de Distribuições e Métrica de Dissimilaridade:

  • As respostas são mapeadas em vetores de embedding (espaço $\mathbb{R}^q$).
  • O conjunto de respostas para um parâmetro $x$ forma uma distribuição $F_x$.
  • Utiliza-se uma métrica de dissimilaridade $D$ (especificamente a Distância de Wasserstein $p$) para medir a distância entre essas distribuições. A escolha da Wasserstein permite capturar não apenas diferenças de localização (média), mas também de dispersão e forma da distribuição, o que é crucial para parâmetros como temperatura que afetam a aleatoriedade.

• Espelho Euclidiano Conjunto (Joint Euclidean Mirror):

  • Define-se um "Espelho Euclidiano" como uma função contínua $f: \mathcal{X} \to \mathbb{R}^c$ que mapeia o espaço de parâmetros $\mathcal{X}$ para um espaço euclidiano de baixa dimensão $\mathbb{R}^c$.
  • A propriedade fundamental é que a distância euclidiana entre os pontos no espelho reflete exatamente a distância de dissimilaridade entre as distribuições originais: $\|f(x) - f(x')\| = D(F_x, F_{x'})$.
  • Isso transforma o problema de comparação de distribuições complexas em um problema de geometria euclidiana de baixa dimensão.

• Procedimento de Estimação (Algoritmo 1):

  1. Estimação da Matriz de Distâncias: Coletam-se $n$ amostras i.i.d. para $m$ parâmetros conhecidos. Calcula-se a matriz de distâncias empíricas $\hat{\Delta}$ usando a distância de Wasserstein entre as distribuições empíricas.
  2. MDS Clássico (CMDS): Aplica-se Classical Multidimensional Scaling à matriz $\hat{\Delta}$ para obter as coordenadas no espaço euclidiano ($\hat{\Psi}$) que preservam essas distâncias.
  3. Ajuste de Superfície (Surface Fitting): Constrói-se uma função contínua $\hat{f}$ (o espelho estimado) interpolando os pontos $\hat{\Psi}$ sobre o espaço de parâmetros. Os autores propõem o uso de interpolantes de Delaunay (ou splines) para criar uma superfície suave que generaliza para novos parâmetros.

• Recuperação de Parâmetros (Algoritmo 2):

  • Dado um conjunto de amostras "não rotuladas" (de um parâmetro $x^*$ desconhecido), calcula-se sua distância em relação aos parâmetros conhecidos.
  • Projeta-se essa amostra no espaço do espelho estimado.
  • O parâmetro estimado $\hat{x}$ é aquele que minimiza a distância entre o valor do espelho estimado para o parâmetro desconhecido e a superfície do espelho aprendida: $\hat{x} = \arg\min_{s \in \mathcal{X}} \|\hat{f}(s) - \hat{f}^*\|$.

3. Principais Contribuições

1. Formalização Matemática: É o primeiro trabalho a formalizar a recuperação de parâmetros latentes de LLMs a partir de respostas dentro de um framework matemático rigoroso baseado em geometria de distribuições.
2. Generalização do Espelho Euclidiano: Estende o conceito de "Espelho Euclidiano" (anteriormente aplicado a grafos dinâmicos) para o contexto de famílias de distribuições de probabilidade parametrizadas.
3. Consistência Estatística: Provas teóricas (Teoremas 1, 2 e 3) que garantem que, à medida que o número de parâmetros observados ($m$) e o tamanho da amostra ($n$) aumentam, a estimativa do espelho converge para o verdadeiro espelho e a recuperação de parâmetros é assintoticamente consistente.
4. Aplicabilidade Prática: Demonstra que é possível inferir parâmetros críticos (como temperatura e viés de prompt) de modelos de linguagem sem acesso aos seus pesos internos.

4. Resultados Experimentais

Os autores validaram o método em dois cenários:

• Dados Simulados:

  • Utilizaram distribuições normais com parâmetros conhecidos.
  • Resultado: O algoritmo recuperou com sucesso a superfície do espelho (forma parabólica) e, ao aumentar o tamanho da amostra ($n$), a precisão na recuperação de parâmetros desconhecidos convergiu para o erro zero, confirmando as previsões teóricas.

• Aplicação em LLMs (ChatGPT/OpenAI):

  • Configuração: Geração de respostas para o prompt "Descreva brevemente o trabalho de R.A. Fisher...", variando a temperatura ($t \in [0.1, 0.9]$) e o peso de eugenia no prompt ($w \in [10\%, 90\%]$).
  • Embedding: Uso de NomicEmbedv1.5 para mapear textos em vetores.
  • Descobertas:
    • A matriz de distâncias de Wasserstein entre as respostas mostrou-se exatamente realizável em um espaço euclidiano de baixa dimensão (dimensão $c=5$ foi suficiente).
    • O espelho estimado revelou que variações de temperatura e peso do prompt afetam a distribuição de respostas em direções quase ortogonais no espaço latente.
    • Recuperação: Em um teste de "leave-one-out", o modelo conseguiu recuperar com sucesso os valores de temperatura e peso usados para gerar uma resposta não rotulada, demonstrando uma relação linear robusta entre os valores verdadeiros e estimados.

5. Significado e Impacto

Este trabalho oferece uma ferramenta poderosa para a análise de "caixa-preta" de LLMs:

• Inferência de Parâmetros: Permite deduzir configurações de inferência (ex: nível de aleatoriedade) ou características de treinamento (ex: viés em dados) apenas observando o texto gerado.
• Detecção de Anomalias e Segurança: Pode ser usado para identificar se dados sensíveis ou proprietários foram usados no treinamento de um modelo, analisando a "assinatura" estatística das respostas.
• Comparação Estruturada: Facilita a comparação de diferentes modelos ou versões de modelos baseada em como suas distribuições de resposta se comportam em relação a parâmetros de controle, sem necessidade de acesso aos pesos.
• Previsão: Permite prever como um modelo responderá a novos parâmetros de ajuste, auxiliando na personalização e otimização de prompts.

Em suma, o framework transforma a análise qualitativa de respostas de LLMs em um problema quantitativo de geometria estatística, permitindo a recuperação robusta de informações latentes sobre o processo generativo.