Resumo Técnico: P-MOSS

Declaração do Problema

Servidores multi-core modernos que utilizam arquiteturas NUMA (Acesso à Memória Não Uniforme) e Chiplet exibem uma heterogeneidade de hardware significativa. Essa complexidade cria um vasto espaço de design onde o desempenho de índices de memória principal (ex: Árvores B+) pode variar em até uma ordem de magnitude dependendo de dois fatores:

1. Particionamento de Dados: A localização das partições do índice entre os nós NUMA (controladores de memória).
2. Escalonamento de Cores (Core Scheduling): A atribuição de núcleos lógicos para executar consultas direcionadas a partições de índice específicas.

Essa combinação é denominada escalonamento espacial. Abordagens tradicionais geralmente dependem de heurísticas estáticas (ex: round-robin, interleaving) ou padrões do sistema operacional (OS), que falham em se adaptar às diversas topologias de hardware moderno (Intel, AMD, NVIDIA, ARM) e padrões de carga de trabalho variáveis (leitura intensa, escrita intensa, varreduras/scans). Trabalhos existentes focam ou no escalonamento temporal (quando executar uma consulta) ou abordam o posicionamento de dados para tabelas relacionais, muitas vezes ignorando o aspecto espacial crítico da afinidade núcleo-dados em índices de memória principal. Além disso, soluções baseadas em heurísticas têm dificuldade em se generalizar através de diferentes fornecedores e arquiteturas de CPU devido à natureza combinatória do problema de escalonamento.

Metodologia: P-MOSS

O artigo apresenta o P-MOSS (Performance MOnitoring Unit-driven Spatial Query Scheduling), um framework aprendido que utiliza princípios de Grandes Modelos de Linguagem (LLMs) para otimizar o escalonamento espacial.

Paradigma Central: Predição do Próximo Token (NTP)

O P-MOSS reformula o problema de escalonamento espacial como uma tarefa de Predição do Próximo Token (Next Token Prediction - NTP). Em vez de prever a próxima palavra em uma frase, o sistema prevê o próximo ID do Núcleo (Core ID) em uma sequência de decisões de escalonamento.

• Sequência: A sequência representa a política de escalonamento para um índice, onde cada "token" corresponde à atribuição de um slice de índice (uma partição lógica baseada em intervalo de chave) a um núcleo de CPU específico.
• Contexto: Diferente dos tokens de linguagem natural, os Core IDs carecem de regularidade sintática inerente. O P-MOSS aborda isso enriquecendo os "tokens" com contexto derivado de estatísticas de desempenho de hardware.

Arquitetura e Pipeline de Treinamento

O P-MOSS utiliza uma arquitetura de Decision Transformer (DT), treinada via Aprendizado por Reforço Offline (RL). O sistema opera em três estágios distintos:

1. Pré-treinamento (Pré-treinamento Generativo):

   • Fonte de Dados: Um conjunto de dados offline é curado a partir de diversos hardwares (Intel, AMD, NVIDIA, IBM), várias configurações NUMA (1NPS, 4NPS, Chiplet) e múltiplas cargas de trabalho (variantes YCSB).
   • Processo: O sistema sonda as Unidades de Monitoramento de Desempenho (PMUs) do hardware durante a execução de consultas para gerar "Instantâneos de Hardware" (Hardware Snapshots). Esses instantâneos capturam estatísticas de baixo nível (contagem de instruções, falhas de cache, tráfego de memória) sem contabilidade ao nível de software.
   • Tokenização: O instantâneo de hardware, a política de escalonamento atual e as métricas de desempenho são tokenizados em tokens de Estado (State), Ação (Action), Retorno-para-Ir (Return-to-Go - RTG) e Meta.
   • Objetivo: O DT aprende padrões generalizáveis de escalonamento eficiente através de diversos ambientes.

2. Inferência (Execução Online):

   • O modelo "base" treinado prevê políticas de escalonamento para o hardware e carga de trabalho alvo.
   • O P-MOSS inicia com uma política aleatória ou anterior, monitora as estatísticas de PMU em tempo real e as fornece ao DT para inferir o mapeamento ideal de slices de índice para núcleos.
   • O sistema impõe essas decisões migrando os slices de índice para os nós NUMA correspondentes e vinculando a execução da consulta a núcleos específicos.

3. Pós-treinamento (Ajuste Fino/Fine-tuning):

   • Enquanto o sistema opera no hardware alvo, ele coleta um "conjunto de dados de ajuste fino" específico para aquele ambiente.
   • O modelo base é atualizado incrementalmente (offline) para criar um modelo "assistente", adaptando-se às características únicas do servidor e da carga de trabalho específicos.

Componentes Técnicos Chave

• Perfilamento de Hardware (PMU): O P-MOSS depende exclusivamente de estatísticas de baixo nível de hardware coletadas via PMU (ex: falhas de LLC, tráfego do controlador de memória). Isso evita o overhead e a imprecisão da contabilidade ao nível de software.
• Estratégia de Tokenização:
  • Token de Estado (State Token): Representa o estado atual do hardware (núcleos ocupados, estatísticas de cache/memória) via tokens de Visão (View), Posição (Position) e Máquina (Machine).
  • Token de Ação (Action Token): O Core ID previsto.
  • Token RTG (Return-to-Go): A recompensa futura desejada (throughput alvo) menos as recompensas atuais, guiando o modelo em direção a resultados de alto desempenho.
  • Token Meta (Meta Token): Contexto de todo o sistema (contagem de sockets, topologia NUMA, fornecedor de CPU).
• Aprendizado por Reforço Offline (Offline RL): Ao desacoplar o processo de aprendizado do caminho crítico de execução da consulta, o P-MOSS garante que o DBMS não sofra degradação de desempenho durante a fase de aprendizado.

Principais Contribuições

1. Framework P-MOSS: O primeiro framework aprendido para escalonamento de consultas espaciais em índices de memória principal em servidores modernos NUMA e Chiplet, priorizando tanto o posicionamento de dados quanto o escalonamento de núcleos.
2. Otimização Impulsionada por PMU: Uma abordagem inovadora para otimização de kernel de DBMS que depende exclusivamente de estatísticas de hardware de baixo nível (PMU), garantindo adaptabilidade entre diversos fornecedores de hardware.
3. Formulação NTP: A formulação do escalonamento de consultas como uma tarefa de Predição do Próximo Token, permitindo o uso de Offline RL e Decision Transformers para aprender políticas de escalonamento sem interação online com o DBMS.
4. Validação Empírica: Avaliação extensiva através de uma ampla gama de CPUs (Intel, AMD, ARM, IBM), arquiteturas NUMA (1-4 sockets, 2-8 nós) e cargas de trabalho.

Resultados Experimentais

A avaliação foi conduzida em uma Árvore B+ de memória principal com 30M a 1B de registros em cinco configurações distintas de servidor (AMD Milan, Intel Skylake X, Intel Sandy Bridge, NVIDIA Grace Hopper, IBM Power).

• Melhoria de Throughput: O P-MOSS alcança até 6× de melhoria no throughput de consultas em comparação com as políticas de escalonamento tradicionais.
• Comparação com Baselines:
  • Contra os padrões do SO (OS:D, OS:I) e estratégias cientes de NUMA (SE:N, SN:N), o P-MOSS mostra um aumento médio de 1.92× a 3.66×.
  • Contra outras estratégias de "Shared Nothing" baseadas em heurísticas ou aprendizado (Grouped, Mixed, Spread, Random), o P-MOSS supera consistentemente, com melhorias variando de 1.27% a 3.95%, dependendo do hardware e carga de trabalho específicos.
• Generalização: O P-MOSS demonstra fortes capacidades de generalização, performando bem em hardware não visto (IBM Power) e distribuições de dados não vistas (dataset OSM) sem necessidade de retreinar do zero, aproveando seu modelo base pré-treinado.
• Overhead: O overhead de coleta de estatísticas de hardware via PMU é mínimo (~0.73% de degradação de desempenho), e o uso de instruções SIMD para processar essas estatísticas melhora o desempenho do sistema em 60.37% durante a fase de perfilamento.

Significância e Alegações

O artigo afirma que o P-MOSS demonstra a viabilidade de aplicar conceitos fundamentais de LLM, especificamente a Predição do Próximo Token, para tarefas de otimização de banco de dados. Ao tratar o escalonamento como um problema de modelagem de sequência, o framework pode navegar no espaço de design de hardware moderno de forma mais eficaz do que heurísticas estáticas.

Os autores enfatizam que:

• O escalonamento espacial é crítico para maximizar o desempenho em hardware moderno e heterogêneo.
• Estatísticas de desempenho de hardware (PMU) fornecem uma representação de características robusta e de baixo overhead para otimização de banco de dados impulsionada por ML.
• O RL Offline permite o desacoplamento do aprendizado da execução, possibilitando uma adaptação segura e escalável a diversos ambientes.
• A abordagem não se limita ao escalonamento espacial, mas oferece um roteiro para generalizar técnicas inspiradas em LLM para desafios mais amplos de otimização de DBMS.