RESYSTANCE: Unleashing Hidden Performance of Compaction in LSM-trees via eBPF

O artigo apresenta o RESYSTANCE, uma solução que utiliza eBPF e io_uring para eliminar chamadas de sistema durante o processo de compactação em bancos de dados LSM-tree, reduzindo drasticamente a sobrecarga de software e melhorando significativamente o desempenho e a latência em comparação com o RocksDB padrão.

O essencial

Imagine que você tem uma biblioteca gigante e muito organizada, onde os livros (dados) são guardados em prateleiras. Essa biblioteca usa um sistema especial chamado LSM-tree (uma árvore de mesclagem estruturada em log), que é muito eficiente para receber novos livros rapidamente.

No entanto, há um problema: de vez em quando, a biblioteca precisa fazer uma grande faxina chamada Compaction (Compactação). Durante essa faxina, os funcionários precisam pegar livros de várias prateleiras diferentes, reorganizá-los, tirar os duplicados e colocar tudo em ordem em novas prateleiras.

O Problema: O "Carteiro" Exausto

No mundo dos computadores, essa faxina é feita pelo sistema operacional. Mas, no sistema atual, cada vez que um funcionário precisa pegar um livro de uma prateleira, ele tem que:

1. Parar o que está fazendo.
2. Correr até a porta da cozinha (o "Kernel" do sistema).
3. Pedir permissão ao carteiro (fazer uma "chamada de sistema").
4. Pegar o livro.
5. Voltar para a mesa.
6. Repetir isso milhares de vezes para cada livro.

Com os discos modernos (SSDs) sendo super rápidos (como carros de Fórmula 1), o gargalo não é mais a velocidade de pegar o livro na prateleira. O gargalo é o tempo que os funcionários perdem correndo até a porta e conversando com o carteiro. Eles gastam mais tempo na porta do que trabalhando!

A Solução: O "Super-Interno" (RESYSTANCE)

Os autores do artigo criaram uma solução chamada RESYSTANCE. A ideia é simples, mas genial: deixar a faxina acontecer dentro da cozinha, sem precisar chamar o carteiro a cada passo.

Eles usam duas tecnologias modernas:

1. eBPF: Pense nisso como um "super-interno" programável que pode trabalhar dentro da cozinha (o Kernel) com segurança. Ele pode executar tarefas complexas sem precisar sair da sala.
2. io_uring: Imagine uma esteira rolante inteligente que permite colocar vários pedidos de livros de uma só vez, em vez de pedir um por um.

Como funciona a mágica:
Em vez de o funcionário ir até a porta pedir um livro de cada vez, o "Super-Interno" (eBPF) pega uma lista de todos os livros necessários, usa a esteira (io_uring) para trazê-los todos de uma vez para dentro da cozinha, e lá mesmo ele organiza, mistura e reescreve os livros.

• Antes: 100.000 viagens até a porta para pegar 100.000 livros.
• Com RESYSTANCE: 1 viagem para pegar os 100.000 livros, e a organização acontece lá dentro.

Os Resultados: Uma Biblioteca Ultra-Rápida

Os testes mostraram que essa mudança é incrível:

• Menos Corridas: O número de vezes que o sistema precisa "pedir permissão" ao carteiro caiu 99%. É como se a biblioteca parasse de gastar energia com burocracia.
• Mais Rápido: A faxina (compactação) ficou 50% mais rápida.
• Melhor Desempenho: Quando a biblioteca está muito cheia de gente escrevendo (escrevendo dados), o sistema fica até 75% mais rápido e as pessoas esperam menos tempo (latência reduzida em 40%).

Por que isso é importante?

Muitas soluções anteriores tentavam resolver isso trocando a biblioteca inteira por uma nova, ou usando hardware caríssimo. O RESYSTANCE é diferente porque é como um upgrade de software que não precisa mudar a estrutura da biblioteca nem comprar novos móveis. Ele apenas otimiza como os funcionários trabalham, tirando o peso das costas deles e deixando-os focar no que realmente importa: organizar os dados.

Em resumo: O RESYSTANCE é como dar um "superpoder" de trabalho em equipe para o sistema operacional, permitindo que ele organize seus dados sem ficar preso na fila do carteiro, tornando tudo muito mais rápido e eficiente.

Resumo técnico

Resumo Técnico: RESYSTANCE

1. O Problema: O Deslocamento do Gargalo de I/O

Com o advento de dispositivos de armazenamento ultra-rápidos, como os SSDs NVMe, o gargalo de desempenho em sistemas de banco de dados deixou de ser o hardware e migrou para o software. Especificamente, em bancos de dados NoSQL baseados em Log-Structured Merge-trees (LSM-trees), como o RocksDB, o processo de compaction (compactação) tornou-se o principal culpado pela degradação de desempenho.

• Causa Raiz: A compaction envolve a leitura e fusão (merge-sort) de milhares de blocos de dados (SSTables). No modelo tradicional, cada leitura de bloco exige uma chamada de sistema (pread()), resultando em milhões de chamadas de sistema, trocas de contexto frequentes entre espaço de usuário e kernel e cópias de dados desnecessárias.
• Impacto: O perfilamento mostra que a compaction é responsável pela vasta maioria das chamadas de sistema no motor LSM-tree (cerca de 96% são pread()). Isso gera uma sobrecarga de software que impede a utilização total da largura de banda dos SSDs modernos.
• Limitações das Soluções Atuais: Abordagens de "bypass de kernel" (como SPDK) eliminam chamadas de sistema, mas exigem abandonar o sistema de arquivos tradicional e redesenhar toda a subestrutura de I/O, o que é inviável para sistemas de banco de dados maduros que precisam manter compatibilidade e segurança.

2. Metodologia: A Abordagem RESYSTANCE

O RESYSTANCE é um framework que libera a compaction da dependência de chamadas de sistema sem modificar a estrutura do LSM-tree, o algoritmo de compaction ou exigir hardware especializado. Ele combina duas tecnologias do kernel Linux:

1. eBPF (Extended Berkeley Packet Filter): Utilizado para executar lógica definida pelo usuário diretamente no contexto do kernel. Isso elimina as trocas de contexto e a cópia de dados entre usuário e kernel.
2. io_uring: Uma interface de I/O assíncrona moderna que permite submeter múltiplas operações de I/O em uma única chamada de sistema, explorando o paralelismo intrínseco dos SSDs NVMe.

Arquitetura e Funcionamento:

• Mapeamento de SST (SST-Map): O sistema cria um mapa compartilhado entre usuário e kernel que contém os metadados dos blocos de dados (offsets, tamanhos) que precisam ser compactados.
• Leitura Assíncrona: Em vez de chamar pread() para cada bloco, o RESYSTANCE usa o io_uring para submeter leituras assíncronas de múltiplos blocos de uma vez.
• Fusão no Kernel (Merge-Sort): Um programa eBPF, acoplado a eventos específicos, executa a lógica de fusão (merge-sort) diretamente no kernel sobre os dados lidos. O eBPF compara as chaves e ordena os pares chave-valor.
• Escrita Tradicional: A escrita dos dados compactados (WriteKV) permanece no caminho tradicional de espaço de usuário, pois a sobrecarga de chamadas de sistema na escrita é muito menor do que na leitura (devido ao agrupamento de dados em grandes blocos).
• Segurança e Estabilidade: Os autores modificaram o verificador (verifier) do eBPF para relaxar limites de instruções (necessários para lógica complexa de ordenação) e restringiram o acesso à memória do kernel apenas a regiões pré-definidas, garantindo que o programa não cause panics no kernel.

3. Contribuições Principais

• Identificação do Gargalo: Demonstração quantitativa de que a compaction é a fonte dominante de sobrecarga de chamadas de sistema em bancos de dados LSM-tree.
• Framework RESYSTANCE: Proposta de um sistema que descarrega a lógica central de I/O e fusão para o kernel usando eBPF e io_uring, sem alterar a estrutura do LSM-tree.
• Otimização Sem Modificações Intrusivas: A solução não requer alterações no código-fonte do kernel (exceto ajustes mínimos no verificador e pontos de acoplamento) nem no algoritmo de compaction do banco de dados.
• Algoritmos Adaptativos: Implementação de duas estratégias de fusão no kernel (Busca Linear e Min-Heap) que são selecionadas dinamicamente com base no número de arquivos de entrada para otimizar o desempenho.

4. Resultados Experimentais

O RESYSTANCE foi avaliado em comparação com o RocksDB padrão (versão 10.1.3) utilizando benchmarks como db_bench, YCSB e cargas de trabalho OLTP (Sysbench em MariaDB/MyRocks).

• Redução de Chamadas de Sistema: Redução média de 99% no número de chamadas de sistema durante a compaction.
• Tempo de Compaction: Redução de 50% no tempo total de execução da compaction.
• Throughput (Cargas de Escrita): Em cargas de trabalho intensivas em escrita (ex: FillRandom), o throughput aumentou em até 75% em comparação ao RocksDB padrão.
• Latência (p99): Redução de 40% na latência p99 em cenários de escrita intensiva.
• Cargas Mistas e OLTP: Em cargas mistas (leitura/escrita) e OLTP, o RESYSTANCE mostrou ganhos de throughput de até 22%, mantendo latências mais estáveis e evitando write stalls (paradas de escrita causadas por backlog de compaction).
• Comparação com Bypass de Kernel: O RESYSTANCE superou abordagens baseadas em SPDK em cenários de compaction, pois o SPDK, ao usar caches privados no espaço de usuário, não conseguiu aproveitar o cache do sistema de arquivos de forma eficiente para este tipo de carga específica.

5. Significado e Impacto

O RESYSTANCE representa um avanço significativo na otimização de sistemas de armazenamento de dados:

• Mudança de Paradigma: Demonstra que é possível obter ganhos de desempenho comparáveis ao "bypass de kernel" mantendo a segurança, a portabilidade e a compatibilidade com o sistema de arquivos tradicional.
• Viabilidade Prática: Ao não exigir redesigns arquiteturais radicais ou hardware dedicado, a solução é prontamente aplicável a sistemas de banco de dados existentes e maduros.
• Futuro do I/O: Valida o uso de eBPF não apenas para observabilidade e segurança, mas como uma ferramenta poderosa para reestruturar caminhos de I/O críticos e eliminar sobrecargas de software em dispositivos de armazenamento de alta performance.

Em resumo, o RESYSTANCE desbloqueia o potencial oculto de desempenho dos LSM-trees ao eliminar a ineficiência do software na camada de I/O, permitindo que os bancos de dados aproveitem plenamente a velocidade dos SSDs NVMe modernos.