💻 computer science

ConcernBERT: Learning Responsibilities Using Class Membership

Este artigo apresenta o ConcernBERT, um modelo de embedding baseado em BERT treinado com perda de triplet em um conjunto de dados de larga escala de mais de dois milhões de arquivos Java para aprender efetivamente responsabilidades de software e membros de classes, superando, assim, modelos existentes em tarefas como recuperação de arquitetura e refatoração de extração de classe.

Autores originais: J. Lefever, J. Xu, Y. Cai, R. Kazman, E. Pisch

Publicado 2026-06-23

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: J. Lefever, J. Xu, Y. Cai, R. Kazman, E. Pisch

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você entra em uma biblioteca enorme e caótica, onde os livros foram jogados nas prateleiras sem qualquer ordem. Alguns livros são sobre culinária, outros sobre viagens espaciais e alguns são apenas páginas aleatórias arrancadas de diferentes manuais. Seu trabalho é descobrir quais páginas pertencem a quais livros para reconstruir os originais.

No mundo da programação de computadores, este é um problema comum. Programadores escrevem código em "classes" (pense nelas como os livros). Uma classe bem projetada deve fazer apenas um trabalho específico (como um livro de receitas que contém apenas receitas). Mas, com o tempo, as classes podem se tornar bagunçadas, misturando tarefas não relacionadas. Isso é chamado de "God Class" (Classe Deus), e é difícil de consertar porque é difícil dizer quais linhas de código pertencem a qual tarefa.

Por décadas, engenheiros de software tentaram usar computadores para organizar essa bagunça. O modo antigo era olhar para as palavras (tokens) usadas no código. Se duas partes de código usassem as palavras "log", "erro" e "arquivo", o computador assumia que elas estavam relacionadas.

O Problema com o Modo Antigo
O artigo argumenta que olhar apenas para as palavras é como tentar organizar uma biblioteca olhando apenas para a primeira letra do título.

Cenário A: Dois livros têm "Espaço" no título. Eles provavelmente são sobre o espaço. (Boa correspondência).
Cenário B: Um livro é sobre "Viagem Espacial" e outro é sobre "O Espaço Entre as Estrelas". Eles compartilham a palavra "Espaço", mas são tópicos totalmente diferentes. (Má correspondência).
Cenário C: Um livro é sobre "Culinária" e outro é sobre "Química". Eles não compartilham nenhuma palavra, mas ambos envolvem misturar ingredientes. (Conexão perdida).

Os antigos modelos de computador eram enganados pelo Cenário B e perdiam o Cenário C. Eles eram focados demais no vocabulário de nível superficial.

A Nova Solução: ConcernBERT
Os autores criaram um novo modelo de IA chamado ConcernBERT. Em vez de apenas ler as palavras, este modelo aprende observando com quem o código está andando.

Pense nisso como o refeitório de uma escola de ensino médio.

O Modelo Antigo: Se você vê dois alunos usando a mesma camiseta do "Clube de Matemática", o modelo assume que eles são melhores amigos.
ConcernBERT: Ele observa quem realmente senta na mesma mesa do almoço. Mesmo que dois alunos estejam usando camisetas diferentes, se eles estão consistentemente sentados juntos, comendo a mesma comida e falando sobre as mesmas coisas, o modelo sabe que eles pertencem ao mesmo grupo.

Em termos de software, o modelo foi treinado em milhões de bases de código existentes. Ele aprendeu uma regra simples: "Se um método (uma linha de código) está dentro do mesmo arquivo de classe que outro método, eles provavelmente compartilham uma responsabilidade."

Ao aprender com esses agrupamentos do mundo real, o modelo aprendeu a entender a intenção ou "preocupação" (concern) do código, não apenas as palavras.

Como Eles Testaram Isso
Para ver se este novo modelo funcionava, os pesquisadores jogaram um jogo de "Misture e Combine":

Eles pegaram o código de duas (ou até 100) classes diferentes e os esmagaram todos em um único monte gigante e bagunçado.
Eles pediram à IA para organizar o monte de volta nos grupos originais.
Eles compararam o ConcernBERT com outros sete modelos de IA famosos (como CodeBERT, LSI e LDA).

Os Resultados
O ConcernBERT foi um vencedor absoluto.

Em testes simples (organizando 2 classes), ele foi 31% melhor que o próximo melhor modelo.
Em testes difíceis (organizando 100 classes misturadas), ele foi 55% melhor.
Mesmo comparado ao seu modelo "primo" (CodeBERT), que possui exatamente a mesma estrutura cerebral, mas foi treinado de forma diferente, o ConcernBERT foi quase o dobro melhor.

O artigo mostra que, ao ensinar a IA a prestar atenção ao contexto (quem está na mesma classe) em vez de apenas ao vocabulário (quais palavras são usadas), ela pode identificar com muito mais precisão pelo que um pedaço de software é realmente responsável.

O Que Isso Significa (De Acordo com o Artigo)
O artigo conclui que o ConcernBERT não é uma varinha máética que resolve automaticamente todos os problemas de software. Em vez disso, é uma fundação poderosa. Ele fornece uma maneira muito mais inteligente de medir o quão "coesa" (o quão bem organizada) é uma parte do código. Isso o torna uma ferramenta melhor para tarefas futuras, como:

Decompor "God Classes" bagunçadas em partes menores e gerenciáveis.
Medir a qualidade do software de forma mais precisa.
Ajudar desenvolvedores a recuperar a arquitetura original de softwares antigos.

Em resumo, o ConcernBERT ensina os computadores a entender o trabalho do código, não apenas o vocabulário, ao aprender com a maneira como os desenvolvedores agrupam naturalmente seu trabalho junto.

Resumo Técnico: ConcernBERT

Definição do Problema

Os princípios de separação de preocupações, alta coesão e responsabilidade única são fundamentais para o design de software, mas sua aplicação prática muitas vezes depende da intuição do desenvolvedor em vez de métricas acionáveis. Um desafio crítico na engenharia de software é a identificação confiável de grupos coesos de entidades de programa (métodos e atributos) que coletivamente cumprem uma responsabilidade comum. Essa capacidade é essencial para tarefas como recuperação arquitetural, refatoração de extração de classe e medição de coesão.

As abordagens existentes para identificar esses grupos dependem amplamente de similaridade semântica baseada em tokens (ex: vocabulário compartilhado). No entanto, o artigo demonstra que a similaridade de tokens é insuficiente:

Falsos Negativos: Métodos semanticamente relacionados podem usar tokens inteiramente diferentes (ex: diferentes implementações de controle de acesso).
Falsos Positivos: Métodos com tokens semelhantes podem servir a preocupações não relacionadas (ex: registro de log vs. processamento de pagamento).
Limitação: Modelos puramente léxicos falham em capturar a semântica subjacente de "nível de preocupação" que os desenvolvedores codificam implicitamente ao agrupar entidades em classes.

Metodologia

Os autores propõem o ConcernBERT, um modelo de embedding baseado em BERT projetado para mapear entidades de programa em um "espaço de preocupação" de alta dimensão onde entidades que compartilham responsabilidades são posicionadas proximamente.

Inovações Principais

Supervisão de Nível de Entidade via Triplet Loss: Diferente dos modelos padrão treinados com modelagem de linguagem mascarada de nível de token (que otimizam para preencher lacunas com base no contexto), o ConcernBERT é treinado no nível da entidade. Ele utiliza triplet loss para otimizar diretamente o posicionamento relativo de métodos e atributos.
- Âncora: Uma entidade de programa.
- Positivo: Outra entidade da mesma estrutura Java (classe, interface ou enum).
- Negativo: Uma entidade de uma estrutura diferente.
- Objetivo: Minimizar a distância euclidiana entre a âncora e o positivo, enquanto maximiza a distância para o negativo.
Pertencimento à Classe como Contexto: O modelo trata o pertencimento à classe atribuído pelo desenvolvedor como um rótulo implícito para responsabilidade compartilhada. A premissa subjacente é que os desenvolvedores agrupam métodos em classes com base em preocupações compartilhadas. Ao aprender com milhões dessas decisões de agrupamento em milhares de repositórios, o modelo captura padrões de similaridade de nível de preocupação que se generalizam mesmo quando as entidades não compartilham tokens sobrepostos.

Arquitetura e Treinamento

Modelo Base: Construído sobre o CodeBERTa-small-v1, adicionando uma camada de pooling médio para agregar embeddings de tokens em um único vetor por entidade (seguindo a lógica do SentenceBERT).
Dataset: Um dataset de larga escala compreendendo 2.430.138 arquivos fonte em 6.766 repositórios. O conjunto de treinamento inclui mais de 1,9 milhão de arquivos Java essenciais de 5.414 repositórios.
Procedimento de Treinamento: Treinado por três épocas em uma única GPU NVIDIA A40 usando gradiente descendente estocástico de mini-lote. O modelo foi treinado durante três dias, processando aproximadamente 15 milhões de entidades.

Avaliação

Os autores avaliam o ConcernBERT utilizando um Teste de Recuperação de Pertencimento de Classe.

Configuração: Métodos de $k$ classes distintas (onde $k \in \{2, 10, 50, 100\}$ ) são fundidos em um único grupo não rotulado. O modelo gera os embeddings desses métodos, e um algoritmo de agrupamento tenta recuperar os pertencimentos originais das classes.
Baselines: O modelo é comparado contra sete modelos existentes:
- Tradicionais: Latent Semantic Indexing (LSI), Latent Dirichlet Allocation (LDA), Doc2Vec.
- Baseados em Transformer: CodeBERT, GraphCodeBERT, CodeT5+, ModernBERT.
Métricas: O desempenho é medido usando Informação Mútua Ajustada (AMI) através de 12 configurações (4 algoritmos de agrupamento $\times$ 3 métricas de distância).

Resultados Principais

O ConcernBERT supera significativamente todos os modelos de referência em todos os tamanhos de grupo e configurações de agrupamento.

Grupos Pequenos ( $k=2$ ): O ConcernBERT atinge um AMI médio de 0,728, superando o próximo melhor modelo (LSI com 0,558) em 31%. Comparado ao CodeBERT (sua base arquitetural), o ganho é de 115%.
Grupos Grandes ( $k=100$ ): A lacuna de desempenho aumenta com a complexidade da tarefa. O ConcernBERT atinge um AMI médio de 0,565, superando o LSI em 55% e o CodeBERT em 94%.
Significância Estatística: Todas as comparações par a par são estatisticamente significativas ( $p < 0,01$ ). Os tamanhos de efeito (Cliff's delta) são grandes, indicando que a melhoria não se deve meramente a diferenças arquiteturais, mas sim ao processo de treinamento especializado.
Consistência: O ConcernBERT mantém a distribuição mais alta e compacta de pontuações AMI em todos os tamanhos de teste, enquanto os modelos baseline mostram degradação e variância significativas conforme a complexidade da tarefa aumenta.

Um estudo de caso na classe TsFileTool demonstrou que o ConcernBERT identificou com sucesso clusters coesos (ex: gerenciamento de diretório, processamento de esquema) que se alinhavam com a intuição humana, enquanto o CodeBERT e o LSI produziram clusters semanticamente incoerentes e de grande escala.

Significância e Alegações

O artigo alega que o ConcernBERT fornece uma base mais forte para tarefas de engenharia de software downstream ao codificar efetivamente a semântica de nível de preocupação.

Operacionalização de Princípios de Design: O trabalho dá um passo para transformar princípios filosóficos como "separação de preocupações" e "responsabilidade única" em métricas e ferramentas automatizadas acionáveis.
Fundação, Não Ferramenta End-to-End: Os autores afirmam explicitamente que o ConcernBERT não pretende ser uma ferramenta completa de refatoração ou recuperação de arquitetura end-to-end. Em vez disso, serve como um componente de embedding fundamental para apoiar essas tarefas.
Superioridade da Estratégia de Treinamento: Os resultados confirmam que avanços arquiteturais isolados (ex: usar modelos Transformer mais novos) não capturam a semântica de nível de preocupação tão efetivamente quanto um processo de treinamento especificamente desenhado para aproveitar o contexto de pertencimento à classe.

O artigo conclui que, ao aprender a similaridade diretamente do pertencimento à classe em vez da sobreposição superficial de tokens, o ConcernBERT vai além das abordagens tradicionais para entregar insights mais confiáveis sobre as responsabilidades do programa.