Assessing the Energy and Carbon Emissions of Neural Speaker Verification Model in Training and Inference

Resumo Técnico: Avaliando o Consumo de Energia e as Emissões de Carbono de Modelos de Verificação de Locutor Neurais em Treinamento e Inferência

Declaração do Problema
Os sistemas de verificação de locutor (SV - Speaker Verification) baseados em aprendizagem profunda dependem cada vez mais de arquiteturas de redes neurais profundas, como a ResNet, para extrair embeddings de locutor discriminativos. Embora a profundidade arquitetural tenha aumentado de 9 para mais de 290 camadas para melhorar o desempenho, essa tendência introduz compromissos significativos em relação aos requisitos de memória, tempo de execução e impacto ambiental. Apesar dos conhecidos custos financeiros e ecológicos de treinar grandes modelos, há uma carência de estudos publicados que analisem especificamente o equilíbrio entre o desempenho da verificação de locutor, o consumo de energia e a pegada de carbono. A literatura existente abordou esses fatores em Reconhecimento Automático de Fala (ASR) e compreensão de linguagem falada, mas a SV permanece subexplorada neste contexto.

Metodologia
Os autores realizaram uma avaliação sistemática de arquiteturas de SV baseadas em ResNet treinadas no conjunto de dados VoxCeleb2. O estudo variou três dimensões estruturais principais:

1. Profundidade: Escalonamento do número de camadas de 18 a 419 (ResNet-X-D).
2. Largura: Ajuste do número de mapas de características por meio de multiplicadores (ResNet-50-Wx).
3. Distribuição de Estágios: Redistribuição de blocos residuais através dos quatro estágios da rede enquanto mantém a profundidade total constante (ResNet-50-D[a,b,c,d]).

Medição Ambiental:
O consumo de energia e as emissões de carbono foram medidos usando o Compute Energy and Emissions Monitoring Stack (CEEMS). Esta ferramenta coleta dados detalhados de sensores de hardware ao nível do nó, especificamente o Intel's Running Average Power Limit (RAPL) para CPU/DRAM e Baseboard Management Controllers (via IPMI-DCMI) para componentes mais amplos do sistema. A pegada de carbono foi estimada convertendo o uso de energia (kWh) em equivalentes de CO2 (CO2eq) usando fatores de emissão em tempo real da rede elétrica francesa (RTE eCO2), que possui uma intensidade de carbono baixa (~50 gCO2/kWh).

Configuração Experimental:
Os modelos foram treinados usando o toolkit Kiwano com aumento de dados padrão (MUSAN, RIRs, SpecAugment) e perda AAM. A avaliação foi realizada em conjuntos de dados de domínio interno (VoxCeleb1-O, E, H) e conjuntos de dados de domínio externo (CommonBench, CN-Celeb) usando Taxa de Erro Igual (EER) e Função de Custo Mínimo de Detecção (minDCF) como métricas de desempenho. Os custos de inferência também foram medidos no conjunto de dados CommonBench sob precisão FP32 e FP16.

Principais Resultados

• Retornos Decrescentes na Profundidade: Aumentar a profundidade da rede melhora o desempenho, mas com retornos rapidamente decrescentes. Mover de ResNet-18 para ResNet-101/200 gera ganhos significativos, mas a transição de ResNet-200 para ResNet-419 resulta em melhorias marginais de precisão (por exemplo, a queda média da EER de apenas 3,44% para 3,35%) enquanto o consumo de energia quadruplica (de ~222 kWh para ~896 kWh).
• Escalonamento de Largura: A expansão moderada da largura (ex: ResNet-50-W2) oferece ganhos leves no domínio interno, mas falha em generalizar consistentemente para dados fora do domínio. O alargamento extremo (ResNet-50-W4) fornece benefícios de desempenho negligenciáveis sobre a linha de base enquanto aumenta drasticamente o uso de energia e as emissões de carbono. Por outro outro lado, variantes mais estreitas (ex: ResNet-50-W0.5) reduzem significativamente o consumo de energia mantendo uma precisão competitiva.
• Distribuição de Estágios: Concentrar blocos residuais nos estágios intermediários (estágios 2 e 3) melhora o equilíbrio entre desempenho e eficiência. Variantes como ResNet-50-D[2,8,2,2] e ResNet-50-D[2,6,6,2] alcançam EERs mais baixas do que a linha de base ResNet-50-D com menos parâmetros e um consumo de energia ligeiramente reduzido. Inversamente, concentrar os blocos nos primeiros ou últimos estágios degrada o desempenho.
• Eficiência de Inferência: Os custos de inferência são significativamente menores do que o treinamento, mas permanecem não desprezíveis em escala. A mudança para precisão FP16 proporciona economia de 25–35% de energia e redução no tempo de execução sem perda de desempenho. O maior modelo (ResNet-419) emite quase seis vezes mais CO2 que o menor (ResNet-18) durante a inferência em grandes conjuntos de dados.

Principais Contribuições

1. Comparação Abrangente: O artigo fornece uma comparação detalhada de variantes ResNet ao variar sistematicamente profundidade, largura e distribuição de blocos para caracterizar os equilíbrios entre o desempenho de SV e o impacto ambiental.
2. Avaliação Cross-Domain: Os modelos foram avaliados em conjuntos de teste de domínio interno e fora do domínio, vinculando métricas de desempenho diretamente ao consumo de energia medido e à pegada de carbono.
3. Diretrizes Acionáveis: O estudo identifica configurações específicas que oferecem o melhor equilíbrio entre precisão, energia e emissões, fornecendo recomendações concretas para o design de sistemas de SV sustentáveis.

Significância e Recomendações
O artigo conclui que avaliar sistemas de SV apenas por métricas de desempenho (EER, minDCF) é insuficiente. Os autores defendem uma mudança para o design consciente da energia (energy-aware design). Suas descobertas sugerem:

• Arquiteturas Ótimas: Modelos equilibrados de tamanho médio, como ResNet-34-D e ResNet-50-D, representam o "ponto ideal" (sweet spot), oferecendo forte precisão com um consumo de energia uma ordem de magnitude inferior ao de modelos muito profundos.
• Cenários de Recursos Limitados: Variantes mais estreitas (ex: ResNet-50-W0.5) são recomendadas para cenários onde a energia e a pegada de carbono são as restrições primárias.
• Estratégia de Design: Realocar blocos residuais em direção aos estágios intermediários é uma estratégia mais eficaz para a eficiência do que concentrar a capacidade nos estágios iniciais ou finais.
• Evitar o Excesso: Modelos muito profundos (além da ResNet-200) e variantes extremamente largas devem ser evitados, a menos que seus ganhos marginais de desempenho justifiquem claramente o custo ambiental desproporcional.

O estudo enfatiza que, embora redes mais profundas capturem informações mais discriminativas, o custo ambiental de treinamento e inferência frequentemente supera os ganhos marginais na precisão de verificação, necessitando de uma abordagem mais sustentável para seleção e implantação de modelos.