Assessing the Energy and Carbon Emissions of Neural Speaker Verification Model in Training and Inference

Sintesi Tecnica: Valutazione del Consumo Energetico e delle Emissioni di Carbonio dei Modelli di Verifica del Parlatore Neurali in Fase di Addestramento e Inferenza

Definizione del Problema
I sistemi di verifica del parlatore (SV) basati su deep learning si affidano sempre più a backbone di reti neurali profonde, come ResNet, per estrarre embedding del parlatore discriminativi. Sebbene la profondità architettonica sia aumentata da 9 a oltre 290 strati per migliorare le prestazioni, questa tendenza introduce significativi compromessi in termini di requisiti di memoria, tempi di esecuzione e impatto ambientale. Nonostante i noti costi finanziari ed ecologici dell'addestramento di grandi modelli, esiste una mancanza di studi pubblicati che analizzino specificamente il compromesso tra le prestazioni della verifica del parlatore, il consumo di energia e l'impronta di carbonio. La letteratura esistente ha affrontato questi fattori nel riconoscimento automatico del parlato (ASR) e nella comprensione del linguaggio parlato, ma la SV rimane poco esplorata in questo contesto.

Metodologia
Gli autori hanno condotto una valutazione sistematica di architetture SV basate su ResNet addestrate sul dataset VoxCeleb2. Lo studio ha variato tre dimensioni strutturali chiave:

1. Profondità: Scalatura del numero di strati da 18 a 419 (ResNet-X-D).
2. Ampiezza: Regolazione del numero di mappe di caratteristiche tramite moltiplicatori (ResNet-50-Wx).
3. Distribuzione degli Stadi: Redistribuzione dei blocchi residui attraverso i quattro stadi della rete mantenendo costante la profondità totale (ResNet-50-D[a,b,c,d]).

Misurazione Ambientale:
Il consumo energetico e le emissioni di carbonio sono stati misurati utilizzando lo stack di monitoraggio dell'energia e delle emissioni computazionali (CEEMS). Questo strumento raccoglie dati granulari dai sensori hardware a livello di nodo, specificamente l'Intel Running Average Power Limit (RAPL) per CPU/DRAM e i Baseboard Management Controllers (tramite IPMI-DCMI) per i componenti più ampi del sistema. L'impronta di carbonio è stata stimata convertendo l'energia utilizzata (kWh) in equivalenti di CO2 (CO2eq) utilizzando i fattori di emissione in tempo reale della rete elettrica francese (RTE eCO2), che ha un'intensità di carbonio bassa (~50 gCO2/kWh).

Configurazione Sperimentale:
I modelli sono stati addestrati utilizzando il toolkit Kiwano con standard di data augmentation (MUSAN, RIRs, SpecAugment) e perdita AAM. La valutazione è stata eseguita su dataset in-domain (VoxCeleb1-O, E, H) e out-of-domain (CommonBench, CN-Celeb) utilizzando l'Equal Error Rate (EER) e la funzione di costo minimo di rilevamento (minDCF) come metriche di prestazione. Anche i costi di inferenza sono stati misurati sul dataset CommonBench sia in precisione FP32 che FP16.

Risultati Chiave

• Rendimenti Decrescenti sulla Profondità: L'aumento della profondità della rete migliora le prestazioni, ma con rendimenti rapidamente decrescenti. Il passaggio da ResNet-18 a ResNet-101/200 produce guadagni significativi, ma la transizione da ResNet-200 a ResNet-419 comporta miglioramenti marginali nell'accuratezza (ad esempio, l'EER medio scende solo dal 3,44% al 3,35%) mentre il consumo di energia quadruplica (da ~222 kWh a ~896 kWh).
• Scalabilità dell'Ampiezza: Un'espansione moderata dell'ampiezza (ad esempio, ResNet-50-W2) offre lievi guadagni in-domain ma non riesce a generalizzare costantemente ai dati out-of-domain. L'allargamento estremo (ResNet-50-W4) fornisce benefici di prestazione trascurabili rispetto alla baseline pur aumentando drasticamente l'uso di energia e le emissioni di carbonio. Al contrario, le varianti più strette (ad esempio, ResNet-50-W0.5) riducono significativamente il consumo di energia mantenendo un'accuratezza competitiva.
• Distribuzione degli Stadi: Concentrare i blocchi residui negli stadi intermedi (stadi 2 e 3) migliora il compromesso tra prestazioni ed efficienza. Varianti come ResNet-50-D[2,8,2,2] e ResNet-50-D[2,6,6,2] ottengono EER inferiori rispetto alla baseline ResNet-50-D con meno parametri e un consumo energetico leggermente ridotto. Al contrario, concentrare i blocchi nei primi o negli ultimi stadi degrada le prestazioni.
• Efficienza dell'Inferenza: I costi di inferenza sono significativamente inferiori rispetto all'addestramento, ma rimangono non trascurabili su larga scala. Passare alla precisione FP16 produce risparmi energetici del 25–35% e una riduzione dei tempi di esecuzione senza perdita di prestazioni. Il modello più grande (ResNet-419) emette quasi sei volte più CO2 del più piccolo (ResNet-18) durante l'inferenza su grandi dataset.

Contributi Principali

1. Confronto Comprensivo: Il documento fornisce un confronto dettagliato delle varianti ResNet variando sistematicamente profondità, ampiezza e distribuzione dei blocchi per caratterizzare i compromessi tra le prestazioni SV e l'impatto ambientale.
2. Valutazione Cross-Domain: I modelli sono stati valutati sia su set di test in-domain che out-of-domain, collegando le metriche di prestazione direttamente al consumo energetico misurato e all'impronta di carbonio.
3. Linee Guida Azionabili: Lo studio identifica configurazioni specifiche che offrono il miglior equilibrio tra accuratezza, energia ed emissioni, fornendo raccomandazioni concrete per progettare sistemi SV sostenibili.

Significatività e Raccomandazioni
Il documento conclude che valutare i sistemi SV esclusivamente sulle metriche di prestazione (EER, minDCF) è insufficiente. Gli autori sostengono la necessità di un passaggio verso una progettazione consapevole dell'energia (energy-aware). Le loro scoperte suggeriscono:

• Architetture Ottimali: Modelli bilanciati di medie dimensioni come ResNet-34-D e ResNet-50-D rappresentano il "punto di equilibrio" (sweet spot), offrendo una solida accuratezza con un consumo energetico di un ordine di grandezza inferiore rispetto ai modelli molto profondi.
• Scenari con Risorse Limitate: Le varianti più strette (ad esempio, ResNet-50-W0.5) sono raccomandate per scenari in cui l'energia e l'impronta di carbonio sono vincoli primari.
• Strategia di Progettazione: Riallocare i blocchi residui verso gli stadi intermedi è una strategia più efficace per l'efficienza rispetto alla concentrazione della capacità nei primi o negli ultimi stadi.
• Evitare l'Eccesso: Modelli molto profondi (oltre ResNet-200) e varianti estremamente larghe dovrebbero essere evitati, a meno che i loro guadagni marginali di prestazione non giustifichino chiaramente il sproporzionato costo ambientale.

Lo studio sottolinea che, sebbene le reti più profonde catturino informazioni più discriminative, il costo ambientale dell'addestramento e dell'inferenza spesso supera i guadagni marginali nell'accuratezza della verifica, rendendo necessaria un approccio più sostenibile alla selezione e al deployment dei modelli.