Learning Unified Representations from Heterogeneous Data for Robust Heart Rate Modeling

Este artigo propõe um novo framework que supera os desafios da heterogeneidade de dados na modelagem de frequência cardíaca, combinando dropout de recursos aleatórios, atenção histórica e aprendizado contrastivo para gerar representações unificadas e robustas, validadas pelo desempenho superior em um novo conjunto de dados benchmark chamado PARROTAO.

O essencial

Imagine que você é um treinador pessoal tentando prever o quanto o coração de um atleta vai bater durante uma corrida. O problema é que você tem dois grandes obstáculos:

1. Os Relógios são Diferentes: Alguns atletas usam relógios Garmin, outros Huawei, outros Coros. Cada um mede coisas diferentes (um mede "passada", outro "potência", outro não mede nada disso). É como tentar cozinhar um bolo seguindo receitas que usam xícaras de medidas diferentes ou ingredientes que um tem e o outro não.
2. Os Corpos são Diferentes: Mesmo com o mesmo relógio e a mesma corrida, o coração de um atleta experiente bate de forma diferente do de um iniciante. É como dois carros fazendo a mesma estrada: um é um esportivo e o outro é um caminhão; ambos sobem a ladeira, mas o motor (coração) trabalha de formas distintas.

A maioria dos sistemas atuais tenta forçar todos a usar a mesma receita, ignorando essas diferenças, o que faz com que as previsões fiquem erradas na vida real.

A Solução: O "Tradutor Universal" de Coração

Os autores deste artigo criaram um novo sistema inteligente que funciona como um tradutor universal e um detetive de hábitos ao mesmo tempo. Eles chamam isso de um modelo de "aprendizado de representações".

Aqui está como eles resolveram os problemas, usando analogias simples:

1. Lidando com os Relógios Diferentes (Heterogeneidade de Fonte)

O Problema: O sistema não sabe quais dados o relógio vai enviar. Às vezes falta um sensor, às vezes sobra.
A Solução Criativa: Eles usaram uma técnica chamada "Dropout de Recursos Aleatórios".

• A Analogia: Imagine que você está treinando um aluno para passar em um exame. Em vez de deixar o aluno estudar apenas com o livro completo, você, durante o treino, esconde aleatoriamente algumas páginas do livro ou remove alguns capítulos.
• O Resultado: O aluno (o modelo) é forçado a aprender o conceito geral e não depende de decorar uma página específica. Quando chega o dia do exame (o mundo real), mesmo que falte um dado ou o relógio seja diferente, o modelo consegue adivinhar o resto porque aprendeu a "essência" do movimento, não apenas os números específicos. Isso torna o sistema robusto a qualquer marca de relógio.

2. Lidando com as Pessoas Diferentes (Heterogeneidade de Usuário)

O Problema: Como prever o coração de alguém sem conhecer a história de vida dele?
A Solução Criativa: Eles criaram um "Atenção Consciente da História".

• A Analogia: Pense em um detetive que não olha apenas para o crime de hoje, mas revisa os diários do suspeito dos últimos meses. O sistema olha para as últimas corridas do atleta e pergunta: "Como ele reagiu a subidas no passado? Como ele se cansa?"
• O Resultado: O modelo cria uma "impressão digital" única para cada pessoa, entendendo que o João é mais resistente que a Maria, mesmo que ambos corram na mesma velocidade.

3. Aprendendo a Diferenciar (Aprendizado Contrastivo)

O Problema: Como garantir que o sistema não confunde o coração de um ciclista com o de um corredor?
A Solução Criativa: Eles usaram um método chamado "Aprendizado Contrastivo".

• A Analogia: É como um professor de música que diz: "Aqui é a nota Dó, aqui é a nota Ré". O sistema é treinado para empurrar os dados de pessoas diferentes para longe uns dos outros (como separar notas musicais) e puxar os dados da mesma pessoa para perto (como manter as notas de uma mesma melodia juntas).
• O Resultado: O sistema aprende a distinguir perfeitamente quem é quem e o que está fazendo, criando um espaço onde cada atleta tem seu próprio "quarto" seguro de dados.

O Grande Invento: O Dataset PARROTAO

Para provar que isso funciona, os autores não usaram apenas dados antigos e perfeitos. Eles criaram um novo banco de dados chamado PARROTAO.

• A Analogia: Em vez de testar o carro apenas em uma pista de corrida perfeita (dados antigos), eles dirigiram o carro em lama, na neve, em estradas de terra e em diferentes marcas de veículos.
• O Resultado: O PARROTAO é um conjunto de dados "caótico" e realista, com muitos tipos de relógios e atletas diferentes, servindo como o teste de fogo definitivo.

Os Resultados na Prática

O sistema deles foi testado e bateu todos os concorrentes antigos. Mas o legal é o que ele permite fazer agora:

1. Recomendação de Rotas Personalizadas: Antes de sair para correr, você pode dizer ao sistema: "Quero correr por essa trilha de montanha". O sistema simula: "Se você fizer isso, seu coração vai bater X vezes e você vai cansar Y". Assim, você escolhe a rota perfeita para seu nível de condicionamento, evitando se machucar ou se esforçar demais.
2. Consertando Dados Perdidos: Relógios de pulso às vezes perdem o sinal do coração (o "buraco" na medição). O sistema consegue "preencher" esses buracos com tanta precisão que parece que o dado nunca faltou, limpando o histórico do atleta.

Resumo Final

Basicamente, os autores criaram um super-treinador virtual que não se importa se você usa um relógio caro ou barato, e que conhece sua história pessoal tão bem que consegue prever exatamente como seu coração vai reagir antes mesmo de você começar a suar. Eles ensinaram a máquina a ser flexível com os dados e personalizada com as pessoas, algo que os sistemas antigos não conseguiam fazer bem.

Resumo técnico

Resumo Técnico: Aprendizado de Representações para Modelagem Robusta de Frequência Cardíaca

1. O Problema: Heterogeneidade de Dados em Cenários do Mundo Real

A previsão precisa da frequência cardíaca (FC) é fundamental para monitoramento de saúde personalizado e treinamento esportivo. No entanto, a implementação em larga escala enfrenta um desafio crítico: a heterogeneidade dos dados. O artigo identifica duas dimensões principais desse problema:

• Heterogeneidade de Fonte (Dispositivos): O mercado de dispositivos vestíveis é fragmentado. Diferentes fabricantes (ex: Garmin, Coros, Huawei) capturam conjuntos de recursos (sensores) distintos e com resoluções temporais variadas para a mesma atividade. Métodos existentes frequentemente descartam informações específicas do dispositivo ou forçam a unificação para o conjunto de recursos mais limitado, perdendo dados valiosos.
• Heterogeneidade de Usuário: Indivíduos exibem padrões fisiológicos e comportamentais distintos. Mesmo com o mesmo dispositivo e atividade, a distribuição da FC varia significativamente entre usuários e ao longo do tempo (evolução do condicionamento físico). Métodos atuais muitas vezes falham em modelar essas diferenças individuais de longo prazo.

A maioria das abordagens existentes trata dados heterogêneos como homogêneos, limitando sua robustez e generalização em ambientes reais.

2. Metodologia Proposta

Os autores propõem um framework unificado de aprendizado de representações latentes que é agnóstico tanto à heterogeneidade de fonte quanto à de usuário. A arquitetura (ilustrada na Fig. 2 do artigo) consiste nos seguintes componentes principais:

• Dropout Aleatório de Recursos (Random Feature Dropout):

  • Objetivo: Lidar com a heterogeneidade de fonte.
  • Mecanismo: Durante o treinamento, uma máscara binária é aplicada aleatoriamente às dimensões dos recursos de entrada (tanto para a sessão atual quanto para o histórico). Isso força o modelo a aprender representações robustas que não dependem de um conjunto específico de sensores.
  • Estratégia de Currículo: A taxa de dropout aumenta gradualmente ao longo das épocas, permitindo que o modelo aprenda primeiro com dados mais ricos antes de se adaptar a entradas esparsas. Recursos essenciais (como velocidade e altitude) são protegidos para garantir estabilidade.

• Módulo de Atenção Consciente do Histórico (History-Aware Attention):

  • Objetivo: Lidar com a heterogeneidade de usuário e capturar traços fisiológicos de longo prazo.
  • Mecanismo: O histórico de treinos do usuário é processado por um codificador hierárquico (BiLSTMs para dinâmica intra-treino e GRU para modelagem inter-treino). Um mecanismo de atenção multi-cabeça pondera quais sessões históricas são mais relevantes para a previsão atual, condensando o histórico em um embedding de contexto ($u_u$).

• Aprendizado de Representação Contrastiva:

  • Objetivo: Criar um espaço de representação discriminativo.
  • Mecanismo: Utiliza uma perda contrastiva (InfoNCE) para garantir que representações de diferentes usuários ou tipos de atividade sejam distantes, enquanto representações do mesmo usuário/atividade permaneçam próximas. Isso reforça a consistência fisiológica e a personalização.

• Objetivo de Treinamento:

  • O modelo é treinado de ponta a ponta minimizando uma função de perda combinada: o Erro Quadrático Médio (MSE) para a previsão da FC e a Perda Contrastiva ($L_{CL}$) para a coerência da representação.

3. Contribuições Principais

1. Arquitetura Robusta: Proposta de uma arquitetura simples, mas eficaz, que lida nativamente com padrões de recursos não uniformes e ausentes, sem necessidade de pré-processamento agressivo que descarte dados.
2. Novo Dataset de Benchmark (PARROTAO):
   • Os autores criaram e disponibilizaram o PARROTAO, um dataset em larga escala contendo 42.576 sessões de treino de 113 atletas recreativos.
   • Características Únicas: Coletado de três marcas diferentes (Coros, Garmin, Huawei) com conjuntos de sensores parcialmente sobrepostos e unidades de dados distintas, refletindo fielmente a heterogeneidade do mundo real, ao contrário de datasets públicos anteriores que unificam apenas a interseção de recursos.
3. Validação Abrangente: Demonstração de que o modelo supera significativamente os baselines existentes em datasets públicos (FitRec) e no novo dataset PARROTAO.

4. Resultados Experimentais

O modelo foi avaliado em dois datasets: FitRec (padrão público) e PARROTAO (novo, heterogêneo).

• Desempenho de Previsão:
  • No FitRec, o modelo proposto reduziu o MSE em 17,5% em relação ao baseline mais forte.
  • No PARROTAO, houve uma redução de 10,4% no MSE.
  • O modelo alcançou o 1º lugar em métricas de MSE e MAE na maioria das categorias esportivas individuais em ambos os datasets.
• Estudos de Ablação:
  • A remoção do Aprendizado Contrastivo causou a maior degradação de desempenho (aumento de ~20% no MSE no FitRec e ~36% no PARROTAO), confirmando sua importância crítica.
  • A remoção do Dropout de Recursos e do Módulo de Atenção também resultou em perdas significativas, validando a necessidade de lidar com a heterogeneidade de fonte e de usuário.
• Análise de Representações:
  • Visualizações t-SNE e métricas quantitativas (kNN, NMI, DBI) mostraram que as representações aprendidas separam claramente diferentes usuários e tipos de esporte, superando os baselines.
• Aplicações de Baixo Nível (Downstream):
  • Recomendação de Rotas: O modelo prevê com precisão a resposta fisiológica (curva de FC) para diferentes perfis topográficos, ajudando atletas a escolher rotas adequadas aos seus objetivos de treino.
  • Imputação de FC: O modelo superou métodos clássicos (interpolação linear, filtro de Kalman) na reconstrução de dados de FC faltantes (mascaramento de 20% dos dados), demonstrando a qualidade das representações aprendidas.

5. Significado e Impacto

Este trabalho é significativo por abordar a lacuna entre a pesquisa acadêmica (que frequentemente usa dados homogêneos) e a realidade da indústria de vestíveis (dados heterogêneos e fragmentados).

• Viabilidade de Implantação: O framework permite a criação de sistemas de previsão de FC que funcionam consistentemente em ecossistemas de dispositivos mistos, sem exigir que todos os usuários tenham o mesmo relógio ou que os dados sejam padronizados artificialmente.
• Personalização Real: Ao modelar explicitamente a evolução fisiológica do usuário e suas preferências, o sistema permite planos de treino verdadeiramente personalizados e monitoramento de intensidade em tempo real.
• Padrão de Avaliação: A introdução do dataset PARROTAO estabelece um novo padrão rigoroso para avaliar a robustez de modelos de aprendizado de máquina em dados de wearables do mundo real.

Em resumo, o artigo apresenta uma solução robusta para um problema fundamental na saúde digital, combinando técnicas avançadas de aprendizado profundo (atenção, dropout, contrastivo) com a criação de um benchmark realista, resultando em modelos mais precisos, generalizáveis e úteis para atletas e profissionais de saúde.