How does machine learning bias in prediction of behavioral phenotypes relate to individual characteristics?
Este estudo analisa erros de predição em modelos baseados no cérebro através de múltiplas coortes e medidas comportamentais, revelando que características individuais, tais como movimento da cabeça, morfologia da cabeça e sexo/gênero, contribuem significativamente para o viés de aprendizado de máquina, particularmente para fenótipos socioafetivos e de saúde mental em populações em desenvolvimento.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA de um preprint que não foi revisado por pares. Não é aconselhamento médico. Não tome decisões de saúde com base neste conteúdo. Ler aviso legal completo
Imagine tentar prever o futuro de uma pessoa com base em um mapa de seu cérebro. Por décadas, cientistas esperaram que, ao escanear a fiação do cérebro, pudessem prever como uma pessoa pensaria, sentiria ou se comportaria. Essa ideia é a base de um campo chamado medicina de precisão, onde médicos poderão um dia usar exames cerebrais para detectar riscos de saúde mental antes mesmo que os sintomas apareçam. Para fazer isso, pesquisadores usam programas de computador poderosos, frequentemente chamados de aprendizado de máquina, para encontrar padrões em dados cerebrais que correspondam a comportamentos específicos. No entanto, esses programas de computador não são perfeitos. Eles às vezes cometem erros, e esses erros não são aleatórios. Assim como uma previsão do tempo pode ser menos precisa para uma região específica devido à geografia local, esses programas de leitura cerebral costam ter mais dificuldade com certos grupos de pessoas do que com outros. Por exemplo, estudos anteriores mostraram que esses modelos tendem a ser menos precisos para pessoas de minorias raciais em comparação com americanos brancos. A grande questão tem sido: por que isso acontece? É porque o cérebro em si é diferente, ou é algo sobre como os dados foram coletados?
Uma equipe de pesquisadores partiu para resolver esse enigma analisando milhares de exames cerebrais e registros comportamentais de jovens. Eles queriam saber se os erros cometidos por esses modelos de computador estavam ligados a traços específicos dos indivíduos sendo escaneados. A equipe reuniu dados de três grandes grupos: quase 4.300 crianças de nove a onze anos, cerca de 430 crianças e adolescentes de cinco a vinte e um anos, e aproximadamente 780 jovens adultos de vinte e dois a trinta e sete anos. No total, eles examinaram mais de 100 comportamentos diferentes, variando desde a capacidade de reconhecer emoções até a forma como lidam com o estresse ou resolvem problemas. Eles treinaram seus modelos de computador para prever esses comportamentos usando apenas os dados do exame cerebral. Uma vez que os modelos fizeram suas previsões, os pesquisadores calcularam a diferença entre o que o modelo previu e a pontuação real da pessoa no teste. Essa diferença é o erro de previsão.
Os pesquisadores então fizeram uma pergunta simples, mas crucial: esses erros ocorrem com mais frequência em pessoas com certas características? Eles analisaram oito fatores diferentes, incluindo idade, sexo, raça, educação, renda familiar, tamanho da cabeça e o quanto a pessoa moveu a cabeça enquanto estava dentro do scanner. Eles descobriram que os erros estavam, de fato, ligados a esses traços, mas não de uma forma simples. O padrão mais consistente foi que os modelos tiveram mais dificuldade ao prever comportamentos sociais e emocionais, como reconhecer sentimentos ou lidar com a ansiedade, especialmente nos grupos mais jovens. Para esses traços difíceis de prever, os erros do computador estavam fortemente ligados a três coisas específicas: o quanto a pessoa moveu a cabeça durante o exame, o tamanho do cérebro e o sexo.
O estudo revelou que pessoas que moveram mais a cabeça durante o escaneamento tendiam a apresentar erros de previsão maiores. Isso faz sentido porque o movimento pode borrar as imagens cerebrais, tornando mais difícil para o computador ver os detalhes finos das conexões cerebrais. Da mesma forma, o tamanho do céreão de uma pessoa importava. Os modelos foram menos precisos para indivíduos com volumes intracranianos menores, que é o espaço total dentro do crânio que contém o cérebro. Isso foi particularmente verdadeiro para crianças e para medidas de problemas comportamentais. Finalmente, os pesquisadores descobriram que os participantes do sexo masculino geralmente apresentavam erros de previsão maiores do que as participantes do sexo feminino, particularmente quando os modelos tentavam adivinhar habilidades cognitivas ou questões comportamentais.
Talvez a descoberta mais importante seja que esses fatores estão profundamente conectados entre si. O estudo mostrou que raça e etnia não estão ligadas apenas a fatores sociais como renda ou educação, mas também estão ligadas a essas questões relacionadas ao escaneamento. Por exemplo, os dados mostraram que certos grupos raciais tendiam a apresentar mais movimento de cabeça durante os exames ou tamanhos médios de cérebro diferentes. Isso sugere que, quando um modelo de computador apresenta um desempenho pior para um grupo racial específico, pode não ser porque o cérebro em si é fundamentalmente diferente de uma forma que o modelo não consegue entender. Em vez disso, o erro pode originar-se dessas diferenças físicas e técnicas nos dados, como o movimento ou o tamanho do cérebro, que são mais comuns em esse grupo.
Os pesquisadores concluíram que o viés nesses modelos de predição cerebral não é um problema único, mas uma mistura de muitos pequenos fatores trabalhando juntos. Eles descobriram que simplesmente remover os fatores sociais óbvios dos dados durante o treinamento do computador não foi suficiente para resolver o problema. Os erros persistiram, sugerindo que as formas padrão pelas quais os cientistas limpam e preparam os dados de exames cerebrais ainda não são boas o suficiente para lidar com essas diferenças sutis. Esta é uma descoberta crítica para qualquer pessoa que pretenda usar exames cerebrais para diagnosticar precocemente condições de saúde mental. Se uma ferramenta é menos precisa para certos grupos de pessoas, isso pode levar a diagnósticos perdidos ou avaliações de risco incorretas para aqueles que mais precisam de ajuda. O estudo não afirma ter resolvido o problema, mas mapeou claramente onde reside a dificuldade, mostrando que, para construir ferramentas mais justas, os cientistas devem prestar muita atenção em como o movimento da cabeça, o tamanho do cérebro e o sexo influenciam os dados, especialmente ao trabalhar com crianças e jovens.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.