PixelDeck: A local-first media library manager for biomedical imaging

PixelDeck est une application de navigateur open source et locale qui rationalise l'organisation, la déduplication et la navigation interactive de grandes collections d'images et de vidéos biomédicales sur du matériel standard grâce à une architecture modulaire intégrant l'importation récursive, la détection de doublons par hachage SHA-256 et le traitement asynchrone.

L'essentiel

Imaginez que vous êtes un scientifique venant de terminer un projet photographique massif. Vous avez pris des milliers de photos haute résolution et de courtes vidéos de minuscules cellules et tissus. Mais au lieu d'être soigneusement organisées dans un album photo, elles sont éparpillées partout dans votre maison : certaines dans une boîte à chaussures au grenier, d'autres dans un tiroir de la cuisine, et certaines enfouies profondément dans un système complexe de dossiers sur votre ordinateur. Trouver une image spécifique pour la montrer à un collègue revient à chercher une aiguille dans une botte de foin, et vous ignorez si vous avez accidentellement pris la même image deux fois.

PixelDeck est la solution à ce problème de stockage désordonné. Considérez-le comme un bibliothécaire local ultra-intelligent qui réside directement sur votre ordinateur.

Voici comment cela fonctionne, en utilisant des analogies simples :

• La bibliothèque « guichet unique » : Au lieu de fouiller dans différents disques durs ou dossiers réseau, PixelDeck agit comme une bibliothèque unique et organisée. Vous lui indiquez où se trouvent vos fichiers en désordre, et il les rassemble tous en un seul endroit où vous pouvez les parcourir facilement, tout comme vous feuilletez des photos sur votre téléphone.
• Le « détective des doublons » : L'un des meilleurs tours de ce bibliothécaire est sa capacité à repérer les jumeaux. En utilisant une empreinte digitale numérique spéciale (appelée SHA-256), il peut instantanément déterminer si deux fichiers sont exactement la même image, même s'ils portent des noms différents ou se trouvent dans des dossiers distincts. Cela vous aide à éliminer l'encombrement sans perdre rien d'important.
• La fenêtre de « prévisualisation instantanée » : Vous n'avez pas besoin d'attendre qu'un fichier volumineux se charge pour voir ce qu'il contient. PixelDeck crée rapidement de petites « vignettes » (comme une affiche de film) rapides à charger pour chaque image et vidéo. Il lit également les étiquettes et les notes attachées aux fichiers, vous permettant de les rechercher en tapant des mots-clés, tout comme avec Google.
• Le « travailleur occupé » en arrière-plan : Lorsque vous avez des milliers de fichiers à organiser, cela peut être accablant. PixelDeck utilise un « travailleur en arrière-plan » (comme un stagiaire serviable) pour gérer les tâches lourdes. Pendant que vous naviguez et regardez des images, ce stagiaire travaille silencieusement en arrière-plan pour importer de nouveaux fichiers, vérifier les doublons et préparer les exports, afin que votre ordinateur ne se fige pas.
• Le « test routier » : Pour prouver que cela fonctionne, les créateurs ont testé PixelDeck avec de vraies collections publiques d'images médicales (spécifiquement à partir des jeux de données nommés PanopTILs, SICAPv2 et PanNuke). Ils ont observé la rapidité avec laquelle il pouvait importer ces bibliothèques massives et la qualité avec laquelle il pouvait séparer différents types d'images en fonction de leurs caractéristiques visuelles. Les résultats ont montré que le système est rapide, fiable et excellent pour gérer de grandes collections d'images mélangées directement sur un ordinateur standard.

En bref, PixelDeck transforme un tas chaotique d'images médicales éparpillées en une collection rangée, recherchable et facile à utiliser, le tout sans avoir besoin de serveurs cloud coûteux ou de configurations complexes. Il garde vos données en sécurité sur votre propre machine tout en facilitant grandement la recherche, la comparaison et l'utilisation des images dont vous avez besoin.

Résumé technique

1. Énoncé du problème

Les flux de travail modernes d'imagerie biomédicale génèrent d'énormes quantités d'actifs dérivés (images et courtes vidéos) qui nécessitent une révision rigoureuse, une comparaison, une curation et une réutilisation après l'acquisition et l'analyse initiales. Actuellement, ces actifs souffrent d'une fragmentation organisationnelle significative :

• Stockage dispersé : Les fichiers sont éparpillés dans des hiérarchies de systèmes de fichiers imbriqués sur des disques locaux, des supports externes et du stockage réseau.
• Inefficacité : Cette dispersion entrave des tâches critiques telles que la récupération efficace, la déduplication et l'assemblage de figures pour publication.
• Absence d'outils : Il existe un déficit d'outils disponibles capables de gérer ces collections volumineuses et hétérogènes sur des postes de travail standards de type « commodité », sans nécessiter d'infrastructure cloud complexe ni de matériel spécialisé.

2. Méthodologie

PixelDeck répond à ces défis grâce à une application web open-source, local-first, conçue pour s'exécuter sur du matériel standard. L'architecture du système et le flux de travail sont définis comme suit :

• Pile d'architecture :
  • Frontend : Construit avec Next.js et React, offrant un environnement de navigation réactif et interactif.
  • Couche de données : Utilise SQLite pour le stockage des métadonnées, accessible via l'ORM Prisma, garantissant une solution de base de données légère et portable.
  • Gestion du stockage : Implémente une couche de stockage multimédia local gérée qui gère l'organisation des fichiers sans dépendre du cloud.
  • Traitement : Recourt à un processus d'arrière-plan (background worker) pour exécuter des tâches lourdes (importation, exportation, traitement) de manière asynchrone, évitant ainsi le blocage de l'interface utilisateur lors des opérations volumineuses.
• Fonctionnalités principales :
  • Importation récursive : Parcourt et ingère automatiquement les structures de dossiers imbriqués.
  • Déduplication : Utilise le hachage SHA-256 pour détecter et signaler avec précision les fichiers en double.
  • Métadonnées et visualisation : Extrait les métadonnées, génère des vignettes et des aperçus, et prend en charge la recherche plein texte.
  • Pipeline modulaire : Dispose d'un pipeline d'ingestion modulaire et d'un système d'exportation optimisé pour les collections à haut volume.
• Stratégie d'évaluation :
  • Ensembles de données : Les performances ont été évaluées à l'aide d'ensembles de données publics d'histopathologie : PanopTILs, SICAPv2 et PanNuke.
  • Métriques : L'étude a enregistré les comportements d'importation spécifiques aux ensembles de données, les taux de détection de doublons et les métriques d'ingestion.
  • Analyse : Une analyse basée sur les plongements (embeddings) a été réalisée pour vérifier si le système pouvait distinguer des séparations au niveau des ensembles de données cohérentes avec les caractéristiques sous-jacentes des images.

3. Contributions clés

• Système PixelDeck : L'introduction d'un outil open-source spécialisé, conçu spécifiquement pour les besoins uniques de la curation en imagerie biomédicale, comblant le fossé entre l'acquisition de données brutes et l'analyse en aval.
• Conception local-first : Une architecture robuste privilégiant la souveraineté des données et les performances sur des postes de travail standards, éliminant le besoin d'infrastructure serveur coûteuse ou de connectivité Internet pour les opérations de base.
• Flux de travail intégré : Unifie des tâches disparates (importation, déduplication, extraction de métadonnées, recherche et exportation) dans une seule interface réactive.
• Étalonnage reproductible : Fournit des résultats structurés et reproductibles concernant les performances d'ingestion et la détection de doublons à travers divers ensembles de données biomédicaux réels.

4. Résultats

• Performance : Le système a démontré sa capacité à gérer un traitement évolutif de grandes collections multimédias sur du matériel standard, l'exécution asynchrone des tâches assurant une expérience utilisateur réactive.
• Déduplication et ingestion : A enregistré avec succès des comportements d'importation spécifiques et des métriques de détection de doublons sur les ensembles de données PanopTILs, SICAPv2 et PanNuke, confirmant l'efficacité de l'approche SHA-256.
• Séparation sémantique : L'analyse basée sur les plongements a confirmé que les capacités d'organisation et de récupération du système s'alignent sur les caractéristiques intrinsèques des images, montrant une séparation claire au niveau des ensembles de données.
• Utilisabilité : L'interface réactive a géré efficacement la complexité des collections biomédicales hétérogènes, rationalisant le processus d'exploration.

5. Importance

PixelDeck représente une avancée critique dans la gestion des données biomédicales en fournissant une couche de curation efficace et évolutive. Son importance réside dans :

• La démocratisation de la gestion des données : En s'exécutant sur du matériel standard, il rend la gestion avancée de bibliothèques multimédias accessible aux chercheurs individuels et aux petits laboratoires, sans coûts cloud.
• L'optimisation du flux de travail : Il s'attaque directement au goulot d'étranglement de « l'assemblage de figures » et de l'exploration des ensembles de données, épargnant aux chercheurs le temps autrefois perdu dans la recherche et l'organisation manuelles de fichiers.
• L'intégrité des données : Les fonctionnalités rigoureuses de déduplication et d'extraction de métadonnées garantissent que les analyses en aval sont effectuées sur des ensembles de données propres, bien organisés et non redondants.
• La pérennité : La conception modulaire permet une adaptation facile à de nouveaux formats de fichiers ou une intégration avec des pipelines d'analyse émergents, soutenant l'évolution du paysage de l'imagerie biomédicale.