Open-source, Hardware-Independent GPU Acceleration for Scalable Nanopore Basecalling with Slorado and Openfish

Ce papier présente Openfish et Slorado, des solutions open-source et indépendantes du matériel qui permettent une accélération GPU scalable pour le basecalling nanopore, offrant une alternative performante et accessible au logiciel propriétaire Dorado d'Oxford Nanopore Technologies.

L'essentiel

🧬 Le Problème : Une Clé Fermée dans un Coffre Fort

Imaginez que la technologie de séquençage Nanopore soit comme un traducteur ultra-rapide capable de lire l'ADN (le code de la vie) en temps réel. Pour fonctionner, ce traducteur a besoin d'une étape cruciale appelée "basecalling" (ou "appel de bases"). C'est le moment où les signaux électriques bruts sont transformés en lettres (A, T, C, G).

Actuellement, le meilleur traducteur du monde, appelé Dorado (fabriqué par Oxford Nanopore), fonctionne très bien, mais il y a un gros hic : il est enfermé dans une boîte noire.

• La situation actuelle : Pour aller vite, Dorado utilise un moteur secret et propriétaire (une bibliothèque appelée "Koi") qui ne fonctionne que sur des cartes graphiques (GPU) très spécifiques de la marque NVIDIA.
• Le résultat : Si vous n'avez pas ces cartes NVIDIA coûteuses, ou si vous utilisez des cartes AMD, Apple ou des petits ordinateurs portables, le traducteur devient extrêmement lent, voire inutilisable. C'est comme si vous aviez une Ferrari, mais que vous ne pouviez la conduire que sur une seule autoroute spécifique, et seulement avec un type de carburant très cher.

🚀 La Solution : Slorado et Openfish

L'équipe de chercheurs a créé deux outils pour ouvrir cette boîte noire et rendre la technologie accessible à tous :

1. Openfish : C'est le nouveau moteur. C'est une version libre et ouverte du code secret "Koi". Au lieu de dépendre d'un seul fournisseur, Openfish est conçu pour fonctionner sur n'importe quelle carte graphique moderne, qu'elle soit de marque NVIDIA (le standard actuel) ou AMD (une alternative puissante mais souvent ignorée par les biologistes).
2. Slorado : C'est le véhicule complet. C'est un logiciel qui utilise le moteur Openfish pour faire tout le travail de traduction de l'ADN. Il est gratuit, open-source et fonctionne partout.

🏎️ L'Analogie de la Course de Véhicules

Pour comprendre l'impact de leur découverte, imaginons une course de voitures :

• L'ancien système (Dorado sans Koi) : C'est comme essayer de traverser un océan en rameant. C'est possible, mais cela prendrait des mois. Les chercheurs ont montré que sans le moteur secret, traduire un génome humain prenait des mois au lieu de quelques heures.
• Le système actuel (Dorado avec Koi) : C'est une F1 de course, mais elle ne roule que sur un circuit privé (NVIDIA). Elle est très rapide, mais inaccessible aux autres.
• Le nouveau système (Slorado + Openfish) : C'est une F1 universelle. Elle est tout aussi rapide que l'ancienne, mais elle peut rouler sur le circuit NVIDIA, mais aussi sur le circuit AMD, et même sur des circuits plus petits comme ceux des ordinateurs portables ou des supercalculateurs publics.

🌍 Les Résultats Concrets

Grâce à cette innovation, l'équipe a démontré plusieurs choses incroyables :

• Vitesse égale : Slorado est aussi rapide que le logiciel officiel de Dorado, même sur des cartes graphiques AMD.
• Accessibilité mondiale : Ils ont fait tourner le logiciel sur des supercalculateurs en Australie, mais aussi sur de petits ordinateurs portables et même sur des puces embarquées (comme celles utilisées dans les drones ou les robots).
• Temps réel : Sur un simple ordinateur de bureau avec une carte graphique AMD (coûtant moins de 1000 $), Slorado arrive à suivre le rythme de production de données d'une machine à séquençage en direct. C'est comme si un traducteur pouvait lire un livre entier à la vitesse à laquelle il est écrit, sans jamais prendre de retard.
• Économie d'énergie et d'argent : Cela permet aux laboratoires d'utiliser du matériel qu'ils possèdent déjà (comme des cartes AMD) au lieu d'acheter du matériel NVIDIA très cher.

🎯 Pourquoi c'est important pour tout le monde ?

Avant, la recherche génétique était bloquée par un "verrouillage matériel" : il fallait acheter du matériel spécifique pour faire avancer la science.

Avec Slorado et Openfish :

• La science devient plus démocratique : N'importe quel laboratoire, même avec un petit budget, peut faire du séquençage rapide.
• L'innovation s'accélère : Les chercheurs peuvent tester de nouveaux algorithmes sans être limités par le matériel.
• La santé portable : Cela ouvre la voie à des dispositifs de séquençage portables et peu coûteux, capables de diagnostiquer des maladies sur le terrain, loin des grands hôpitaux.

En résumé : Les auteurs ont déverrouillé la porte de la vitesse en génétique. Ils ont transformé un outil réservé à une élite technologique en un outil libre, rapide et disponible pour tous, quel que soit le matériel informatique qu'ils possèdent.

Résumé technique

1. Problématique

Le séquençage par nanopores (Nanopore) est une technologie clé en génomique, mais son étape critique, le basecalling (conversion des signaux électriques bruts en séquences de nucléotides), souffre de limitations majeures liées à la propriété intellectuelle et au matériel :

• Dépendance matérielle et logicielle fermée : L'outil de basecalling de référence, Dorado (développé par Oxford Nanopore Technologies - ONT), repose sur une bibliothèque propriétaire et fermée appelée Koi. Bien que le code source de Dorado soit ouvert, les optimisations GPU critiques sont encapsulées dans Koi.
• Verrouillage matériel (Hardware Lock-in) : La bibliothèque Koi est optimisée exclusivement pour des GPU NVIDIA spécifiques. Sans elle, les performances de Dorado chutent drastiquement (jusqu'à 14 fois plus lent), rendant le basecalling pratique impossible sur d'autres architectures (comme AMD) ou sur des appareils grand public.
• Goulot d'étranglement de transfert de données : Dans l'implémentation open-source de Dorado (sans Koi), le processus de décodage est effectué sur le CPU. Cela nécessite un transfert massif de données (les scores du réseau neuronal) de la mémoire GPU vers la mémoire CPU, ce qui consomme environ 50 % du temps total d'exécution et limite considérablement le débit.
• Barrière à l'innovation et à l'accessibilité : Cette dépendance empêche l'utilisation de ressources de calcul hétérogènes (centres de données AMD, appareils embarqués, Apple Silicon) et freine le développement d'algorithmes de basecalling transparents et communautaires.

2. Méthodologie

Pour surmonter ces obstacles, les auteurs ont développé deux composants logiciels interconnectés : Openfish et Slorado.

A. Openfish : Une bibliothèque de décodage accélérée par GPU

Openfish est une bibliothèque open-source qui remplace la bibliothèque fermée Koi.

• Implémentation GPU native : Contrairement à l'approche CPU de Dorado sans Koi, Openfish exécute l'algorithme de décodage (recherche par faisceau ou beam search) directement sur le GPU. Cela élimine le besoin de transférer les scores intermédiaires du GPU vers le CPU.
• Portabilité multi-plateforme : Le code est écrit en CUDA C pour les GPU NVIDIA et en HIP C pour les GPU AMD, permettant une exécution native sur les deux architectures.
• Optimisation de l'algorithme de Beam Search : Les auteurs ont réécrit l'algorithme de recherche par faisceau (initialement séquentiel sur CPU) pour le paralléliser massivement sur le GPU. Ils utilisent la mémoire partagée (Shared Memory) pour réduire les accès à la mémoire globale et évitent l'allocation dynamique de mémoire, ce qui est coûteux sur GPU.
• Fusion de couches : Openfish intègre des couches fusionnées (comme la normalisation racine carrée moyenne et les embeddings rotatifs) pour accélérer l'étape d'inférence.

B. Slorado : Un framework de basecalling complet

Slorado est le framework open-source qui intègre Openfish pour offrir une solution de bout en bout.

• Format de données : Slorado utilise le format SLOW5/BLOW5 (binaire) plutôt que le format POD5 natif d'ONT, ce qui améliore les performances d'E/S sur les systèmes de fichiers parallèles (comme Lustre).
• Architecture : Il utilise LibTorch pour l'inférence des modèles neuronaux (RNN LSTM et Transformers) et Openfish pour le décodage.
• Compatibilité : Il supporte les modèles de basecalling v5 d'ONT (FAST, HAC, SUP) pour l'ADN et l'ARN.

3. Contributions Clés

1. Démocratisation du matériel : La première solution open-source capable d'exécuter le basecalling de pointe d'ONT sur des GPU AMD (Instinct MI250X, MI300X) et des GPU grand public, en plus des GPU NVIDIA.
2. Élimination du goulot d'étranglement CPU-GPU : En déplaçant le décodage sur le GPU via Openfish, les auteurs ont supprimé le transfert de données coûteux, rendant les performances comparables à celles de la bibliothèque propriétaire Koi.
3. Framework entièrement open-source : Slorado offre une alternative transparente à Dorado, facilitant la compilation, le déploiement et la recherche sur de nouvelles architectures de basecalling.
4. Support du basecalling en temps réel (Live Basecalling) : Démonstration de la capacité à suivre le rythme de production des données d'un séquenceur PromethION sur du matériel grand public peu coûteux (GPU AMD RX 7900 XTX).

4. Résultats

Les auteurs ont évalué Slorado/Openfish sur une variété de plateformes (NCI Gadi, Pawsey, serveurs locaux, appareils embarqués) en utilisant des jeux de données réels (HG002 pour l'ADN, UHRR pour l'ARN).

• Performance vs. Koi (NVIDIA) : Sur des GPU NVIDIA (A100, H200), Openfish atteint des performances quasi équivalentes à la bibliothèque Koi (environ 6 % plus lent en moyenne), prouvant que l'optimisation open-source peut rivaliser avec la solution propriétaire.
• Performance sur AMD : Slorado fonctionne efficacement sur des GPU AMD (MI250X, MI300X), là où Dorado échoue ou n'est pas supporté.
  • Sur un nœud avec 4x AMD MI250X, le débit atteint 746 Gb/jour (modèle FAST).
  • Sur un nœud avec 8x AMD MI300X, le débit atteint 2196 Gb/jour (modèle FAST).
• Évolutivité (Scaling) : Le système montre une excellente évolutivité multi-GPU. Avec 8 GPU AMD MI300X, le débit passe de 250 à 1587 Gb/jour pour le modèle FAST (accélération relative de 6,4x).
• Précision : Les scores d'identité médiane entre Slorado et Dorado sont quasi identiques (ex: 0,988923 vs 0,988889 pour le modèle SUP), confirmant que l'ouverture du code n'altère pas la qualité biologique des résultats.
• Basecalling en temps réel : Sur un GPU grand public (AMD RX 7900 XTX), Slorado a réussi à suivre le flux de données d'un PromethION sur une période de 48 heures, générant des fichiers FASTQ complets à la fin du séquençage.
• Support des appareils embarqués : Le système fonctionne sur des dispositifs comme le NVIDIA Jetson AGX Xavier et les GPU intégrés AMD (760M), ouvrant la voie au séquençage portable.

5. Signification et Impact

Ce travail représente une avancée majeure pour l'écosystème du séquençage par nanopores :

• Fin du verrouillage matériel : Il brise la dépendance exclusive aux GPU NVIDIA, permettant aux laboratoires d'utiliser des infrastructures de calcul existantes (supercalculateurs AMD, clusters hétérogènes) et de réduire les coûts.
• Innovation accélérée : En fournissant une base open-source transparente, les chercheurs peuvent désormais développer, tester et déployer de nouveaux algorithmes de basecalling sans être limités par des bibliothèques propriétaires.
• Démocratisation du séquençage : La capacité à faire du basecalling performant sur du matériel grand public et embarqué rend la technologie de séquençage portable plus accessible pour des applications sur le terrain (diagnostic décentralisé, surveillance environnementale).
• Futur de la recherche : L'architecture de Slorado est conçue pour s'adapter aux futures évolutions des modèles neuronaux (y compris pour la détection de modifications épigénétiques) et peut être étendue à d'autres accélérateurs (FPGA, Intel GPU, Apple Silicon).

En résumé, Slorado et Openfish transforment le basecalling nanopore d'une technologie propriétaire et verrouillée en une infrastructure ouverte, portable et hautement performante, capable de s'adapter à la diversité des ressources de calcul modernes.