Open-source, Hardware-Independent GPU Acceleration for Scalable Nanopore Basecalling with Slorado and Openfish

Die Autoren stellen mit Openfish und Slorado eine vollständig quelloffene, hardwareunabhängige GPU-beschleunigte Lösung für die Nanopore-Basecalling vor, die die proprietären Beschränkungen von ONT Dorado überwindet und dabei eine vergleichbare Genauigkeit und Skalierbarkeit auf heterogenen Systemen gewährleistet.

Das Wesentliche

Titel: Wie man die DNA-Entschlüsselung aus der „NVIDIA-Falle" befreit

Stellen Sie sich vor, Sie haben einen hochmodernen, tragbaren DNA-Scanner (die Nanopore-Technologie). Er ist klein, schnell und kann die DNA-Buchstaben (A, T, C, G) direkt aus elektrischen Signalen lesen. Aber es gibt ein riesiges Problem: Um diese elektrischen Signale in lesbare Buchstaben zu verwandeln, braucht man einen sehr starken Computer. Und genau hier liegt das Problem.

Bisher war dieser Schritt, genannt „Basecalling" (die Übersetzung der Signale), wie ein Schloss, das nur mit einem einzigen, proprietären Schlüssel geöffnet werden konnte. Dieser Schlüssel war eine geheime Software von Oxford Nanopore Technologies (ONT), die nur auf ganz bestimmten Grafikkarten von NVIDIA lief.

Wenn Sie keine dieser teuren NVIDIA-Karten hatten, war die Software extrem langsam – so langsam, dass sie für die Praxis unbrauchbar war. Es war, als ob Sie einen Ferrari hätten, aber nur auf Schienen fahren dürften, die nur für eine bestimmte Marke gebaut wurden.

Die Lösung: Openfish und Slorado

Die Autoren dieses Papers haben nun zwei neue Werkzeuge entwickelt, die dieses Schloss aufbrechen:

1. Openfish (Der neue Schlüssel):
   Stellen Sie sich vor, das Entschlüsseln der DNA-Signale ist wie das Sortieren von Millionen von Karten in einem riesigen Kartenspiel. Bisher musste man die Karten vom Computer (der GPU) zum Gehirn (der CPU) tragen, sortieren und wieder zurücktragen. Das war der Flaschenhals.
   Openfish ist wie ein Team von Tausenden von Robotern, die direkt auf der Grafikkarte arbeiten. Sie sortieren die Karten, ohne sie erst irgendwohin zu tragen. Das ist unglaublich schnell. Und das Beste: Diese Roboter funktionieren nicht nur mit NVIDIA-Karten, sondern auch mit Karten von AMD und sogar mit kleinen, günstigen Chips in Laptops oder Raspberry-Pi-ähnlichen Geräten.

2. Slorado (Das neue Auto):
   Wenn Openfish der Motor ist, dann ist Slorado das ganze Auto. Es ist eine komplett offene Software, die Openfish nutzt, um DNA (und sogar RNA) zu entschlüsseln.

   • Früher: Sie mussten ein teures, geschlossenes Auto (Dorado mit NVIDIA-Karten) kaufen, um schnell zu fahren.
   • Heute: Mit Slorado können Sie jeden beliebigen Motor (AMD, NVIDIA, eingebettete Chips) unter die Haube legen und fahren trotzdem genauso schnell und präzise wie mit dem teuren Original.

Was haben die Forscher bewiesen?

• Geschwindigkeit: Ohne Openfish war die alte Software ohne NVIDIA-Karten so langsam, dass ein ganzes menschliches Genom (wie ein riesiges Buch) drei Monate lang gelesen hätte. Mit Openfish dauert es nur wenige Stunden – egal ob auf einem Supercomputer oder einem normalen Gaming-PC.
• Genauigkeit: Die Ergebnisse sind genauso gut wie beim Original. Es ist, als ob Sie mit einem neuen, offenen Werkzeug eine perfekte Kopie eines Meisterwerks anfertigen – niemand kann den Unterschied erkennen.
• Echtzeit: Selbst auf einem kleinen, günstigen AMD-Chip in einem normalen Desktop-PC konnte Slorado die DNA-Signale so schnell verarbeiten, wie sie vom Scanner kamen. Das bedeutet: Man kann die Ergebnisse live sehen, während das Gerät noch läuft.

Warum ist das wichtig?

Bisher war die moderne Genomforschung an teure Hardware gebunden. Das hat viele Forscher, Kliniken und Länder benachteiligt, die sich keine teuren NVIDIA-Server leisten konnten.

Mit Openfish und Slorado wird die Tür aufgestoßen:

• Demokratisierung: Jeder kann jetzt schnell DNA entschlüsseln, egal welche Hardware er hat.
• Innovation: Da alles offen ist, können Entwickler neue Ideen ausprobieren, ohne auf eine Firma zu warten.
• Zukunftssicherheit: Wenn morgen eine neue Art von Computerchip auf den Markt kommt, muss man nicht warten, bis die Firma ihn unterstützt. Die offene Software kann angepasst werden.

Zusammenfassung in einem Satz:
Die Forscher haben einen offenen, universellen Schlüssel (Openfish) und ein flexibles Auto (Slorado) gebaut, das die DNA-Entschlüsselung von der Abhängigkeit teurer, exklusiver Hardware befreit und sie für jeden, überall und auf jeder Art von Computer schnell und präzise macht.

Technische Zusammenfassung

1. Problemstellung

Die Nanopore-Sequenzierung (z. B. von Oxford Nanopore Technologies, ONT) ist ein zentrales Werkzeug in der Genomforschung. Ein kritischer Schritt im Workflow ist das Basecalling, bei dem die rohen elektrischen Signale in Nukleotidsequenzen (DNA/RNA) übersetzt werden.

• Der aktuelle Standard: Das State-of-the-Art-Basecalling-Tool von ONT heißt Dorado. Es nutzt hochmoderne Deep-Learning-Modelle (LSTM für FAST/HAC und Transformer für SUP).
• Das Hindernis: Obwohl der Quellcode von Dorado offen ist, sind die entscheidenden, hardware-spezifischen Optimierungen für die GPU in einer geschlossenen, proprietären Bibliothek namens „Koi" enthalten.
• Die Konsequenz:
  • Hardware-Lock-in: Hochleistungs-Basecalling ist effektiv auf eine enge Klasse von NVIDIA-GPUs beschränkt.
  • Performance-Verlust ohne Koi: Wenn die Koi-Bibliothek fehlt (z. B. auf AMD-GPUs oder bei reinem Open-Source-Setup), muss die Decodierung auf der CPU erfolgen. Dies führt zu einem massiven Flaschenhals, da die neuronalen Netzwerkwerte von der GPU zur CPU kopiert werden müssen. In Tests führte dies zu einer Verlangsamung um den Faktor >14.
  • Eingeschränkte Portabilität: Dies verhindert den Einsatz auf kostengünstiger Hardware, Embedded-Devices (z. B. Jetson) oder AMD-basierten Rechenzentren, was die Reproduzierbarkeit und den Zugang zur Technologie einschränkt.

2. Methodik

Die Autoren entwickelten eine vollständig offene Lösung, die den proprietären Koi-Layer ersetzt und die Decodierung direkt auf der GPU durchführt.

• Openfish: Eine Open-Source-GPU-Bibliothek für die beschleunigte Decodierung.
  • Algorithmus: Sie implementiert einen Beam-Search-Algorithmus (basierend auf CRF-CTC), der direkt auf den GPU-Scores operiert.
  • Hardware-Unabhängigkeit: Der Code ist in CUDA C (für NVIDIA) und HIP C (für AMD) geschrieben, was eine breite Hardware-Unterstützung ermöglicht.
  • Optimierung: Um den Flaschenhals der Datenübertragung zwischen GPU und CPU zu eliminieren, findet die gesamte Decodierung (inklusive Beam Search) innerhalb des GPU-Speichers statt. Es werden statische Speicherzuweisungen verwendet, um teure dynamische Allokationen zu vermeiden, und Shared Memory wird effizient genutzt.
• Slorado: Ein vollständig Open-Source-Framework, das Openfish integriert.
  • Es nutzt dieselben ONT-Modelle wie Dorado, liest jedoch Daten im SLOW5/BLOW5-Format statt im proprietären POD5-Format (was oft I/O-Engpässe in Cluster-Dateisystemen vermeidet).
  • Es unterstützt sowohl DNA- als auch RNA-Basecalling.

3. Schlüsselbeiträge

1. Openfish: Die erste Open-Source-Implementierung einer GPU-beschleunigten Decodierung für ONT-Modelle, die die Leistung der proprietären Koi-Bibliothek erreicht, ohne deren geschlossenen Code zu benötigen.
2. Slorado: Ein end-to-end Basecalling-Framework, das Dorado als vollwertige, offene Alternative ablöst.
3. Hardware-Agnostizismus: Die Lösung läuft auf einer Vielzahl von Hardware-Plattformen, darunter:
   • NVIDIA-Datacenter-GPUs (A100, H200).
   • AMD-Instinct-GPUs (MI250X, MI300X).
   • Consumer-GPUs (AMD RX 7900 XTX).
   • Embedded-Devices (NVIDIA Jetson AGX Xavier, AMD integrierte Grafikkarten).
4. Skalierbarkeit: Das Framework skaliert effizient von einzelnen Consumer-GPUs bis hin zu Multi-Node-Clustern mit Hunderten von GPUs.

4. Ergebnisse

Die Autoren führten umfangreiche Benchmarks auf verschiedenen Systemen durch (u. a. auf den Supercomputern „Gadi" und „Pawsey" in Australien).

• Performance vs. Koi: Openfish erreicht eine Geschwindigkeit, die der proprietären Koi-Bibliothek sehr nahe kommt (im Durchschnitt nur ca. 6% langsamer als Koi auf NVIDIA-Hardware). Ohne Openfish/Koi (reine CPU-Decodierung) wäre das Basecalling um den Faktor >14 langsamer und für praktische Anwendungen unbrauchbar.
• Genauigkeit: Slorado liefert Ergebnisse mit äquivalenter Genauigkeit wie Dorado. Die medianen Identitätswerte (Identity Scores) für DNA und RNA sind nahezu identisch (z. B. SUP-Modell: 0,988923 bei Slorado vs. 0,988889 bei Dorado). Geringe Abweichungen liegen an Floating-Point-Präzision und GPU-Treiber-Versionen, nicht am Algorithmus.
• AMD-Kompatibilität: Slorado ermöglicht Basecalling auf AMD-GPUs mit hoher Geschwindigkeit (z. B. ~746 Gigabases/Tag auf einem MI250X-System für FAST-Modelle), was mit Dorado unmöglich ist.
• Skalierung:
  • Auf einem Node mit 8 AMD MI300X GPUs konnte Slorado ein komplettes PromethION-Dataset (HG002) in nur 1,2 Stunden verarbeiten (SUP-Modell), was eine 12,5-fache Verbesserung gegenüber der Verarbeitung auf einem einzelnen Node darstellt.
  • Die Skalierung auf mehrere GPUs zeigt eine nahezu lineare Steigerung der Durchsatzrate.
• Echtzeit-Fähigkeit: Auf einer einzelnen Consumer-GPU (AMD RX 7900 XTX) konnte Slorado die Datenerzeugungsrate eines PromethION-Flowcells in Echtzeit (Live-Basecalling) einhalten.
• Edge-Computing: Erfolgreicher Basecalling auf NVIDIA Jetson und AMD integrierten GPUs, wo Dorado entweder abstürzt oder nicht unterstützt wird.

5. Bedeutung und Ausblick

Diese Arbeit beseitigt eine der größten Barrieren für die breite Nutzung und Weiterentwicklung von Nanopore-Sequenzierung: die Abhängigkeit von proprietärer NVIDIA-Hardware und geschlossener Software.

• Demokratisierung: Forscher können nun kostengünstige, alternative Hardware (AMD, Embedded-Systeme) für Hochleistungs-Basecalling nutzen.
• Innovation: Da der Code offen ist, kann die Community neue Algorithmen, Optimierungen und Modelle (z. B. für Modifikations-Erkennung) leichter integrieren und testen.
• Zukunft: Die Architektur bietet eine Grundlage für die Unterstützung weiterer Beschleuniger (z. B. Intel GPUs, FPGAs) und könnte die Rechenkosten für die Genomik signifikant senken.

Zusammenfassend stellen Openfish und Slorado einen Meilenstein dar, der High-Performance Nanopore Basecalling von einem proprietären Ökosystem in eine offene, hardware-unabhängige und skalierbare Umgebung überführt.