Two-Stage Fine-Tuning of ResNet50 for High-Sensitivity Melanoma Detection on Dermoscopic Images

Stellen Sie sich vor, Sie versuchen, einem sehr intelligenten, weit gereisten Roboter (genannt ResNet50) beizubringen, eine gefährliche Hauterkrankung namens Melanom auf Fotos der Haut zu erkennen. Dieser Roboter hat bereits Millionen von normalen Fotos gesehen (wie Katzen, Autos und Bäume) und ist ein Experte darin, allgemeine Formen und Farben zu erkennen. Aber jetzt muss er eine sehr spezifische, lebenswichtige Fähigkeit lernen: den Unterschied zwischen einem harmlosen Muttermal und einem gefährlichen Krebs zu erkennen.

Hier ist, wie der Autor, Aryan Bhagat, diesen Roboter darauf vorbereitet hat, erklärt in einfacher Sprache:

1. Das Problem: Der Roboter war voreingenommen und verwirrt

Der Roboter stand vor zwei großen Hürden:

• Das „Zu viele gute Muttermale“-Problem: In der realen Welt sind die meisten Muttermale harmlos (gutartig) und nur sehr wenige sind bösartig (Melanom). Wenn man dem Roboter einfach einen Stapel Fotos zeigt, bei denen 8 von 10 harmlos sind, wird er faul. Er beginnt, einfach alles als „harmlos“ einzustufen, nur um meistens richtig zu liegen. Das ist gefährlich, weil er den Krebs übersieht.
• Das „Einheitsgröße“-Problem: Normalerweise, wenn wir einem Roboter einen neuen Trick beibringen, passen wir sein Gehirn alle auf einmal an. Aber der Autor fand heraus, dass das zu schnelle Vorgehen dazu führte, dass der Roboter sein bereits vorhandenes Allgemeinwissen (wie das Erkennen von Kanten und Schatten) vergaß und durch die neuen, spezifischen Details der Haut verwirrt wurde.

2. Die Lösung: Ein Zwei-Stufen-„Bootcamp“

Anstatt den Roboter sofort ins tiefe Wasser zu werfen, verwendete der Autor einen Zwei-Stufen-Feinabstimmungs-Ansatz (Two-Stage Fine-Tuning). Stellen Sie sich das wie das Training eines Athleten in zwei verschiedenen Phasen vor:

• Stufe 1: Das Aufwärmen (Stabilisierung des Kopfes)
  Der Autor „fror“ das „Gehirn“ des Roboters (den Teil, der allgemeine Merkmale sieht) ein, sodass es sich nicht ändern konnte. Er trainierte nur den „Entscheider“ (den Klassifikationskopf) für eine kurze Zeit.

  • Analogie: Stellen Sie sich einen neuen Mitarbeiter vor, der weiß, wie man einen Computer benutzt, aber die spezifischen Regeln der Firma noch nicht kennt. In Stufe 1 bringen Sie ihm nur die Regeln bei (den Entscheidungsteil), ohne dass er die komplexen Maschinen schon anfassen darf. Dies stellt sicher, dass er nicht überfordert wird.
  • Die Lösung: Vorher hat der Autor die Trainingsfotos so ausbalanciert, dass es eine gleiche Anzahl an „Krebs“- und „kein Krebs“-Bildern gab. Dies zwang den Roboter, beiden Kategorien Aufmerksamkeit zu schenken, nicht nur den einfachen „kein Krebs“-Bildern.

• Stufe 2: Das tiefe Eintauchen (Feinabstimmung von allem)
  Sobeder der Entscheider stabil war, gab der Autor das gesamte Gehirn wieder frei. Er ließ den Roboter sein gesamtes Netzwerk anpassen, um Hautfotos zu verstehen, aber er drosselte die Lerngeschwindigkeit auf ein absolutes Minimum (eine sehr niedrige „Lernrate“).

  • Analogie: Jetzt, wo der Mitarbeiter die Regeln kennt, darf er die Maschinen berühren, aber man sagt ihm, er solle sich sehr langsam und vorsichtig bewegen. Dies verhindert, dass er versehentlich die nützlichen Fähigkeiten, die er in seinem vorherigen Job gelernt hat (das „ImageNet“-Wissen), beschädigt, während er die neuen, hautspezifischen Fähigkeiten lernt.

3. Die Ergebnisse: Ein scharfes Auge

Als sie diesen Roboter an einem völlig neuen Satz von 3.826 Hautfotos testeten, die er noch nie zuvor gesehen hatte, waren die Ergebnisse beeindruckend:

• Er erkannte den Krebs: Er identifizierte etwa 87,6 % der tatsächlichen Melanom-Fälle korrekt. Das ist die wichtigste Zahl, denn einen Krebsfall zu übersehen, ist das schlimmste Ergebnis.
• Er geriet nicht in Panik: Er sagte korrekt, dass etwas „sicher“ sei, in etwa 89,1 % der Fälle bei harmlosen Muttermalen. Das ist großartig, weil es bedeutet, dass weniger Menschen unnötige Biopsien (Operationen zur Untersuchung eines Muttermals) benötigen.
• Die „Ablationsstudie“ (Der Beweis): Der Autor bewies, dass diese Methode funktioniert, indem er den Roboter mit der „alten Methode“ (nur eine Stufe) verglich. Der Zwei-Stufen-Roboter war um 4 % besser im Finden von Krebs. In einer Gruppe von 3.800 Menschen bedeutet dieser Unterschied, dass er etwa 161 zusätzliche Krebsfälle gefunden hätte, die die alte Methode übersehen hätte.

4. Den Denkprozess des Roboters sehen (Grad-CAM)

Der Autor vertraute nicht nur den Zahlen; er bat den Roboter, seine Arbeit mithilfe eines Werkzeugs namens Grad-CAM zu zeigen.

• Analogie: Es ist, als würde der Roboter eine leuchtend rote Karte über das Foto zeichnen, um genau zu zeigen, worauf er geschaut hat.
• Das Ergebnis: Wenn der Roboter Krebs sah, konzentrierte sich die rote Karte auf die seltsamen, unregelmäßigen Ränder des Muttermals. Wenn er ein sicheres Muttermal sah, war die Karte eher weit gestreut. Dies bewies, dass der Roboter tatsächlich auf die Hautveränderung schaute und nicht nur basierend auf zufälligem Hintergrundrauschen wie Haaren oder Linealen im Foto rät.

5. Was das bedeutet

Das Paper kommt zu dem Schluss, dass man keine völlig neue, komplexe Roboter-Architektur erfinden muss, um großartige Ergebnisse zu erzielen. Stattdessen kommt es darauf an, wie man den Roboter lehrt. Durch die Verwendung dieser spezifischen Zwei-Stufen-Trainingsmethode und indem sichergestellt wurde, dass der Roboter die Fotos während des Trainings und des Testens exakt auf die gleiche Weise sieht, schuf der Autor einen hochempfindlichen Detektor.

Der Autor hat sogar eine kostenlose, funktionierende App (mit Streamlit) gebaut, bei der jeder ein Hautfoto hochladen und die Vorhersage des Roboters zusammen mit der „Heatmap“, die zeigt, wohin er geschaut hat, sehen kann. Der gesamte Code ist offen zugänglich, damit jeder ihn prüfen und nutzen kann.

Kurz gesagt: Das Paper zeigt, dass man durch das Training eines Standard-KI-Modells in zwei sorgfältigen Schritten statt in einem überstürzten Schritt die Fähigkeit, gefährlichen Hautkrebs zu entdecken, signifikant verbessern kann, während man gleichzeitig Fehlalarme vermeidet.