KANEL: Kolmogorov-Arnold Network Ensemble Learning Enables Early Hit Enrichment in High-Throughput Virtual Screening

Het paper introduceert KANEL, een ensemble-workflow die interpreteerbare Kolmogorov-Arnold-netwerken combineert met andere machine learning-modellen en complementaire moleculaire representaties om de vroege hit-verrijking in virtuele screenings te verbeteren.

De kern

Stel je voor dat je een enorme schatkamer vol met miljoenen verschillende sleutels hebt, en je bent op zoek naar de één perfecte sleutel die een speciaal slot opent. Dit slot is een ziekte, en de sleutel is een medicijn.

In de wereld van medicijnontwikkeling hebben wetenschappers nu zo'n enorme schatkamer (een digitale bibliotheek met miljarden moleculen) dat het onmogelijk is om ze één voor één te testen. Het zou te lang duren en te veel geld kosten.

Hier komt KANEL om de hoek kijken. KANEL is een slimme, digitale "sleutelzoeker" die helpt om de beste kandidaten heel snel te vinden.

Hier is hoe het werkt, vertaald in alledaagse taal:

1. Het Probleem: De Naald in de Hooiberg

Stel je voor dat je een hooiberg hebt met 100.000 stukken hooi, maar er zit slechts één naald in.

• De oude manier: Je kijkt naar de hele hooiberg en zegt: "Gemiddeld gezien heb ik een goede kans om de naald te vinden." Dit is zoals de oude meetmethode (AUC) die zegt: "Het model is over het algemeen goed."
• Het echte probleem: In de praktijk kun je maar een heel klein stapje hooi testen (bijvoorbeeld de eerste 128 stukken). Als de naald niet in die eerste 128 zit, heb je niets aan je "gemiddeld goede" model. Je wilt weten: Zit de naald in de top 128?

KANEL is gebouwd om precies dat te doen: het zorgt ervoor dat de beste sleutels bovenaan de lijst komen te staan, zodat je ze als eerste kunt testen.

2. De Oplossing: Een Super-Team (Het Ensemble)

In plaats van één super-sleutelzoeker aan te stellen, heeft KANEL een team samengesteld. Stel je een detectivebureau voor met verschillende experts:

• Expert A (XGBoost): Kijkt naar de vorm van de sleutel.
• Expert B (Random Forest): Kijkt naar de textuur van het metaal.
• Expert C (MLP): Kijkt naar de gewicht en balans.
• Expert D (KAN - Kolmogorov-Arnold Network): Dit is de nieuwe, speciale expert. KAN is uniek omdat hij niet alleen een antwoord geeft, maar ook uitlegt waarom hij dat antwoord geeft. Het is alsof deze detective zijn redenering op een whiteboard schrijft: "Ik denk dat dit de sleutel is, omdat de tanden zo liggen."

Elke expert kijkt naar de sleutels op een iets andere manier (met verschillende "brillen" of beschrijvingen).

3. De Slimme Samenwerking

KANEL laat deze experts niet alleen werken. Ze zitten aan één tafel en bespreken hun bevindingen.

• Als Expert A twijfelt, maar Expert B en C zeker zijn, luistert KANEL meer naar B en C.
• Ze gebruiken een slim algoritme (Optuna) om te bepalen wie er op dat moment het meest moet worden gehoord.

Het resultaat? Dit team werkt veel beter dan de beste individuele expert alleen. In de test met vijf verschillende "schatkamers" (datasets) vond het team 9% tot 40% meer goede sleutels in de top-lijst dan welke enkele expert ook.

4. Waarom is dit belangrijk?

• Sparen van tijd en geld: Door de juiste sleutels direct bovenop de stapel te leggen, hoeven wetenschappers niet urenlang te zoeken. Ze testen alleen de top-kandidaten.
• Betrouwbaarheid: De auteurs hebben getest of het team niet gewoon "gokt" (door de antwoorden te willekeurig te veranderen). Toen ze dat deden, viel de prestatie drastisch. Dit bewijst dat het team echt iets leert over hoe moleculen werken, en niet toevallig raadt.
• De toekomst: Ze hebben zelfs een proef gedaan met een "beeldherkennings-robot" (een Graph Neural Network) die de moleculen ziet als tekeningen. Hoewel die nog niet perfect was, laten ze zien dat ze dit in de toekomst ook in het team willen opnemen.

Samenvattend

KANEL is als een slimme zoekmachine voor medicijnen. In plaats van één slimme computer te gebruiken, maakt het een team van verschillende slimme computers die samenwerken. Ze kijken naar de moleculen vanuit verschillende hoeken en kiezen gezamenlijk de allerbeste kandidaten.

Dit zorgt ervoor dat als je 128 moleculen gaat testen in het lab, je een veel grotere kans hebt dat je de echte "treffer" (het medicijn) vindt, in plaats van alleen maar "missers". Het is een stap in de richting van snellere, goedkopere en slimmere medicijnontwikkeling.

Technische samenvatting

Probleemstelling

De snelle expansie van volledig genummerde chemische bibliotheken voor virtuele screening (VS) heeft enorme uitdagingen geschapen voor computationele methoden. Traditionele methoden zoals moleculaire docking zijn onhaalbaar voor bibliotheken met miljarden moleculen (bijv. Enamine REAL SPACE met >78 miljard moleculen). Hoewel machine learning (ML) methoden efficiënter zijn, is de evaluatie van modelnauwkeurigheid vaak ongeschikt voor de praktijk van high-throughput screening (HTS).

• Het kernprobleem: In experimentele screenings kunnen slechts een klein fractie van de gerangschikte verbindingen fysiek worden getest. Traditionele globale metrieken zoals AUC (Area Under the Curve) of Balanced Accuracy meten de gemiddelde prestatie over de hele dataset, maar zeggen weinig over de kwaliteit van de top van de lijst.
• De operationalisatie: Het echte doel is "early hit enrichment": het maximaliseren van het aantal echte actieve verbindingen in de top-N (bijv. de eerste 128) die worden geselecteerd voor experimentele validatie. De auteurs stellen dat metrics zoals PPV@N (Positive Predicted Value voor de top N) veel actiegerichter en relevanter zijn dan globale metrics.

Methodologie: KANEL Workflow

De auteurs introduceren KANEL, een ensemble-workflow die diverse modelarchitecturen en moleculaire representaties combineert om de vroege hit-verrijking te maximaliseren.

1. Dataset:

   • Vijf openbare PubChem BioAssay datasets (AIDs: 485314, 485341, 504466, 624202, 651820).
   • Deze datasets zijn sterk onbalans (actieve fracties variëren van 0,53% tot 4,12%).
   • De evaluatie gebruikt stratified splits (80% train, 20% test) over 5 iteraties.

2. Moleculaire Representaties (Features):

   • LillyMol-descriptors: Commerciële moleculaire descriptors.
   • RDKit-afgeleide descriptors: Open-source chemische descriptors.
   • Morgan Fingerprints: Cirkelvormige fingerprints (geoptimaliseerd op 2048-bit voor feature-studies, 256-bit voor ensemble-efficiëntie).

3. Modelarchitecturen:

   • Basismodellen: XGBoost, Random Forest (RF), Multilayer Perceptron (MLP).
   • Nieuwe component: Kolmogorov-Arnold Networks (KANs). Twee varianten werden gebruikt: FasterKAN en ReluKAN. KANs worden gewaardeerd om hun interpretabiliteit (leerbare univariate responsfuncties) en hun bijdrage aan de diversiteit van het ensemble.
   • Optimalisatie: Hyperparameters werden geoptimaliseerd met Optuna (5-voudige cross-validatie) met als doel het maximaliseren van de PPV@512 tijdens het trainingsproces, wat positief bleek te werken voor PPV@128.

4. Ensemble Strategie:

   • In plaats van één model te trainen op een samengevoegde set van alle features, worden gespecialiseerde modellen getraind op elke feature-set.
   • Deze modellen worden gecombineerd via een Optuna-geoptimaliseerd gewogen ensemble op basis van voorspelde kansen.
   • Vergelijkingen werden gemaakt met elementaire product- en rekenkundige gemiddelde strategieën.

Belangrijkste Resultaten

1. Superieure Vroege Verrijking (PPV@128):

   • Het gewogen ensemble overtrof consistent het beste enkele model op alle vijf de datasets.
   • Verbetering: Absolute winst van 0,06 tot 0,12 in PPV@128, wat neerkomt op een relatieve verbetering van 9% tot 40%.
   • Voorbeeld: Voor AID 624202 steeg de PPV@128 van 0,36 (beste enkelmodel) naar 0,48 (ensemble). Voor AID 485341 steeg het van 0,15 naar 0,21 (+40%).

2. Invloed van Representatie:

   • Modellen gebaseerd op Morgan Fingerprints presteerden aanzienlijk beter dan die op LillyMol-descriptors.
   • Een combinatie van Morgan en LillyMol gaf een kleine extra verbetering, maar de gespecialiseerde ensemble-aanpak (modellen per feature-set) was effectiever dan het trainen van één model op alle samengevoegde features.

3. Validatie en Robuustheid:

   • Y-randomisatie: Toen 50% van de labels werd gerandomiseerd, daalde de prestatie drastisch. Dit bevestigt dat de modellen echte structuur-activiteit relaties hebben geleerd en niet gebaseerd zijn op toevallige correlaties of data-lekkage.
   • GNN Vooronderzoek: Een voorlopig Graph Neural Network (GNN) model voor AID 504466 bereikte een PPV@128 van 0,80, wat concurrerend is met de beste descriptor-modellen, maar nog onder het gewogen ensemble (0,88). Dit suggereert dat GNN's waardevolle toekomstige componenten voor het ensemble kunnen zijn.

4. Meerdere Metrieken:

   • Het ensemble verbeterde niet alleen PPV@128, maar ook globale metrics zoals ROC-AUC en BEDROC, wat aangeeft dat de verbetering in vroege verrijking niet ten koste gaat van de algemene rangschikking.

Bijdragen en Significantie

• Praktische Impact: KANEL biedt een betrouwbare en interpreteerbare workflow voor het selecteren van verbindingen in de vroege fasen van drugontwikkeling. De focus op PPV@128 sluit direct aan bij de fysieke realiteit van screeningplaten (vaak 384-wells, waarbij 128 verbindingen in triplo worden getest).
• Ensemble Design: Het paper demonstreert dat diversiteit in zowel modelarchitectuur (KAN + XGBoost + RF + MLP) als in moleculaire representatie (Fingerprints vs. Descriptors) cruciaal is voor maximale prestaties. Het "specialized models + fusion"-paradigma werkt beter dan "concatenated features + single model".
• Rol van KANs: Hoewel KANs in deze studie niet als overweldigende enkelmodel-oplossing functioneerden, blijken ze waardevol als interpreteerbare componenten binnen een ensemble. Dit opent de deur voor toekomstig werk gericht op het kwantificeren van chemische interpretatie.
• Toekomstperspectief: De auteurs plannen om scaffold-based splits (voor betere generalisatie-evaluatie), extra GNN-componenten en prospectieve experimentele validatie toe te voegen.

Conclusie:
KANEL bewijst dat zorgvuldig geoptimaliseerde ensemble-methoden, die specifieke aandacht hebben voor vroege hit-verrijking (PPV@N) en gebruikmaken van diverse representaties en moderne netwerken (KANs), aanzienlijk betere resultaten leveren dan traditionele single-model benaderingen voor high-throughput virtuele screening. Dit maakt het een krachtig instrument voor data-gedreven drug discovery.