Diagnosing Heteroskedasticity and Resolving Multicollinearity Paradoxes in Physicochemical Property Prediction

Deze studie toont aan dat lineaire regressiemodellen voor het voorspellen van lipofiliciteit fundamenteel tekortschieten door heteroskedasticiteit, terwijl boomgebaseerde ensemblemethoden niet alleen superieure prestaties leveren maar ook een multicollineariteitsparadox oplossen waarbij moleculair gewicht, ondanks een zwakke bivariate correlatie, de belangrijkste voorspeller blijkt te zijn.

De kern

De Grote Dilemma: Het Voorspellen van "Vetachtigheid" in Medicijnen

Stel je voor dat je een kok bent die duizenden nieuwe recepten (moleculen) bedenkt voor medicijnen. Je wilt weten hoe "vetachtig" (in de chemische wereld: logP of lipofiliciteit) deze recepten zijn. Dit is cruciaal: als een medicijn te vet is, komt het niet in je bloed; als het te waterig is, lost het niet op.

De onderzoekers van deze studie (Malikussaid en zijn team) hebben gekeken naar hoe computers dit voorspellen. Ze hebben een enorme database gebruikt met 426.850 moleculen (zoals een gigantische kookboekverzameling) om te zien welke wiskundige methoden het beste werken.

Hier zijn de drie belangrijkste ontdekkingen, vertaald naar begrijpelijke taal:

---

1. De "Trechter" in de Wiskunde (Heteroskedasticiteit)

Het probleem:
De onderzoekers begonnen met een klassieke methode: Lineaire Regressie. Denk hierbij aan het trekken van een rechte lijn door een wolk van punten om een patroon te vinden.

• Wat ze zagen: Voor de "normale" moleculen (die netjes in het midden zitten) werkte de lijn perfect. Maar voor de extreme moleculen (zeer vet of zeer waterig), werd de lijn een complete chaos.
• De Analogie: Stel je voor dat je de snelheid van auto's voorspelt op een weg. Voor auto's die met 50 km/u rijden, is je voorspelling heel nauwkeurig. Maar zodra je kijkt naar Formule-1-auto's (zeer snel) of tractors (zeer traag), schieten je voorspellingen alle kanten op. De fouten worden groter naarmate je verder van het midden komt. In de statistiek noemen ze dit een trechterpatroon.

De conclusie:
De oude wiskundige regels die zeggen "de fouten moeten overal even groot zijn", werken hier niet. De computer kan de extreme gevallen simpelweg niet goed voorspellen met een rechte lijn. De onderzoekers probeerden dit te "fixen" met ingewikkelde wiskundige trucjes (zoals het gewichten aanpassen of de getallen vervormen), maar dat hielp niet. Het probleem zat hem in de data zelf, niet in de rekenmethode.

2. De Boom die de Chaos Oplost (Bomen vs. Lijnen)

De oplossing:
Omdat een rechte lijn faalde, probeerden ze iets anders: Bomen (in dit geval algoritmen zoals Random Forest en XGBoost).

• De Analogie: In plaats van één rechte lijn door de hele stad te trekken, bouwen deze methoden een boom. De boom maakt kleine takjes en vertakt zich.
  • Voor de "normale" auto's (moleculen) gaat hij linksaf.
  • Voor de Formule-1-auto's (extreme vetten) gaat hij rechtsaf en maakt hij een apart takje.
  • Voor de tractors gaat hij weer een andere kant op.

Het resultaat:
Deze "bomen" waren veel slimmer. Ze hoefden niet te doen alsof alle fouten even groot waren. Ze accepteerden dat extreme moleculen lastiger te voorspellen zijn, en maakten daar aparte regels voor.

• De winst: De oude methode had een nauwkeurigheid van ongeveer 60%. De boom-methode sprong naar 76%. Ze waren niet alleen nauwkeuriger, maar ook eerlijker: ze gaven geen valse zekerheid over de extreme gevallen.

3. Het Geheim van het Gewichts-Paradox (SHAP en Multicollineariteit)

Het raadsel:
Er was een heel verwarrend fenomeen.

• Als je alleen kijkt naar het gewicht van een molecuul (MolWt), lijkt het weinig invloed te hebben op hoe vet het is. De correlatie was bijna nul (0,146). Het leek alsof gewicht er niet toe deed.
• Maar toen ze de "boom" (het geavanceerde model) gebruikten, bleek gewicht plotseling de belangrijkste factor te zijn!

De verklaring (De "Verstikkings"-effect):
Waarom was het gewicht eerst onzichtbaar?

• De Analogie: Stel je voor dat je probeert uit te leggen waarom iemand dik is. Je kijkt alleen naar "eetlust". Maar mensen die veel eten, zijn vaak ook minder actief. Als je alleen naar eetlust kijkt, zie je het effect van "bewegen" niet, omdat ze elkaar opheffen.
• In de chemie: Zware moleculen hebben vaak ook veel "polaire" delen (die waterig zijn). Deze twee krachten (zwaar = vet, polair = waterig) trokken in de simpele analyse tegen elkaar op, waardoor het effect van het gewicht verdween.
• De SHAP-analyse (een slimme manier om te kijken hoe een model denkt) haalde deze krachten uit elkaar. Het zei: "Als we het polaire deel even negeren, zien we dat zware moleculen inderdaad veel vetter zijn."

De les:
Kijk nooit alleen naar simpele verbanden tussen twee dingen. In een complex systeem (zoals een medicijn) verstoppen factoren elkaar vaak. Je hebt een slimme "detective" (zoals SHAP) nodig om de waarheid te vinden.

---

Samenvatting voor de Praktijk

1. Stop met de oude lijn: Als je probeert chemische eigenschappen te voorspellen, werken de oude, simpele lineaire modellen niet goed. Ze geven een vals gevoel van zekerheid, vooral bij extreme gevallen.
2. Gebruik de "Bomen": Moderne methoden zoals Random Forest of XGBoost zijn veel beter omdat ze flexibel zijn en omgaan met de chaos van extreme waarden.
3. Wees voorzichtig met simpele correlaties: Wat je met een simpele grafiek ziet, kan een leugen zijn door verwarrende factoren. Gebruik geavanceerde tools om te zien wat echt belangrijk is.

Kortom: De onderzoekers hebben laten zien dat we voor het voorspellen van medicijneigenschappen moeten stoppen met "rekenen met een liniaal" en moeten overstappen op "slimme bomen" die de complexiteit van de chemische wereld echt begrijpen.

Technische samenvatting

Titel: Diagnose van Heteroskedasticiteit en Oplossen van Multicollineariteitsparadoxen bij de Voorspelling van Fysisch-Chemische Eigenschappen

Auteurs: Malikussaid e.a. (School of Computing, Telkom University, Indonesië)

---

1. Het Probleem

De voorspelling van lipofiliciteit (logP) is cruciaal voor de geneesmiddelenontdekking, aangezien het een sleutelfactor is in de ADMET-eigenschappen (Absorptie, Distributie, Metabolisme, Uitscheiding en Toxiciteit). Hoewel lineaire regressiemodellen vaak worden gebruikt voor QSAR (Quantitative Structure-Activity Relationship) studies, vertonen ze fundamentele statistische tekortkomingen in deze context:

• Heteroskedasticiteit: Lineaire modellen veronderstellen een constante variantie van de residuen (homoskedasticiteit). De auteurs ontdekten dat deze assumptie systematisch wordt geschonden bij logP-voorspellingen. De variantie van de voorspellingsfout neemt drastisch toe bij moleculen met extreme lipofiliciteit (logP > 5 of < 0).
• Onderschatting van prestaties: Hoewel lineaire modellen numeriek acceptabele $R^2$-waarden kunnen tonen, zijn de statistische inferenties (zoals betrouwbaarheidsintervallen en p-waarden) ongeldig vanwege de geschonden assumpties.
• Multicollineariteitsparadox: Er bestaat een schijnbare tegenstrijdigheid waarbij moleculair gewicht (MolWt) een zwakke bivariate correlatie heeft met logP, maar in multivariate modellen als de belangrijkste voorspeller naar voren komt. Dit wordt vaak verkeerd geïnterpreteerd door traditionele correlatieanalyses.

2. Methodologie

Dataset:

• Omvang: Een rigoureus samengestelde dataset van 426.850 bioactieve moleculen.
• Bronnen: Een intersectie van PubChem, ChEMBL en eMolecules.
• Uniciteit: Deduplicatie uitgevoerd met volledige IUPAC InChI-strings (in plaats van InChIKeys) om stereoisomeer-kolliensies te voorkomen.
• Doelvariabele: De berekende logP-waarde (XLOGP3) uit PubChem. Experimentele waarden werden niet gebruikt vanwege hun schaarste (<1%) en variabiliteit tussen laboratoria.
• Functies: 8 tweedimensionale moleculaire beschrijvers (o.a. MolWt, TPSA, Aantal waterstofbruggen, Aromatische ringen) berekend met RDKit.

Modelleringsstrategie:

1. Lineaire Modellen: Ridge, Lasso en ElasticNet regressie met 5-voudige cross-validatie.
2. Remediëring van Heteroskedasticiteit: Toepassing van Weighted Least Squares (WLS) en Box-Cox-transformatie om de variantie te stabiliseren.
3. Boomgebaseerde Ensemble-methoden: Random Forest en XGBoost, gekozen vanwege hun inherente robuustheid tegen niet-constante variantie en niet-lineariteit.
4. Diagnostiek: Breusch-Pagan-test voor heteroskedasticiteit en stratificatie van residuen per logP-bereik.
5. Interpretatie: SHAP (SHapley Additive exPlanations) analyse op het Random Forest-model om feature-importance te ontrafelen en multicollineariteitsproblemen op te lossen.

3. Belangrijkste Resultaten

A. Heteroskedasticiteit in Lineaire Modellen

• Lineaire modellen (o.a. Ridge) vertoonden een duidelijke "trechtervorm" in de residu-plots: de fouten waren klein voor gebalanceerde logP-waarden (2–4) maar explodeerden voor extreme waarden.
• Statistiek: De variantie in het lipofiele gebied (logP > 5) was 4,2 keer zo groot als in het gebalanceerde gebied.
• De Breusch-Pagan-test leverde een p-waarde < 0,0001 op, wat de nulhypothese van constante variantie verwerpt. Hierdoor zijn de standaardfouten van de lineaire modellen vertekend en de inferenties ongeldig.

B. Falen van Klassieke Remediëring

• Weighted Least Squares (WLS): Resulteerde in een verslechtering van de voorspellende prestatie ($R^2$ daalde van 0,608 naar 0,562) en loste het heteroskedasticiteitsprobleem niet op (p-waarde bleef < 0,0001).
• Box-Cox Transformatie: Verbeterde de normaliteit van de data licht, maar elimineerde de heteroskedasticiteit niet en had geen significant effect op de $R^2$ (0,603).
• Conclusie: De heteroskedasticiteit is een inherente eigenschap van het probleem (vermoedelijk door de complexiteit van de XLOGP3-algoritme bij extreme moleculen) en niet eenvoudig op te lossen met standaard statistische correcties.

C. Superioriteit van Boomgebaseerde Modellen

• Random Forest en XGBoost leverden aanzienlijk betere prestaties:
  • $R^2 \approx 0,765$ (vs. 0,608 voor Ridge).
  • RMSE = 0,731 logP-eenheden.
• Deze modellen vertoonden geen trechterpatroon in de residuen, wat aantoont dat ze de heteroskedasticiteit inherent kunnen hanteren via recursieve partitionering zonder globale assumpties over variantie.

D. Oplossing van de Multicollineariteitsparadox (MolWt)

• Het Paradox: Moleculair gewicht (MolWt) had een zeer zwakke bivariate correlatie met logP ($r = 0,146$), maar werd in de lineaire modellen toch als belangrijke variabele geselecteerd.
• SHAP-analyse: Toonde aan dat MolWt de belangrijkste voorspeller is (gemiddelde absolute SHAP-waarde = 0,573), gevolgd door TPSA (0,551).
• Oorzaak: Een onderdrukkingseffect (suppression effect). MolWt correleert sterk met TPSA ($r = 0,712$) en HeavyAtomCount. In een bivariate analyse heffen de positieve invloed van grootte (hydrofobiciteit) en de negatieve invloed van polariteit (TPSA) elkaar gedeeltelijk op. Multivariate modellen (en SHAP) ontrafelen deze confounding, waardoor de ware voorspellende kracht van MolWt zichtbaar wordt.

4. Bijdragen en Significantie

1. Statistische Validiteit: Het artikel waarschuwt dat standaard lineaire QSAR-modellen voor lipofiliciteit statistisch onbetrouwbaar zijn voor inferentie, zelfs als de $R^2$-waarden er goed uitzien. De heteroskedasticiteit is een fundamenteel kenmerk van het voorspellingsprobleem, niet slechts een modelfout.
2. Modelkeuze: Boomgebaseerde ensemble-methoden (Random Forest, XGBoost) worden aanbevolen als de standaard voor het voorspellen van berekende fysisch-chemische eigenschappen, omdat ze robuust zijn tegen heteroskedasticiteit en niet-lineariteit.
3. Interpretatie van Features: De studie demonstreert dat bivariate correlaties misleidend kunnen zijn in de aanwezigheid van multicollineariteit. SHAP-analyse is essentieel om de werkelijke bijdrage van moleculaire beschrijvers (zoals het belang van moleculair gewicht) correct te interpreteren.
4. Praktische Implicatie voor Geneesmiddelenontwikkeling: Voor chemici die lipofiliciteit willen optimaliseren, biedt de SHAP-analyse een duidelijke prioritering: verhoging van het moleculair gewicht en vermindering van TPSA zijn de meest effectieve strategieën, ondanks wat de simpele correlaties suggereren.

Beperkingen en Toekomst:
De studie gebruikt berekende XLOGP3-waarden in plaats van experimentele data. Hoewel dit consistentie biedt, moet toekomstig onderzoek valideren of deze patronen (heteroskedasticiteit en feature-importance) ook gelden voor experimenteel gemeten logP-waarden. Desondanks biedt het een robuust raamwerk voor de statistische analyse van QSAR-modellen.