Bitcoin Price Prediction using Machine Learning and Combinatorial Fusion Analysis

Dit paper presenteert een nieuwe Bitcoin-prijsvoorspellingsmethode die Combinatorial Fusion Analysis (CFA) toepast om diverse machine learning-modellen te combineren, wat resulteert in een aanzienlijk betere prestatie met een MAPE van 0,19% vergeleken met individuele modellen en andere bestaande voorspellingsmethoden.

De kern

Stel je voor dat Bitcoin een enorme, wilde olifant is die door de straten van de financiële wereld rent. Soms rent hij hard omhoog, soms valt hij hard, en niemand weet precies waar hij als volgende naartoe springt. Mensen willen graag weten: Moet ik nu kopen, houden of verkopen?

Deze wetenschappelijke paper is als het ware een slimme voorspellingsmachine die probeert die wilde olifant te temmen. Hier is hoe ze dat deden, vertaald in simpele taal:

1. Het Probleem: Geen enkele waarzegger is perfect

Stel je voor dat je een groep vrienden vraagt om de prijs van Bitcoin morgen te raden.

• De ene vriend is goed in het kijken naar technische lijnen (zoals een grafiek).
• De andere kijkt naar het nieuws over Elon Musk.
• Een derde kijkt naar de goudprijs.
• Een vierde is een computer die heel goed is in patronen zien.

Elke vriend heeft zijn eigen sterke en zwakke punten. Als je alleen naar één vriend luistert, kun je een fout maken. Dat is het probleem met de meeste huidige methoden: ze vertrouwen op één model.

2. De Oplossing: Een "Super-Panel" (Combinatorial Fusion Analysis)

De auteurs van dit paper zeggen: "Waarom luisteren we niet naar alle vrienden tegelijk en maken we een super-voorspelling?"

Ze noemen hun methode Combinatorial Fusion Analysis (CFA). Dit is als het hebben van een slimme moderator die:

1. Luistert naar 5 verschillende, slimme computermodellen (SVM, Random Forest, XGBoost, CNN en LSTM).
2. Kijkt niet alleen naar wat ze zeggen, maar ook naar hoe ze denken.
3. Combineert hun antwoorden op een slimme manier om één, zeer nauwkeurig antwoord te geven.

3. De Ingrediënten: Wat kijken ze aan?

Om de prijs te voorspellen, kijken deze modellen niet alleen naar Bitcoin zelf. Ze kijken naar de hele wereld, net als een detective die alle aanwijzingen verzamelt:

• Andere valuta: Wat doet Ethereum (ETH) en de goudprijs?
• De "kracht" van het netwerk: Hoe hard werken de computers die Bitcoin beveiligen? (Hashrate).
• Angst en zekerheid: Hoe bang zijn beleggers? (VIX-index) en hoe doet de Amerikaanse economie het? (S&P 500).
• Invloedrijke figuren: Wat doet Tesla (Elon Musk) en Nvidia (chips voor miners)?

4. De Magische Stap: Van één getal naar een "Wolk van Mogelijkheden"

Dit is het meest creatieve deel van het verhaal.
Normaal zeggen computers: "De prijs morgen is precies $94.000."
De auteurs van dit paper zeggen: "Nee, dat is te zeker. De prijs kan ergens tussen $92.000 en $96.000 liggen."

Ze laten elke computer een wolk van mogelijke prijzen maken (een statistische verdeling).

• Stel je voor dat elke vriend een paraplu opent. De paraplu bedekt een gebied waar de prijs waarschijnlijk ligt.
• De CFA-methode neemt al die paraplu's van de 5 vrienden en kijkt waar ze elkaar overlappen.
• Het punt waar de meeste paraplu's samenkomen, is waar de prijs het meest waarschijnlijk zal zijn.

5. Het Resultaat: De Slimste Voorspelling

Na al die rekenwerk en het combineren van de "paraplu's", kwam de machine uit op een voorspelling die ongelooflijk nauwkeurig was.

• Hoe goed was het? Ze gebruikten een maatstaf genaamd MAPE (een foutmarge). Hun fout was slechts 0,19%.
• Vergelijking: Andere methoden in de wereld hadden fouten van 0,39% tot wel 4,49%.
• De winst: Hun methode was ongeveer twee keer zo goed als de beste andere methoden die ze vergeleken.

Waarom werkt dit?

Het geheim zit in de diversiteit. Omdat de 5 modellen op heel verschillende manieren denken (zoals 5 verschillende soorten detectives), vullen ze elkaars blinde vlekken op. Als model A een fout maakt, corrigeert model B het vaak. Door ze slim te combineren, krijgen ze een resultaat dat sterker is dan de som der delen.

Conclusie

Kortom: In plaats van te hopen dat één slimme computer de toekomst ziet, hebben deze onderzoekers een team van 5 specialisten samengesteld, hun antwoorden in een "wolk van waarschijnlijkheid" gegoten en die samengevoegd tot één super-voorspelling. Het resultaat is een methode die Bitcoin-prijzen voorspelt met een precisie die nog nooit eerder is gezien.

(Kleine kanttekening: De auteurs zeggen dat ze in de toekomst ook de "stemming" van mensen op sociale media willen toevoegen, omdat wat mensen zeggen ook de prijs beïnvloedt, net zoals een schreeuwende menigte een olifant kan laten stoppen of rennen.)

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "Bitcoin Price Prediction using Machine Learning and Combinatorial Fusion Analysis" in het Nederlands.

Probleemstelling

De prijs van Bitcoin is extreem volatiel, wat het voorspellen ervan een uitdaging maakt voor beleggers en marktparticipants. Hoewel er veel bestaande machine learning-modellen zijn (zoals ARIMA, LSTM, Random Forest, enz.), heeft elk model zijn eigen sterke en zwakke punten. Geen enkel model is robuust genoeg om onder alle marktomstandigheden de beste voorspellingen te leveren. Traditionele regressiemodellen voorspellen vaak slechts één deterministische waarde, wat de onzekerheid en het bereik van mogelijke prijzen negeert. Het doel van dit onderzoek is om een robuustere voorspelling te realiseren door gebruik te maken van modelfusie via Combinatorial Fusion Analysis (CFA), in plaats van te vertrouwen op een enkel model.

Methodologie

De auteurs hanteren een vierfasige methodologie om de volgende dagprijs van Bitcoin te voorspellen:

1. Data Voorbereiding (Data Preparation)

• Dataset: Dagelijkse data van 11 maart 2020 tot 9 maart 2024 (een periode die de COVID-19-pandemie en de daaropvolgende marktontwikkelingen omvat).
• Features: Naast de Bitcoin-prijs worden diverse externe factoren gebruikt, waaronder:
  • ETH-prijs en goudprijs.
  • Hashrate (computing power van miners).
  • S&P 500, VIX-index (marktonzekerheid), US-rente, dollarsterkte.
  • Aandelenprijzen van Nvidia (chipleverancier) en Tesla (invloed van Elon Musk).
  • Technische indicatoren zoals EMA en MACD.
• Preprocessing: Ontbrekende waarden (bijv. door weekenden of updates elke 3 dagen bij hashrate) worden opgevuld (forward-fill). Alle features worden genormaliseerd naar het bereik [0, 1]. De dataset is opgesplitst in een trainingsset (80%) en een testset (20%).

2. Basismodellen (Base Models)
Vijf diverse machine learning-modellen worden getraind om voorspellingen te doen:

• SVM (Support Vector Machines)
• Random Forest (Ensemble van beslissingsbomen)
• XGBoost (Gradient Boosting)
• CNN (Convolutional Neural Networks)
• LSTM (Long Short-Term Memory)
• Opmerking: De modellen worden geoptimaliseerd via 10-voudige kruisvalidatie en random search.

3. Generatie van Voorspellingsdistributies
In plaats van één enkel getal te voorspellen, genereert elk model voor elke dag een normale verdeling:

• De voorspelde prijs fungeert als het gemiddelde ($\mu$).
• De standaardafwijking ($\sigma$) wordt afgeleid uit de prestaties van het model op de testset en wordt als stabiel verondersteld.
• De verdeling wordt getruncateerd op twee standaardafwijkingen (ongeveer 95% van het bereik).
• Dit resulteert in vijf verschillende "score-systemen" per dag, waarbij de waarschijnlijkheid binnen het interval als score wordt gezien.

4. Combinatorial Fusion Analysis (CFA)
De kern van de methode is het combineren van deze vijf systemen:

• Rank-Score Characteristic (RSC) functie: Deze functie mapt de relatie tussen scores en rangordes.
• Cognitieve Diversiteit (Cognitive Diversity): De diversiteit tussen modellen wordt gemeten aan de hand van het oppervlak tussen hun RSC-functies. Een hoge diversiteit betekent dat modellen verschillende fouten maken, wat gunstig is voor fusie.
• Combinatiestrategieën: Er worden 26 unieke modelgroepen gevormd (combinaties van 2 tot 5 modellen). Voor elke groep worden vier strategieën toegepast:
  1. Gemiddelde score-combinatie (AC).
  2. Gewogen score-combinatie op basis van diversiteitssterkte (WCDS).
  3. Gemiddelde rangorde-combinatie (RC).
  4. Gewogen rangorde-combinatie op basis van diversiteitssterkte.
• Selectie: De uiteindelijke voorspelde prijs is de waarde met de hoogste waarschijnlijkheid binnen de gecombineerde distributie.

Belangrijkste Bijdragen

1. Toepassing van CFA op Bitcoin: Dit is de eerste studie die Combinatorial Fusion Analysis toepast op de voorspelling van de dagprijs van Bitcoin.
2. Van Deterministisch naar Probabilistisch: De methode verschuift van het voorspellen van één waarde naar het modelleren van een kansverdeling, wat een realistischer beeld geeft van de marktvolatiliteit.
3. Uitgebreide Fusie-architectuur: Het creëren van 104 unieke combinatiemodellen (26 groepen $\times$ 4 strategieën) en het gebruik van cognitieve diversiteit als wegingsfactor voor de fusie.
4. Superieure Prestaties: De aanpak overtreft niet alleen de individuele basismodellen, maar slaat ook bestaande state-of-the-art methoden uit de literatuur.

Resultaten

De prestaties werden gemeten met RMSE (Root Mean Squared Error) en MAPE (Mean Absolute Percentage Error).

• Verbetering t.o.v. Basismodellen: Alle gecombineerde modellen presteerden aanzienlijk beter dan de individuele modellen.
  • De beste individuele modellen hadden een MAPE tussen 1,20% en 4,91%.
  • De gemiddelde score-combinatie (Average Score Combination) bereikte een MAPE van slechts 0,19%.
  • De RMSE daalde van 738,21 (beste basismodel) naar 175,22 voor de gecombineerde aanpak.
• Vergelijking met Bestaand Onderzoek: De behaalde MAPE van 0,19% is aanzienlijk lager dan andere recente studies (die variëren van 0,245% tot 4,49%), inclusief geavanceerde ensemble-modellen zoals VMD-AGRU-RESVMD-LSTM (0,394%).
• Effectiviteit van Strategieën:
  • Score-gebaseerde combinaties leverden de laagste foutmarges (RMSE/MAPE).
  • Rangorde-gebaseerde combinaties (met name gewogen op diversiteit) toonden verbetering op het grootste aantal dagen (258 van de 292 testdagen), wat wijst op grotere stabiliteit.

Betekenis en Conclusie

Dit onderzoek demonstreert dat het combineren van diverse machine learning-modellen via CFA de voorspellingsnauwkeurigheid voor Bitcoin aanzienlijk kan verbeteren. Door gebruik te maken van zowel scores als rangordes, en door rekening te houden met de cognitieve diversiteit tussen modellen, kan het systeem de zwakke punten van individuele modellen compenseren.

De studie concludeert dat modelfusie een krachtige tool is in de financiële voorspelling. De auteurs wijzen echter op een beperking: het gebruik van de standaardafwijking van de testset voor het genereren van de normale verdelingen kan leiden tot data-lekkage. Voor toekomstig werk wordt voorgesteld om een aparte validatieset te gebruiken voor deze berekening en om sentimentanalyse van consumenten toe te voegen om de voorspellingen verder te verfijnen.