Moderne elektronische chips zijn de stille motoren van onze wereld; ze voeden alles, van medische apparaten tot de systemen die vliegtuigen sturen. Deze minuscule circuits worden in enorme hoeveelheden geproduceerd en passeren vaak de handen van vele verschillende bedrijven voordat ze de eindgebruiker bereiken. Deze complexe reis creëert een kwetsbaarheid: een kwaadwillende actor zou een verborgen, minuscule aanpassing in het ontwerp kunnen inbouwen, een digitale "Trojaans paard". Dit verborgen circuit zou jarenlang latent aanwezig kunnen zijn, wachtend op een specifiek signaal om te activeren, waarna het geheime sleutels kan stelen, een systeem kan uitschakelen of de prestaties kan verslechteren. Omdat deze apparaten vaak in metalen behuizingen zijn verzegeld en de verborgen aanpassingen zo zijn ontworpen dat ze bijna onzichtbaar zijn, kunnen beveiligingsexperts niet simpelweg in het binnenste kijken om ze te vinden. In plaats daarvan moeten ze luisteren naar het fysieke gedrag van de chip. Wanneer een chip werkt, verbruikt deze elektriciteit, en dit verbruik creëert een zwakke, fluctuerende stroomsignatuur. Een verborgen kwaadaardig circuit, zelfs als het stil is, verandert deze stroomtoevoer lichtjes. Door deze minuscule elektrische rimpelingen te meten, hopen verdedigers de aanwezigheid van een verborgen dreiging op te sporen zonder de chip ooit te openen.

Jarenlang hebben onderzoekers zich tot machine learning gewend om dit luisterproces te automatiseren. Ze hebben computerprogramma's getraind om de unieke stroomsignaturen te herkennen van chips waarvan bekend is dat ze geïnfecteerd zijn met deze verborgen aanpassingen. Vroege rapporten waren ongelooflijk optimistisch en beweerden dat deze kunstmatige intelligentiesystemen een kwaadaardige chip met bijna perfecte nauwkeurigheid konden identificeren, waarbij vaak succespercentages tussen de 87 en 100 procent werden aangehaald. Deze cijfers suggereerden dat we het probleem van het screenen van chips op verborgen dreigingen hadden opgelost. Echter, een nieuwe studie door onderzoekers van Prairie View A&M University en Wright State University daagt dit vertrouwen uit. Zij stellen dat deze hoge scores niet bewijzen dat de machines goed zijn in het detecteren van nieuwe, onbekende dreigingen. In plaats daarvan weerspiegelen de scores een simpel geval van vertrouwdheid. De onderzoekers ontdekten dat de manier waarop deze systemen werden getest, hen in staat stelde om chips te herkennen die ze al hadden gezien tijdens hun training, in plaats van daadwerkelijk een nieuwe dreiging te identificeren.

De kern van het probleem ligt in de manier waarop de data voor het testen werd gesplitst. In de vorige studies namen onderzoekers duizenden stroommetingen van een reeks geïnfecteerde chips en verdeelden deze willekeurig in twee stapels: één voor het trainen van de computer en één voor het testen ervan. Omdat dezelfde specifieke chip werd gebruikt om zowel de trainingsdata als de testdata te genereren, werd de computer in feite getest op zijn eigen huiswerk. De computer leerde het specifieke elektrische ruispatroon van een bepaalde chip te herkennen die hij al had bestudeerd, in plaats van te leren wat de algemene regels zijn van hoe een kwaadaardig circuit eruitziet. Het is alsof je een student leert om het handschrift van een specifiek persoon te herkennen en hem vervolgens test op datzelfde handschrift; hij zal met vliegende vaardigheden slagen, maar hij zou waarschijnlijk falen als hem gevraagd zou worden om het handschrift van een vreemde te herkennen. De onderzoekers realiseerden zich dat in een scenario in de echte wereld de chip die wordt getest een volledig nieuw apparaat zou zijn, een apparaat dat het beveiligingssysteem nog nooit eerder was tegengekomen.

Om dit op te lossen, ontwierp het team het experiment strikt eerlijk. Ze scheidden de data zodat geen enkele chip zowel in de trainingsgroep als in de testgroep voorkwam. Ze trainden de computer op een set chips en testten hem vervolgens op een compleet andere chip die hij nog nooit had gezien. Wanneer zij dit deden, verdwenen de indrukwekkende succespercentages. Het vermogen van het systeem om de verborgen dreigingen te detecteren daalde drastisch, tot een niveau dat nauwelijks beter was dan willekeurig gokken. In sommige gevallen was het systeem zelfs slechter dan een kansloze gok, waarbij het schone chips actief als geïnfecteerd identificeerde of de dreigingen volledig miste. Deze instorting vond plaats, zelfs toen de onderzoekers verschillende soorten geavanceerde computermodellen probeerden, wat bewees dat het probleem niet een gebrek aan rekenkracht of een slechte keuze van algoritme was, maar een fundamentele beperking in hoe de data zich gedraagt.

De studie onthulde dat de elektrische signalen van deze verborgen dreigingen extreem zwak zijn en verspreid over de gehele meting, waardoor ze zeer moeilijk te onderscheiden zijn van de normale achtergrondruis. De onderzoekers ontdekten dat het systeem alleen kon slagen als het al een zeer vergelijkbare chip tijdens zijn training had gezien. Als een specifiek type verborgen dreiging aanwezig was in de trainingsdata, kon het systeem een nieuwe chip met diezelfde dreiging opsporen. Maar als de trainingsdata geen nauwe verwant van de dreiging op de testchip bevatte, faalde het systeem. Deze afhankelijkheid van vertrouwdheid betekent dat een universeel, vooraf getraind beveiligingsprogramma niet gebouwd kan worden om elke chip ter wereld te scannen. In plaats daarvan moeten beveiligingsexperts, om een specifieke nieuwe device betrouwbaar te detecteren, eerst een klein aantal metingen van dat specifieke apparaat zelf nemen om het systeem te kalibreren.

De onderzoekers testten dit idee door het systeem slechts een paar metingen van de nieuwe chip te geven voordat ze het vroegen een oordeel te vellen. Met deze kleine hoeveelheid specifieke informatie verbeterde de nauwkeurigheid van het systeem aanzienlijk en presteerde het beter dan elke methode die probeerde te vertrouwen op data van andere, ongerelateerde chips. Dit bevinding suggereert dat de toekomst van chipbeveiliging niet ligt in één enkel, alwetend kunstmatig intelligentiemodel. In plaats daarvan vereist het een meer praktische aanpak waarbij elk apparaat kortstondig wordt gekalibreerd voordat het wordt gescand. De studie concludeert dat de hoge nauwkeurigheidscijfers die in het verleden werden gerapporteerd, een illusie waren gecreëerd door gebrekkige testmethoden. Detectie in de echte wereld is veel moeilijker en vereist een op maat gemaakte aanpak voor elke nieuwe chip, in plaats van een oplossing die voor iedereen hetzelfde is. Door de manier waarop we deze systemen testen te veranderen, hebben de onderzoekers een duidelijker, eerlijker beeld gegeven van wat mogelijk is en wat nodig is om onze digitale infrastructuur veilig te houden.