Optimizing Binary and Ternary Neural Network Inference on RRAM Crossbars using CIM-Explorer

Dit paper introduceert CIM-Explorer, een modulaire toolkit die een end-to-end compilatie- en simulatiestroom biedt voor het optimaliseren van binaire en ternaire neurale netwerken op RRAM-crossbars, waarmee een uitgebreide ontwerpruimteverkenning mogelijk wordt gemaakt om de inferentie-accuraatheid te maximaliseren ondanks hardware-variabiliteit.

Rebecca Pelke, José Cubero-Cascante, Nils Bosbach, Niklas Degener, Florian Idrizi, Lennart M. Reimann, Jan Moritz Joseph, Rainer Leupers

Gepubliceerd 2026-03-19
📖 4 min leestijd☕ Koffiepauze-leesvoer

Each language version is independently generated for its own context, not a direct translation.

De "CIM-Explorer": Een Reisgids voor de Computer van de Toekomst

Stel je voor dat je een enorme bibliotheek hebt (de computergeheugen) en een slimme bibliothecaris (de processor). In een traditionele computer moet de bibliothecaris constant heen en weer rennen tussen de boekenplanken en zijn bureau om een vraag te beantwoorden. Dit heen-en-weer-rennen kost veel tijd en energie. Dit noemen wetenschappers het "von Neumann-probleem".

De auteurs van dit paper willen dit oplossen met een nieuw soort computerchip: de RRAM-crossbar. In plaats van te rennen, laten ze de boekenplanken zelf praten. De boeken (data) worden direct op de planken verwerkt. Dit is veel sneller en zuiniger.

Maar hier zit een addertje onder het gras: deze nieuwe planken zijn niet perfect. Ze zijn een beetje "onstabiel" en kunnen soms verwarren. Om dit op te lossen, gebruiken ze een heel simpel systeem: in plaats van 8 of 16 verschillende kleuren (zoals bij een gewone computer), gebruiken ze alleen Zwart en Wit (of soms ook Grijs). Dit noemen ze Binaire (2 kleuren) en Ternaire (3 kleuren) Neurale Netwerken.

Het Probleem: Te veel losse gereedschappen

Vroeger hadden onderzoekers drie verschillende gereedschappen voor dit werk:

  1. Een vertaler (compiler) om de software om te zetten.
  2. Een simulator om te kijken hoe het werkt.
  3. Een ontwerper (DSE) om te zoeken naar de beste instellingen.

Het probleem was dat deze tools niet met elkaar praatte. Het was alsof je een auto bouwt met een motor van de ene fabriek, wielen van de tweede en een carrosserie van de derde. Het zou misschien wel rijden, maar je wist niet of het optimaal zou werken.

De Oplossing: CIM-Explorer

De auteurs hebben CIM-Explorer bedacht. Dit is een alles-in-één gereedschapskist die je helpt om deze nieuwe computers te bouwen.

Je kunt CIM-Explorer zien als een reisleider voor een reis naar een onbekend eiland (de nieuwe chip). Deze reisleider doet drie dingen:

  1. De Vertaler (De Compiler):
    Stel je voor dat je een boek in het Nederlands hebt, maar je moet het lezen in een taal die alleen "Ja" en "Nee" kent. De reisleider vertaalt je complexe boek naar deze simpele taal, maar doet dit zo slim dat je niets verliest. Hij zorgt ervoor dat de instructies perfect passen in de kleine ruimtes van de nieuwe chip.

  2. De Ontwerper (De Mappings):
    Er zijn verschillende manieren om de "Zwart-Wit" informatie op de planken te leggen.

    • Manier A: Je legt alles direct neer.
    • Manier B: Je gebruikt twee planken voor één getal (één voor positief, één voor negatief).
      De reisleider probeert alle manieren uit en zegt: "Voor jouw specifieke chip is Manier B het beste, want die is minder gevoelig voor trillingen."
  3. De Proefnemer (De Simulator):
    Voordat je echt een dure chip bouwt, laat de reisleider een virtueel model zien. Hij zegt: "Als we de planken iets onstabiel maken (zoals in de echte wereld), dan werkt Manier A niet meer goed, maar Manier B blijft perfect werken."

Wat hebben ze ontdekt?

Met hun nieuwe gereedschap hebben ze een paar interessante dingen gevonden:

  • Kleiner is niet altijd beter: Je zou denken dat een simpele computer (met minder "bits") minder fouten maakt. Maar hun tests tonen aan dat soms een iets complexer model (een groter "brein") beter om kan gaan met de onvolkomenheden van de hardware.
  • De "Grijze" zone: Ze hebben ontdekt dat het gebruik van drie kleuren (Zwart, Wit, Grijs) – wat ze TNN noemen – vaak nog slimmer is dan alleen Zwart en Wit, mits je de juiste vertaalmethode kiest.
  • De perfecte instelling: Ze kunnen nu precies zeggen: "Als je chip 30% onzekerheid heeft, heb je een digitale vertaler nodig die 4 bits gebruikt, niet 8." Dit bespaart enorm veel energie.

Waarom is dit belangrijk?

Vroeger moest je als ontwerper gissen naar wat er zou werken. Nu heb je met CIM-Explorer een GPS. Je kunt al in een heel vroeg stadium zien: "Als we deze chip zo bouwen, werkt de app perfect. Als we dat anders doen, crasht hij."

Dit betekent dat we sneller en zuiniger kunstmatige intelligentie op kleine apparaten (zoals je telefoon of een slimme camera) kunnen krijgen, zonder dat het de hele wereld aan energie kost. Het is alsof je van een oude, brandstofverslindende auto overstapt op een elektrische auto die precies weet hoe hij het beste moet rijden.