Multi-objective Bayesian Optimization with Human-in-the-Loop for Flexible Neuromorphic Electronics Fabrication

Dit artikel presenteert een framework dat multi-objectieve Bayesiaanse optimalisatie combineert met menselijke feedback om de fabricage van flexibele neuromorfe elektronica op basis van metaaloxiden te versnellen en te optimaliseren door het effectief omgaan met hoge experimentele faalpercentages en complexe procesparameters.

De kern

Stel je voor dat je een kok bent die probeert de perfecte taart te bakken. Maar er is een probleem: je hebt een heel specifieke oven (de "fotische curing") die werkt met flitsende lampen in plaats van warmte, en je hebt een heel kwetsbaar deeg (flexibele plastic folie) dat niet tegen hoge temperaturen kan.

Je doel is tweeledig:

1. De taart moet smaken (elektrisch goed werken voor slimme computers).
2. De taart mag niet verbranden (er mag geen lekkage zijn).

Het probleem is dat er zo'n enorm aantal knoppen op je oven zit (hoeveel licht, hoe lang, hoe vaak flitsen, etc.) dat je nooit handmatig alle combinaties kunt uitproberen. Als je dat wel probeert, ben je je hele leven kwijt en heb je waarschijnlijk 90% verbrande taarten.

Hier komt dit wetenschappelijke artikel om de hoek kijken. Het beschrijft een slimme manier om dit probleem op te lossen door een slimme computer en een ervaren kok samen te laten werken.

1. De Uitdaging: Een doolhof van knoppen

De onderzoekers wilden een nieuw type elektronica maken die lijkt op het menselijk brein (neuromorfisch). Ze gebruikten een speciale vloeibare stof die ze met flitslicht in een dunne laag omzetten. Maar als je de flitsen te sterk of te lang doet, verbrandt de laag. Als je het te zwak doet, werkt het niet.

Vroeger zouden onderzoekers "grid-search" gebruiken: ze proberen elke mogelijke combinatie van knoppen één voor één. Dat is als proberen elke sleutel in een bos van 4 miljoen sleutels te passen om een deur te openen. Onmogelijk en tijdrovend.

2. De Oplossing: De Slimme Assistent (Baysean Optimization)

Ze gebruikten een techniek genaamd Baysean Optimalisatie. Stel je voor dat je een slimme assistent hebt die een kaart tekent van de keuken.

• Hij probeert een paar combinaties.
• Hij leert van de resultaten: "Ah, te veel licht = verbrande taart."
• Hij raadt dan de volgende beste plek om te proberen, in plaats van willekeurig te zoeken.

Dit werkt goed, maar er is een addertje onder het gras: Soms mislukt het experiment volledig. De film is verbrand of gescheurd. De computer ziet dan geen data en denkt: "Oké, dit gebied is nog onbekend, ik probeer het daar nog eens!" Hierdoor blijft de computer tijd verspillen aan gebieden waar het nooit goed gaat.

3. De Innovatie: De "Mens in de Lijn" (Human-in-the-Loop)

Hier is de echte genialiteit van dit artikel. De onderzoekers voegden een mens toe aan het proces.

In plaats van dat de computer alleen kijkt naar de uiteindelijke meetresultaten (werkend of niet-werkend), vraagt hij de menselijke onderzoeker: "Kijk eens naar deze verbrande film. Ziet hij eruit alsof hij bijna goed was, of is het complete puin?"

De mens geeft een score:

• Verbrand = Slecht.
• Half gesmolten = Niet goed, maar misschien dichtbij.
• Perfect = Geweldig.

De computer gebruikt deze menselijke mening om zijn kaart te corrigeren. Hij zegt: "Oké, de mens zegt dat dit gebied 'verbrand' is, dus ik ga daar niet meer zoeken, zelfs niet als ik het nog niet precies heb gemeten."

De analogie:
Stel je voor dat je in een donker huis loopt en een schakelaar zoekt om het licht aan te doen.

• Zonder mens: Je loopt blindelings rond, stopt je hand in elke hoek. Als je een hete radiator aanraakt, trek je je hand terug, maar je weet niet waar de radiator precies zit, dus je stopt er misschien later weer mee.
• Met mens: Je hebt een vriend die in de kamer staat. Zodra je naar een hoek loopt, zegt je vriend: "Pas op! Daar is het te heet, je gaat je hand verbranden." Je loopt dan direct naar een andere hoek. Je vindt de schakelaar veel sneller en je hebt minder pijn.

4. Het Resultaat: Sneller en Beter

Door deze samenwerking tussen mens en machine:

• Minder mislukkingen: Ze hoefden veel minder experimenten te doen om de perfecte instelling te vinden.
• Beter inzicht: Ze ontdekten dat er geen één perfecte instelling is, maar een balans.
  • Wil je een heel stabiele laag? Dan moet je de flitsen korter houden (maar dan werkt het minder goed als "brein").
  • Wil je een heel slimme, reactieve laag? Dan moet je de flitsen langer houden (maar dan is hij kwetsbaarder).
• De computer kon nu een "Pareto-grens" tekenen: een lijn die laat zien wat de beste mogelijke balans is tussen "stabiel" en "slim".

Samenvatting in één zin

Dit artikel laat zien dat als je een heel moeilijk technisch probleem hebt waarbij veel dingen mislukken, je veel sneller tot een oplossing komt als je een slimme computer laat leren van de intuïtie en ervaring van een menselijke expert, in plaats van alleen te vertrouwen op de harde cijfers.

Het is een perfecte samenwerking: de computer doet de zware rekenwerk en zoekt snel, en de mens voorkomt dat de computer tijd verspillen aan gebieden die duidelijk niet werken.

Technische samenvatting

Probleemstelling

Neuromorfe computing hardware belooft efficiëntere randcomputing (edge computing), maar de fabricage van flexibele neuromorfe elektronica op polymeren (zoals PET) met metaaloxide-materialen stuit op grote uitdagingen. Metaaloxiden vereisen doorgaans hoge temperaturen voor verwerking, wat onverenigbaar is met temperatuurgevoelige polymeren. Een veelbelovende oplossing is fotische genezing (photonic curing), waarbij intense lichtpulsen de film in milliseconden verwerken zonder het substraat te beschadigen.

Echter, het optimaliseren van de fotische genezing is complex vanwege:

1. Meerdere gekoppelde invoerparameters: Vijf variabelen (stralingsenergie, pulscount, pulslengte, aantal micro-pulsen en duty cycle) creëren een zoekruimte van meer dan 4 miljoen combinaties. Een traditionele "grid-search" is hier ondoenlijk.
2. Competerende doelen: Voor neuromorfe toepassingen is een grote capacitantie-frequentie dispersie (C-f) gewenst (voor synaptische plasticiteit), maar dit vereist defecten in het dielektricum. Tegelijkertijd is een lage lekstroom noodzakelijk voor een functionele transistor, wat een dicht, defectarm dielektricum vereist. Deze doelen staan in directe concurrentie.
3. Hoge faalratio: Veel experimentele condities leiden tot mislukte films (onvolledig omgezet, verbrand of beschadigd). Deze "mislukte" data kan niet direct worden gebruikt om machinelearning-modellen te trainen, waardoor standaard optimalisatie-algoritmen vastlopen in gebieden die geen bruikbare apparaten opleveren.

Methodologie

De auteurs ontwikkelen een raamwerk dat Multi-Objective Bayesian Optimization (MOBO) combineert met een Human-in-the-Loop (HITL) strategie om de experimentele efficiëntie te verhogen.

1. MOBO Framework:

   • Het doel is het vinden van de Pareto-grens: een set van condities waarbij de C-f dispersie wordt gemaximaliseerd en de lekstroom geminimaliseerd, zonder dat het ene doel ten koste gaat van het andere zonder compromis.
   • Er worden twee Gaussian Process Regression (GPR) modellen gebruikt als surrogaatmodellen voor de twee doelen: $C_{100Hz}/C_{1MHz}$ (dispersie) en $|\log(I_{leakage})|$ (lekstroom).
   • De zoekruimte wordt verkend via actieve leerstrategieën, waaronder qEHVI (voor vroege rondes) en een aangepaste Pareto-UCB (Upper Confidence Bound) strategie voor latere rondes om de exploratie van de parameter ruimte te vergroten.

2. Human-in-the-Loop (HITL) Integratie:

   • Om het probleem van mislukte experimenten op te lossen, worden menselijke waarnemingen direct in de ML-workflow geïntegreerd.
   • In plaats van alleen te kijken naar elektrische data (die ontbreekt bij mislukte films), scoren onderzoekers de visuele staat van de film na genezing op een numerieke schaal:
     • -1.0: Niet omgezet
     • -0.5: Deels omgezet
     • 0: Volledig omgezet (succes)
     • +0.5: Deels verbrand
     • +1.0: Volledig verbrand
   • Deze scores trainen een apart GPR-model dat de waarschijnlijkheid van succes ($P_{constraint}$) voorspelt voor elke invoercombinatie.
   • De acquisitie-functie van de MOBO wordt vervolgens vermenigvuldigd met deze waarschijnlijkheid ($acq_{constrained} = acq_{UCB} \cdot P_{constraint}$). Hierdoor wordt de optimizer gestuurd weg van gebieden met een hoge kans op mislukking, zelfs voordat elektrische metingen zijn gedaan.

3. Analyse:

   • Na optimalisatie wordt SHAP (SHapley Additive exPlanations) analyse toegepast om de bijdrage van elke invoerparameter aan de doelen te kwantificeren en de fysische mechanismen te begrijpen.

Belangrijkste Resultaten

• Verbeterde Opbrengst (Yield): Zonder HITL resulteerden de eerste twee rondes van MOBO in slechts 5 functionele apparaten van 15 geprobeerde condities (33% succes). Met de HITL-aanpak steeg dit naar 9 van de 10 condities (90% succes).
• Snellere Convergentie: De HITL-methode reduceerde het aantal benodigde experimentele rondes aanzienlijk om de Pareto-grens te vinden, waardoor tijd en middelen werden bespaard.
• Pareto-optimale Condities: De studie identificeerde een reeks van optimale condities. Twee extreme voorbeelden werden vergeleken:
  • Conditie #40: Zeer lage lekstroom ($|\log(I)| \approx 6.05$), maar lagere C-f dispersie.
  • Conditie #66: Hoge C-f dispersie, maar hogere lekstroom ($|\log(I)| \approx 4.26$).
  • Beide condities voldoen aan de eisen voor neuromorfe transistors (lekstroom $\geq 4$).
• Inzicht in Parameters: De SHAP-analyse toonde aan dat pulslengte een kritieke, tegenstrijdige parameter is: langere pulsen vergroten de C-f dispersie maar verhogen ook de lekstroom. Stralingsenergie en pulscount hebben vergelijkbare tegenstrijdige effecten.

Bijdragen en Significantie

• Nieuwe Methodologie: Dit werk introduceert een robuust raamwerk om experimentele mislukkingen (die vaak voorkomen in materiaalkunde) te vertalen naar waardevolle informatie voor machinelearning. Het overstijgt de beperkingen van binaire classificatie (succes/mislukking) door een continu spectrum van mislukkingsmodi te gebruiken.
• Versnelling van Ontwikkeling: Door menselijke expertise (visuele inspectie) te combineren met ML, wordt de "trial-and-error" cyclus in het laboratorium drastisch verkort. Dit is cruciaal voor complexe fabricageprocessen met hoge faalratio's.
• Toepasbaarheid: Het raamwerk is niet beperkt tot fotische genezing; het is toepasbaar op elk multi-objectief experimenteel probleem waarbij invoerparameters sterk gekoppeld zijn en resultaten een continu spectrum vertonen in plaats van een simpel "doen of niet doen".
• Toepassing in Neuromorfe Elektronica: Het levert een bewezen methode om flexibele, op metaaloxide gebaseerde dielektrica te fabriceren die specifiek zijn afgestemd op de eisen van neuromorfe computing (STP-gedrag), wat een stap is naar draagbare en efficiënte sensorische systemen.

Kortom, dit artikel demonstreert hoe de integratie van menselijke oordeelsvorming in geautomatiseerde optimalisatiecycli niet alleen de efficiëntie van materiaalontwikkeling verhoogt, maar ook dieper inzicht biedt in de onderliggende fysische processen.