A bio-inspired hybrid lifelong learning based on self-selective memristors
Dit artikel stelt een bio-geïnspireerd hybride lifelong learning-systeem voor dat een Drosophila-menselijk hybride algoritme co-ontwerpt met zelf-selecterende memristor-hardware om catastrofale vergetelheid en energie-inefficiënties te overwinnen, waarbij significante snelheid- en energieverbeteringen worden bereikt ten opzichte van traditionele CMOS-versnellers.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een robot probeert te leren om alle videogames ooit gemaakt, één na het ander, te spelen. Het probleem is dat wanneer de robot "Space Invaders" leert, hij vaak vergeet hoe hij "Pac-Man" moet spelen. Dit wordt "catastrofale vergetelheid" genoemd, en het is een enorme hoofdpijn voor kunstmatige intelligentie. Om dit op te lossen, proberen wetenschappers meestal ofwel het brein van de robot te bevriezen zodat hij niets kan vergeten (maar dan kan hij geen nieuwe dingen leren), ofwel hem vrij te laten leren (maar dan vergeet hij de oude dingen). De natuur heeft echter een betere truc. Onze hersenen slaan niet simpelweg alles voor altijd op; ze vergeten actief de saaie dingen om ruimte te maken voor de belangrijke zaken, en ze hebben verschillende soorten geheugen die voor verschillende tijdsperioden blijven hangen. Dit artikel onderzoekt een nieuwe manier om AI te bouwen die deze biologische balans nabootst, maar in plaats van trage, energieverslindende computerchips, gebruikt het een speciaal soort elektronisch component dat fungeert als een levende geheugencel.
De onderzoekers, onder leiding van Yishu Zhang en een team van instellingen zoals de Zhejiang Universiteit en de Tsinghua Universiteit, hebben een "hybride lifelong learning"-systeem gecreëerd. Denk aan een robotbrein dat is gebouwd uit twee zeer verschillende onderdelen die samenwerken. Eerst ontwierpen ze een slim software-algoritme dat twee biologische ideeën combineert: "actieve vergetelheid" (geïnspireerd door fruitvliegjes, die dingen vergeten om efficiënt te blijven) en "metaplastisiteit" (geïnspireerd door mensen, die belangrijke herinneringen versterken). Ten tweede bouwden ze een fysiek hardware-apparaat genaamd een "self-selective memristor" (SSM) dat van nature zich zo gedraagt als deze software. Deze piepkleine apparaten kunnen hun elektrische weerstand veranderen om informatie op te slaan, maar in tegen tegenstelling tot normaal computergeheugen hebben ze een ingebouwde "lek" die zwakke herinneringen langzaam doet vervagen terwijl ze sterke herinneringen behouden, net als een menselijk brein.
Het team heeft dit niet alleen op een computer gesimuleerd; ze hebben ook een kleine chip gebouwd met 1.024 van deze memristors (geplaatst in een raster van 32x32) en deze getest. Ze ontdekten dat ze door te finetunen hoe snel deze apparaten "vergeten", een team van vijf verschillende "geheugencores" binnen de chip konden creëren. Sommige cores waren ingesteld om zeer vergeetachtig en flexibel te zijn (geweldig voor het snel leren van nieuwe, lastige taken), terwijl andere werden ingesteld om zeer stabiel en koppig te zijn (geweldig voor het vasthouden van oude, belangrijke vaardigheden). Wanneer ze dit systeem testten op een reeks van 20 verschillende beeldherkenningsopdrachten (met behulp van een dataset genaamd CIFAR), leerde het systeem al deze taken succesvol zonder de vorige te vergeten.
De resultaten waren indrukwekkend. Vergeleken met standaard computerchips (CMOS), werd geprojecteerd dat dit nieuwe systeem 3,42 keer sneller is en 91 keer minder energie verbruikt. De auteurs suggereren dat deze aanpak de eeuwenoude strijd tussen het veilig houden van oude kennis en het leren van nieuwe dingen oplost, wat een pad biedt naar AI die echt continu kan leren in de echte wereld, net zoals wij dat doen. Ze benadrukken dat hoewel de kernleeregels op hardware zijn getest, de volledige prestatiecijfers voor de 20-takenuitdaging gebaseerd waren op simulaties gekalibreerd met hun echte hardwaremetingen, wat aantoont dat de fysica van hun nieuwe apparaten inderdaad complexe, levenslange leerprocessen kan ondersteunen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.