Entropy Production Bounds the Accuracy of Computation in Markov Networks

Levende wezens lossen voortdurend problemen op. Een bacterie neemt de dichtheid van haar buren waar om te beslissen wanneer ze moet zwermen; een blad past zijn interne chemie aan om te overleven tijdens een plotselinge uitbarsting van zonlicht; een cel concludeert de concentratie van voedingsstoffen in haar omgeving om te weten wanneer ze moet groeien. In elk geval voert een netwerk van moleculen een berekening uit, waarbij een veranderend signaal uit de buitenwereld wordt omgezet in een nuttige actie. Dit proces is niet instantaan. Omdat informatie zich met een eindige snelheid door deze moleculaire netwerken beweegt, loopt de interne staat van het systeem altijd een klein beetje achter op de veranderende omgeving. Deze vertraging creëert fouten, waardoor de organisme reageert op een verleden realiteit in plaats van op het heden. Om deze fouten te corrigeren en bij te blijven in een fluctuerende wereld, moet het systeem energie verbruiken, waarbij warmte wordt afgevoerd naar de omgeving.

Decennialang hebben wetenschappers begrepen dat energie nodig is om orde te handhaven en werk te verrichten. Echter, een precieze regel die de kosten van die energie verbindt met de nauwkeurigheid van de berekening is tot nu toe ongrijpbaar gebleven. Onderzoekers Songela W. Chen en David T. Limmer hebben nu een fundamentele thermodynamische limiet afgeleid voor hoe nauwkeurig een stochastisch netwerk kan rekenen. Zij tonen aan dat de fout veroorzaakt door deze onvermijdelijke vertraging strikt begrensd wordt door de snelheid waarmee het systeem entropie produceert, of afvalwarmte, en een specifieke maatstaf voor hoe lang het systeem zich zijn vorige toestanden herinnert. Hun werk onthult dat een netwerk, om nauwkeurig te kunnen rekenen, ofwel veel energie moet besteden, ofwel een langdurig geheugen moet bezitten dat is gecodeerd in zijn traagste interne bewegingen.

De auteurs bestudeerden reversibele netwerken, wat systemen zijn waarbij de onderliggende natuurkundige wetten transities tussen toestanden toelaten om te worden omgekeerd, een conditie die geldt voor veel biologische processen in evenwicht. Ze richtten zich op hoe deze netwerken een tijdgebonden input volgen, zoals een stijgende concentratie van een chemisch signaal. De totale fout in de output van het netwerk bleek twee verschillende bronnen te hebben. De eerste is een representatiefout, die ontstaat als het basisontwerp van het netwerk simpelweg niet in staat is de input aan de gewenste output te koppelen, zelfs als het perfect tot rust zou komen. De tweede is een vertragingsfout, die optreedt omdat de waarschijnlijkheidsverdeling van het netwerk tijd nodig heeft om te relaxeren en in te halen wat de nieuwe omstandigheden zijn. De onderzoekers toonden aan dat deze vertragingsfout het cruciale component is dat door de thermodynamica wordt beperkt.

Door middel van wiskundige analyse en computersimulaties stelde het team vast dat het kwadraat van de vertragingsfout de product van de entropieproductiesnelheid en een tijdconstante die de geheugen van het systeem vertegenwoordigt, niet kan overschrijden. Deze geheugentijd wordt bepaald door hoe lang de outputvariabele van het netwerk van nature fluctueert wanneer deze alleen wordt gelaten. Als de output zeer traag verandert, houdt het systeem informatie over het verleden gedurende een lange tijd vast, wat fungeert als een sterk geheugen. Als de output snel fluctueert, is het geheugen kort. De door de auteurs afgeleide ongelijkheid impliceert een strikte afweging: om de fout bij het volgen van een veranderend signaal te verminderen, moet een systeem ofwel meer energie dissiperen, ofwel vertrouwen op bewegingsmodi die zeer traag relaxeren, waardoor informatie voor langere perioden wordt opgeslagen.

Om de universaliteit van dit principe te testen, pasten de onderzoekers hun raamwerk toe op zowel kunstmatige netwerken als modellen van echte biologische systemen. Ze trainden kunstmatige netwerken van tien toestanden om specifieke inputsignalen te volgen, inclusen taken die geen geheugen vereisten en andere die vereisten dat het systeem voorgaande inputs onthield om de juiste huidige output te genereren. In de geheugenafhankelijke taken maakte het netwerk gebruik van zijn eigen trage relaxatiedynamiek om informatie op te slaan, waarbij het de vertraging effectief als een computationele hulpbron gebruikte. In deze gevallen bleef de fout onder de voorspelde thermodynamische grens, en de grens was het meest nauwsluitend wanneer de dissipatie van energie was uitgelijnd met de specifieke trage modi die de relevante informatie droegen.

De studie onderzocht vervolgens vier verschillende modellen van biologische informatieverwerking: een ligand-gestuurde ionkanaal die opent als reactie op een chemische stof, een genetische schakelaar bekend als de Lac-repressor die genexpressie controleert, een bacterieel quorum-sensing systeem dat groepsgedrag coördineert, en een fotoprotectiemechanisme in planten dat overtollige lichtenergie afvoert. In elk geval simuleerden de onderzoekers het systeem terwijl het reageerde op willekeurige, tijdsvariërende inputs die de werkelijke omgevingsfluctuaties nabootsten. Ze berekenden de werkelijke trackingfout en vergeleken deze met de theoretische limiet afgeleid van de entropieproductie en de geheugentijd van het systeem. In alle modellen, ongeacht hun complexiteit of biologische functie, overschreed de vertragingsfout de thermodynamische grens nooit.

De resultaten benadrukken dat niet alle energieverbruik even nuttig is voor computation. Systemen die energie dissiperen in richtingen die niet gerelateerd zijn aan de output die ze proberen te berekenen, verbeteren hun nauwkeurigheid niet. Alleen de dissipatie die geprojecteerd wordt op de trage, output-relevante modi van het netwerk draagt effectief bij aan het verminderen van de fout. Deze bevinding suggereert dat biologische netwerken zijn geëvolueerd om hun energieverbruik te kanaliseren naar specifieke paden die hun vermogen om te onthouden en te reageren op het verleden versterken. Het werk biedt een kwantitatief raamwerk voor het begrijpen van de energetische kosten van biologische computation, waarbij wordt aangetoond dat nauwkeurigheid niet gratis is, maar wordt gekocht door ofwel de voortdurende verbranding van brandstof, ofwel het onderhouden van een langdurig geheugen.

De onderzoekers bevestigden dat hun theoretische grens ook standhoudt wanneer de systemen ver van evenwicht worden gedreven, hoewel de relatie het meest precies is wanneer het systeem dicht bij zijn stationaire toestand blijft. In simulaties van het bacteriële quorum-sensing model en het plantfotoprotectiesysteem bleef de kwadratische benadering van de grens een betrouwbare voorspeller van de fout, zelfs wanneer de inputsignalen abrupt veranderden. De studie concludeert dat het vermogen van een stochastisch netwerk om nauwkeurige dynamische computation uit te voeren fundamenteel beperkt wordt door de wisselwerking tussen hoeveel het dissipeert en hoe lang het onthoudt. Dit principe biedt een nieuw perspectief voor het begrijpen van het ontwerp van levende systemen en de potentiële limieten van synthetische chemische circuits die zijn ontworpen om deze na te bootsen.