Technische Samenvatting: AgForce maakt antigeen-geconditioneerd generatief antilichaamontwerp mogelijk

1. Probleemstelling

Het ontwerp van therapeutische antilichamen vereist het genereren van Complementariteit-Bepalende Regio's (CDR's), specifiek de zeer variabele CDR-H3-lus, die binden aan een doelantigeen. Hoewel diepe generatieve modellen zijn ontwikkeld om antilichaamontwerp te conditioneren op antigeenstructuur, toont een systematische evaluatie een kritiek falen aan: bestaande methoden negeren de antigeeninput grotendeels.

De auteurs identificeren drie causaal gekoppelde faalmodi in huidige state-of-the-art benaderingen (specifiek equivariante Graph Neural Networks met greedy decoding):

1. Antigeenblindheid: Modellen produceren bijna identieke CDR-sequenties ongeacht het doelantigeen. Een baseline zonder antigeen bereikt vaak een bindingskwaliteit die vergelijkbaar is met antigeen-geconditioneerde modellen, wat aangeeft dat conditioneringsmechanismen weinig bijdragen.
2. Vocabulaire-inzakking: Voorspelde aminozuurverdelingen zijn ernstig beperkt, waarbij effectieve vocabulaires instorten tot 3–5 aminozuren per positie (vergeleken met ~15,5 in native sequenties). Zeldzame maar biochemisch kritische residuen worden bijna nooit voorspeld.
3. Het Cross-Entropy-plafond: De auteurs bewijzen theoretisch dat het minimaliseren van standaard cross-entropy-verlies per positie de optimale predictor dwingt te convergeren naar de positiemarkinaalverdeling (de empirische frequentie van aminozuren op elke positie over de trainingsset), ongeacht het conditioneringssignaal. Deze wiskundige eigenschap maakt het wiskundig onmogelijk voor standaard cross-entropy-doelstellingen om antigeenspecifieke voorspellingen te genereren.

2. Methodologie: AGFORCE

Om deze faalmodi aan te pakken, stellen de auteurs AGFORCE voor, een nieuw encoder-decoder-architectuur ontworpen voor sequentie-structuur co-ontwerp.

Encoder-architectuur

• Framework Dropout: Om te voorkomen dat het model zich op het antilichaamframework verlaat als een "shortcut" (het antigeen negerend), worden de embeddings van het zware-ketenframework gecorrumpeerd via dropout (30% waarschijnlijkheid) voordat berichten worden doorgegeven. Dit dwingt het model om informatie uit het antigeenpad te extraheren.
• VirtualNode-EGNN: Het antilichaam-antigeencomplex wordt voorgesteld als een heterogeen graf. De encoder gebruikt een E(3)-equivariante Graph Neural Network (EGNN) aangevuld met virtuele knopen. Deze virtuele knopen creëren een twee-hop informatiekanaal tussen epitoom- en CDR-residuen, wat het probleem van "over-squashing" mitigeert waarbij verre epitoominformatie verdunt tijdens sequentiële berichtdoorgeef.
• Hyperbolische Cross-Attention: In plaats van standaard Euclidische attention, voert AGFORCE CDR-naar-epitoom cross-attention uit op het Lorentz-hyperboloïde. Dit maakt gebruik van de hiërarchische aard van antilichaam-antigeenbinding, waarbij de globale epitoomgeometrie lokale aminozuurkeuzes beperkt.

Decoder-architectuur

• Mixture Density Network (MDN) met Paarsgewijze Koppeling: Om het cross-entropy-plafond te doorbreken, vervangt AGFORCE de standaard lineaire sequentiekop door een MDN. De decoder voorspelt een mengsel van $K=4$ componenten. Elke component gebruikt een symmetrische koppelingsmatrix (Potts-achtig) om paarsgewijze aminozuurvoorkeuren tussen aangrenzende posities te modelleren, verfijnd via belief propagation.
• Gegloeide Multiple Choice Learning (aMCL): Het model wordt getraind met aMCL in plaats van standaard mengsel-likelihood. Een temperatuurparameter $\tau$ gloeit van hoog naar laag tijdens het trainen. Dit stelt componenten in staat aanvankelijk diverse oplossingen te verkennen en zich vervolgens te specialiseren in "winner-take-all"-toewijzingen voor specifieke subsets van trainingsvoorbeelden. Theoretisch stelt dit individuele componentvoorspellingen in staat om af te wijken van de globale positiemarkinaal, waardoor het plafond wordt doorbroken.
• GDPP Diversiteitsregularisatie: Een Generative Determinantal Point Process (GDPP)-verlies wordt toegepast op de mengselscomponenten om afwijkingen van native diversiteit te bestraffen, wat vocabulaire-inzakking direct tegengaat.
• Antigeen-classificatieverlies: Een gespecialiseerde kop routeert gradiënten via de voorspelde sequentieverdelingen terug naar de antigeen-embeddingsruimte. Met behulp van een InfoNCE-doelstelling dwingt dit verlies de voorspelde CDR-kansverdelingen om antigeenspecifieke identiteit te coderen, zodat het model het antigeen niet kan negeren.

Trainingsdoelstelling

De totale verliesfunctie combineert vijf termen:

1. Sequentievoorspelling (MDN-Potts met aMCL).
2. Coördinaatvoorspelling (Smooth-$\ell_1$-verlies op CDR-ruggengraatcoördinaten).
3. Shadow paratope-verlies (afdwingen van correcte afstanden tot het epitoomoppervlak).
4. GDPP diversiteitsregularisatie.
5. Antigeen-classificatieverlies.

3. Belangrijkste Bijdragen

1. Diagnostisch Kader: Het artikel biedt de eerste systematische identificatie van drie faalmodi (antigeenblindheid, vocabulaire-inzakking en het cross-entropy-plafond) in equivariante GNN-methoden voor CDR-ontwerp, geverifieerd over vijf architectuurfamilies.
2. AGFORCE-architectuur: Een gerichte interventie voor elke faalmodus:
   • Framework dropout en antigeenconsistentieverlies om blindheid aan te pakken.
   • MDN-Potts-kop met aMCL en GDPP-regularisatie om vocabulaire-inzakking en het cross-entropy-plafond aan te pakken.
   • Hyperbolische cross-attention en virtuele knopen voor verbeterde structurele codering.
3. Theoretisch Bewijs: Een formeel bewijs dat aantoont dat standaard cross-entropy-optimalisatie convergeert naar de positiemarkinaal, en dat de voorgestelde aMCL-doelstelling oplossingen toestaat die deze convergentie doorbreken.

4. Experimentele Resultaten

Het model werd geëvalueerd op CHIMERA-BENCH, een benchmarkdataset van 2.922 antilichaam-antigeencomplexen met een epitoom-groepsverdeling.

• Sequentieherstel: AGFORCE bereikte een Aminozuurherstel (AAR) van 0,40, wat de sterkste sequentie-baselines (RAAD, MEAN, dyMEAN) overtrof die convergeerden naar ~0,37. Dit vertegenwoordigt een verbetering van 8% ten opzichte van de sterkste baseline en doorbreekt het geïdentificeerde cross-entropy-plafond.
• Bindingskwaliteit: AGFORCE bereikte state-of-the-art prestaties over alle bindingsmetrieken simultaan:
  • Hoogste fractie native contacten (fnat = 0,67).
  • Laagste interface RMSD (iRMSD = 1,30 Å).
  • Beste DockQ (0,74) en epitoom F1 (0,77).
  • Het presteerde beter dan RefineGNN (een sterke baseline zonder enige antigeeninput), wat de effectiviteit van de gebruikte specifieke verliesfuncties aantoont.
• Diversiteit: Het effectieve vocabulaire van AGFORCE was 9,4, bijna het dubbele van dat van GNN-baselines (3,0–5,5) en naderend tot native diversiteit (15,5). Het model produceerde 95,5% unieke sequenties over testcomplexen, vergeleken met 20,9–76,4% voor baselines.
• Ablatiestudies: Het verwijderen van hyperbolische attention of framework dropout degradeerde de bindingskwaliteit aanzienlijk. Het verwijderen van het antigeen-classificatieverlies verlaagde de bindingsmetrieken terwijl het de perplexiteit verbeterde, wat bevestigt dat het fungeert als een regularisator die kalibratie inruilt voor bindingspecificiteit.

5. Betekenis en Claims

De auteurs beweren dat AGFORCE aantoont dat de keuze van verliesfunctie en decoderkop kritischer is dan de encoder-architectuur voor conditioneel sequentieontwerp in dit domein. Door verder te gaan dan standaard cross-entropy en greedy decoding, toont het artikel aan dat het mogelijk is om sequentieherstel, structurele nauwkeurigheid en antigeenspecificiteit simultaan te optimaliseren.

Het werk suggereert dat eerdere mislukkingen in antigeen-geconditioneerd ontwerp niet te wijten waren aan een gebrek aan modelcapaciteit of data, maar eerder fundamentele beperkingen in de trainingsdoelstellingen (cross-entropy-plafond) en decodingstrategieën (greedy decoding). AGFORCE biedt een principiële remedie, en bereikt tot nu toe de beste simultane prestaties op bindingskwaliteit en sequentieherstel.

Erkende Beperkingen:

• Contact AAR (nauwkeurigheid op directe bindingsposities) blijft vergelijkbaar met baselines, wat suggereert dat het voorspellen van exacte aminozuren op bindingsinterfaces een moeilijker probleem is dat mogelijk expliciete rotamer-modellering van zijketens vereist.
• Hoewel het effectieve vocabulaire bijna verdubbeld is, blijft het nog steeds achter bij volledige native diversiteit.