On the Capacity of Distinguishable Synthetic Identity Generation under Face Verification

Titel en Context

Titel: On the Capacity of Distinguishable Synthetic Identity Generation under Face Verification
Auteur: Behrooz Razeghi (Harvard University)
Datum: April 14, 2026 (Preprint)
Onderwerp: De theoretische limiet van het aantal synthetische gezichtsidentiteiten dat gegenereerd kan worden, zodat ze onder een vastgestelde verificatiedrempel nog steeds als unieke identiteiten herkend kunnen worden.

---

1. Het Probleem

De groei van generatieve modellen voor gezichtsgegenereerde data (zoals GANs en Diffusiemodellen) roept de vraag op: Hoeveel unieke synthetische identiteiten kunnen er gegenereerd worden zodat een gezichtverificatiesysteem deze correct kan onderscheiden?

Bestaande methoden om de diversiteit van synthetische data te meten (zoals gemiddelde gelijkenis, spreiding in de feature-ruimte of wederzijdse informatie) beantwoorden deze operationele vraag niet direct. Een systeem moet niet alleen "diverse" gezichten produceren, maar deze moeten ook voldoen aan specifieke verificatieregels:

1. Genuine-paren (twee weergaven van dezelfde synthetische identiteit) moeten een gelijkenis-score boven een drempelwaarde $\tau$ behalen.
2. Impostor-paren (weergaven van verschillende identiteiten) moeten onder deze drempel blijven.

Het paper definieert en analyseert de capaciteit van onderscheidbare identiteitsgeneratie: het maximale aantal latent-identiteiten waarvan de gegenereerde embedding-verdelingen voldoen aan deze verificatie-eisen.

---

2. Methodologie en Model

Systeemarchitectuur

Het auteurs modelleren een generatief gezichtsherkenningssysteem als een pijplijn bestaande uit:

• Een generator $g$: Mapt een latent-identiteitscode $c_i$ en een "nuisance"-variabele (view, zoals pose of belichting) $U$ naar een gezicht $Y$.
• Een herkenningsmap $\phi$: Mapt het gezicht $Y$ naar een genormaliseerde embedding $E$ op de eenheids-hypersfeer $S^{D-1}$ in $\mathbb{R}^D$.

De verificatie gebeurt via de cosinus-gelijkheid: $\langle E, E' \rangle \geq \tau$.

Definitie van Capaciteit

De capaciteit wordt gedefinieerd als het grootste aantal $M$ van latent-identiteiten ($c_1, ..., c_M$) zodat de geïnduceerde embedding-verdelingen $P_i$ voldoen aan:

• $Pr(\langle E_i^{(1)}, E_i^{(2)} \rangle \geq \tau) \geq 1 - \epsilon_{in}$ (genuine acceptatie)
• $Pr(\langle E_i^{(1)}, E_j^{(1)} \rangle \leq \tau) \geq 1 - \epsilon_{out}$ (impostor afwijzing)

Het paper onderscheidt twee scenario's:

1. Vaste Code (Fixed-Code): De latent-codes worden deterministisch gekozen om de capaciteit te maximaliseren.
2. Vooraf-gedefinieerde Random Code: De latent-codes worden onafhankelijk getrokken uit een gegeven prior-verdeling. De capaciteit is hier het maximale $M$ waarbij de voorwaarden met een hoge waarschijnlijkheid ($1-\delta$) gelden.

Geometrische Analyse

De analyse is puur geometrisch en gebaseerd op de structuur van de eenheids-hypersfeer:

• Deterministisch regime: Als de embedding view-invariant is (elke identiteit is één punt op de sfeer), wordt het probleem gereduceerd tot een klassiek sferisch codeerprobleem (spherical code). De capaciteit is gelijk aan het maximale aantal punten dat op de sfeer geplaatst kan worden met een onderlinge hoekafstand van minstens $\arccos(\tau)$.
• Stochastisch regime (Centered Model): Omdat generatieve modellen variatie hebben, wordt elke identiteit gemodelleerd als een verdeling geconcentreerd rond een "centrum" $u_i$ binnen een hoekstraal $\rho$ (de "within-identity concentration radius").
  • Voor toelaatbaarheid moet de hoekafstand tussen de centra van twee identiteiten voldoen aan:
    $$\angle(u_i, u_j) \geq \arccos(\tau) + 2\rho$$
  • Dit betekent dat de vereiste scheiding de verificatiedrempel plus tweemaal de interne spreiding van de identiteit is.

---

3. Belangrijkste Bijdragen

1. Operationele Definitie: De introductie van een strikte, verifier-gerichte definitie van identiteitscapaciteit, gebaseerd op vaste verificatiedrempels in plaats van algemene statistische maatstaven.
2. Deterministische Karakterisering: Bewijs dat in het deterministische, view-invariante regime de capaciteit exact overeenkomt met de klassieke sferische code-capaciteit over de set van realiseerbare embeddings.
3. Stochastische Ondergrenzen: Voor stochastische generatie wordt een "centered model" geïntroduceerd. Er wordt een voldoende voorwaarde afgeleid voor toelaatbaarheid gebaseerd op de hoekafstand $\arccos(\tau) + 2\rho$. Hieruit volgen ondergrenzen voor de capaciteit die gebaseerd zijn op sferische codes.
4. Asymptotische Analyse: Het paper toont aan dat het aantal onderscheidbare identiteiten exponentieel groeit met de embeddimensie $D$. De groeisnelheid wordt begrensd door $-\log(\sin(\psi_{\tau}(\rho)))$, waarbij $\psi_{\tau}(\rho) = \arccos(\tau) + 2\rho$.
5. Random-Code Capaciteit: Voor het geval identiteiten willekeurig uit een prior worden getrokken, worden hoge-probabiliteit ondergrenzen afgeleid die afhankelijk zijn van de kans op "paarsgewijze scheidingsfalen" (dat twee willekeurige centra te dicht bij elkaar liggen).
6. Converse en Exacte Karakterisering: Onder een sterkere aanname (full-cap-support) wordt een converse bewezen, wat leidt tot een exacte karakterisering in termen van sferische codes.

---

4. Resultaten en Observaties

• Invloed van Dimensie ($D$): De capaciteit groeit exponentieel met de dimensie van de embedding-ruimte. Een hogere dimensie staat toe dat veel meer identiteiten worden onderscheiden onder dezelfde verificatieregels.
• Invloed van Spreiding ($\rho$): Een grotere interne spreiding van een identiteit (grotere $\rho$) vergroot de vereiste hoekafstand tussen identiteitscentra. Dit verlaagt de maximale capaciteit en de asymptotische groeisnelheid.
• Invloed van Drempel ($\tau$): Een strengere drempel (hoger $\tau$, dichter bij 1) verkleint de hoek $\arccos(\tau)$, maar vereist in de praktijk vaak een kleinere $\rho$ om toelaatbaar te blijven. De relatie is complex, maar de theorie toont aan dat een lagere drempel (makkelijkere verificatie) theoretisch meer identiteiten toelaat, mits de interne consistentie behouden blijft.
• Vaste vs. Random Codes: De capaciteit voor willekeurig getrokken codes is strikt lager dan voor optimaal gekozen vaste codes. In het asymptotische geval met uniforme verdeling van centra is de groeisnelheid van de random-code capaciteit precies de helft van die van de vaste code (een factor van 2 in de exponent), wat de "kost" van het niet-optimaliseren van de codeboeken weergeeft.
• Validatie: Numerieke experimenten op de eenheids-sfeer bevestigen de theoretische onder- en bovengrenzen en tonen de exponentiële groei en de invloed van $\rho$ en $\tau$ aan.

---

5. Betekenis en Conclusie

Dit paper biedt een fundamenteel theoretisch raamwerk voor het begrijpen van de schaalbaarheid van synthetische gezichtsdata in biometrische systemen.

• Voor Onderzoekers: Het verlegt de focus van het genereren van "realistische" gezichten naar het genereren van "onderscheidbare" identiteiten binnen de beperkingen van de herkenningssystemen. Het koppelt generatieve modellering direct aan informatie-theoretische concepten (sferische codes).
• Voor Praktijk: Het benadrukt het belang van de embeddimensie. In veel huidige systemen wordt de dimensie als vast beschouwd, maar dit paper toont aan dat het verhogen van de dimensie een directe manier is om de capaciteit van het systeem voor synthetische data te vergroten.
• Voor Training en Evaluatie: Het suggereert dat trainingsdoelen voor generatieve modellen (zoals Maximum Manifold Capacity Representations) moeten streven naar twee dingen:
  1. Hoge concentratie van embeddings binnen dezelfde identiteit (kleine $\rho$).
  2. Brede spreiding van de gemiddelde representaties van verschillende identiteiten over de sfeer.

Samenvattend definieert het paper de theoretische limiet van hoeveel "nieuwe mensen" een AI kan creëren die door een bestaand gezichtssysteem als uniek worden erkend, en kwantificeert hoe deze limiet afhangt van de geometrie van de embedding-ruimte en de eigenschappen van de generator.