Technische Samenvatting: Quotiënt Semivaluut voor Valse-Namen-Resistente Data-Attributie

1. Probleemstelling

Methoden voor datawaardering, zoals Data Shapley, zijn ontworpen om betalingen toe te wijzen en de bijdrage van trainingsdata aan machinelearning-pijplijnen te auditeren. Deze methoden gaan echter doorgaans uit van een vast aantal passieve bijdragers. In echte datamarkten zijn bijdragers strategische actoren die het toewijzingsmechanisme kunnen manipuleren om hun aandeel op te blazen.

Het artikel identificeert valse-naammanipulatie als een kritieke faalmodus. Een enkele latente provider kan:

• Een dataset splijten over meerdere pseudonieme identiteiten (Sybil-aanvallen).
• Hoogwaardige voorbeelden dupliceren of bijna-duplicaten creëren (parafrazen, augmentaties, synthetische varianten).
• Synthetische varianten wassen om het validatieset van de evaluator te exploiteren.

Het kernprobleem is dat standaard Shapley-gebaseerde eerlijke toewijzing op gerapporteerde identiteiten niet prikkelcompatibel is. Omdat datawaarde vaak niet-additief en complementair is, kan het splitsen van een dataset in meerdere identiteiten de som van de ontvangen Shapley-waarden voor de aanval verhogen ten opzichte van de waarde die door één eerlijke identiteit wordt ontvangen.

2. Methodologie

2.1 Formeel Model

De auteurs formaliseren de situatie als een mechanismeontwerpprobleem over latente providers ($N$) en ingediende identiteiten ($m$).

• Data-Waarde Spel: Een monotoon spel waarbij de waarde van een coalitie de nuttigheid is van de leerder die getraind is op de unie van payloads van die coalitie.
• Manipulatieklassen:
  • Valse-naam splitsing: Het vervangen van één identiteit door $k \ge 2$ identiteiten die een partitie of replicatie van de oorspronkelijke data bevatten.
  • Variant-aanval: Het indienen van getransformeerde kopieën (duplicaten, parafrazen, synthetische data) onder één of meer identiteiten.
• Winstmetriek: De additieve of multiplicatieve winst die een aanval behaalt door de identiteitsstructuur te manipuleren in vergelijking met eerlijke rapportage.

2.2 Onmogelijkheidstheorema

Het artikel bewijst een fundamenteel onmogelijkheidstheorema: Exacte Shapley-gebaseerde eerlijke toewijzing op gerapporteerde identiteiten is onverenigbaar met onbeperkte valse-naam-resistentie.
Zelfs bij binaire, monotoon spelletjes (bijvoorbeeld unaniem-spelletjes) kan een provider zijn totale betaling verhogen door zijn data te splitsen in meerdere pseudoniemen. Bijvoorbeeld, in een unaniem-spel met twee spelers waarbij $v(\{A, B\}) = 1$, ontvangt provider $A$ $1/2$. Als $A$ splitst in $A_1, A_2$ zodat de waarde vereist dat alle drie ($A_1, A_2, B$) aanwezig zijn, zijn de nieuwe Shapley-waarden elk $1/3$, wat een totaal van $2/3$ voor $A$ oplevert. Deze structurele kwetsbaarheid strekt zich uit tot algemene semivaluut (Banzhaf, Beta-Shapley), hoewel de omvang van de winst varieert.

2.3 Het Quotiënt Semivaluut Mechanisme

Om dit op te lossen, stellen de auteurs het Quotiënt Semivaluut mechanisme voor, dat de strategische eenheid verschuift van ruwe ingediende identiteiten naar evidence-onderbouwde attributieclusters.

1. Evidence Grafiek & Clustering:
   • Een evidence-functie $e_\theta(u, u')$ bepaalt of twee eenheden (voorbeelden, documenten) voldoende vergelijkbaar zijn (gebaseerd op hashes, embeddings, herkomst, etc.) om als hetzelfde attributieobject te worden behandeld.
   • Dit vormt een grafiek waarbij samenhangende componenten clusters zijn ($C_1, \dots, C_K$).
2. Cluster Representant Operator ($R_\theta$):
   • Om manipulatie via duplicatie binnen een cluster te voorkomen (bijvoorbeeld het indienen van 10 kopieën van een voorbeeld om het zwaarder te wegen), beeldt een canonieke representant-operator elke cluster af op een vaste set canonieke trainings-eenheden.
   • Strategieën omvatten: exacte-duplicaat ineenstorting, het beperken van het aantal eenheden per cluster, of gewogen-genormaliseerde unies.
3. Quotiënt Spel:
   • Er wordt een nieuw coöperatief spel geconstrueerd waarbij de spelers de clusters zijn, niet de identiteiten.
   • De waarde van een coalitie van clusters is de nuttigheid van de leerder die getraind is op de unie van hun canonieke representanten.
4. Semivaluut Berekening & Toewijzing:
   • Semivaluut (Shapley, Banzhaf, etc.) worden berekend over het quotiëntspel.
   • Toewijzing binnen Cluster: De betaling aan een cluster wordt verdeeld over de ingediende identiteiten binnen die cluster. Het mechanisme vereist een valse-naam-neutrale toewijzingsregel (bijvoorbeeld toewijzing evenredig aan het aantal canonieke eenheden dat door elke identiteit is bijgedragen) om te waarborgen dat het splitsen van een identiteit binnen een cluster het totale aandeel niet verhoogt.

3. Belangrijkste Bijdragen

1. Formeel Model: Een rigoureus kader voor data-provider manipulatie met betrekking tot latente providers, ingediende identiteiten en transformatie-aanvallen.
2. Onmogelijkheidstheorema: Bewijs dat geen enkel mechanisme zowel exact Shapley-gebaseerd eerlijk kan zijn op gerapporteerde identiteiten als onbeperkt valse-naam-resistent.
3. Quotiënt Semivaluut Mechanisme: Een constructieve oplossing die semivaluut berekent over evidence-onderbouwde clusters met een canonieke representant-operator.
4. Theoretische Garanties:
   • Exacte Valse-Namen-Resistentie: Bereikt onder "quotiënt-stabiele" manipulaties (waarbij de aanval zijn eerlijke cluster niet kan ontvluchten of de canonieke representant niet kan wijzigen) en valse-naam-neutrale toewijzing.
   • Benaderde Garanties: Grenzen aan manipulatie-winst en verlies aan eerlijkheid in termen van drie meetbare grootheden: ontsnapte-cluster massa (varianten die nieuwe clusters vormen), waarde-schatting fout, en clustering-afstand (drift in de representant).
5. DataMarket-Gym: Een nieuwe benchmark voor het evalueren van attributiemechanismen onder strategische provider-aanvallen, die exacte duplicaten, bijna-duplicaten, synthetische wasserette en Sybil-splitsing omvat.

4. Experimentele Resultaten

De auteurs evalueren het mechanisme op synthetische en real-world datasets (CIFAR-10, AG News, STL-10, IMDB).

• Synthetische Classificatie:
  • Baseline Shapley op ruwe identiteiten toonde een manipulatie-winst van 1,74 bij duplicaat/Sybil-aanvallen.
  • Quotiënt Shapley met voorbeeld-niveau evidence (cosinus-similariteit $\theta=0,99$) verlaagde deze winst tot 0,96, waardoor de aanval effectief werd geneutraliseerd en de niveaus bijna eerlijk werden.
  • Het mechanisme is robuust voor de keuze van het semivaluut (Shapley, Banzhaf, Beta-Shapley).
• Drempelgevoeligheid:
  • De cosinus-drempel $\theta$ is cruciaal. Een te lage drempel veroorzaakt "valse samenvoegingen" (onafhankelijke providers die samen worden gegroepeerd), wat Sybil-winsten kan versterken. Een te hoge drempel slaagt er niet in bijna-duplicaten te vangen.
  • Het artikel identificeert een domeinspecifieke drempel-reversie:
    • In beeld-domeinen (CIFAR-10) leiden hoge normen tot hoge paarwijze similariteiten; een strakkere drempel ($\theta \ge 0,90$) is vereist om ketenaanvallen te voorkomen.
    • In tekst-domeinen (AG News) hebben eenheid-genormaliseerde embeddings lagere paarwijze similariteiten; een losse drempel ($\theta \le 0,90$) is optimaal, aangezien strikte drempels er niet in slagen bijna-duplicaten te koppelen.
  • De optimale drempel is voorspelbaar op basis van embedding-statistieken (paarwijze p90 en fractie van gemengde componenten met kettingvloer).
• Real-World Transfer:
  • Het mechanisme is overdraagbaar naar pijplijnen met bevroren kenmerken (ResNet-18, MiniLM) zonder orakeltoegang, wat zijn praktische levensvatbaarheid bevestigt.
  • Zuivere-splitsingsaanvallen (disjuncte data zonder overlap) blijven onbeschermd door similariteitsevidence alleen, en vereisen niet-voorbeeld-niveau herkomst (bijvoorbeeld accountkoppeling, KYC).

5. Betekenis en Claims

Het artikel beweert dat Shapley-gebaseerde eerlijke data-attributie niet automatisch prikkelcompatibel is wanneer identiteiten endogeen zijn. De betekenis van het werk ligt in:

• Verschuiving van de Strategische Last: Het verplaatsen van de attributie-eenheid van mutabele identiteiten naar evidence-onderbouwde clusters maakt een gecontroleerde afweging mogelijk tussen Shapley-stijl eerlijkheid en Sybil-resistentie.
• Conditionele Mogelijkheid: Hoewel exacte Shapley-gebaseerde eerlijkheid onmogelijk is onder onbeperkte manipulatie, herstelt het quotiëntmechanisme een "gecontroleerde afweging" wanneer similariteits- en herkomstsignalen gemanipuleerde varianten betrouwbaar kunnen samenvoegen tot dezelfde eenheid.
• Praktische Implementatie: Het mechanisme is "semivaluut-agnostisch", wat betekent dat het kan worden ingezet met verschillende waardering-backends (Shapley, Banzhaf, etc.) en robuust is tegen ruis in schatters.
• Complementariteit: De aanpak vult bestaand werk aan over "Faithful Group Shapley Values" (dat verdedigt tegen aggregatie van vaste datasets door shell-bedrijven) door de constructie van de attributie-eenheid zelf aan te pakken wanneer data-inhoud kan worden gewijzigd (gedupliceerd, geparafraseerd, gesynthetiseerd).

De auteurs concluderen dat de eenheid van attributie een keuze in mechanismeontwerp is, en dat het quotiënt semivaluut een robuust kader biedt voor datamarkten waar providers strategisch handelen.