ADD for Multi-Bit Image Watermarking

Titel: ADD voor Multi-Bit Beeldwatermerking

Auteurs: An Luo en Jie Ding (School of Statistics, University of Minnesota)

---

1. Probleemstelling

Met de snelle opkomst van generatieve AI-modellen (zoals Diffusion-modellen) is de creatie van hoogwaardige, realistische afbeeldingen en video's toegankelijk geworden. Dit roept echter ernstige zorgen op over desinformatie (Deepfakes) en intellectuele eigendomsrechten.

• Huidige uitdagingen: Bestaande watermerkingstechnieken hebben vaak te kampen met:
  1. Beperkte capaciteit: Ze kunnen vaak slechts één bit (ja/nee) coderen, terwijl multi-bit watermerking nodig is voor bronherkenning, auteursrechten en traceerbaarheid (bijv. IP-adres, tijdstempel).
  2. Gevoeligheid voor vervorming: Veel methoden falen bij veelvoorkomende beeldvervormingen zoals compressie, rotatie of roetjes.
  3. Theoretische lacunes: Er is weinig theoretische onderbouwing voor waarom bepaalde methoden werken, en de prestaties zijn vaak niet consistent.
  4. Rekenkosten: Bestaande diepe leer-methoden zijn vaak traag bij het inbedden en decoderen van berichten.

Het doel is een methode te ontwikkelen die een multi-bit bericht (bijv. 48 bits) onzichtbaar in een afbeelding verbergt, robuust is tegen vervormingen, en snel te decoderen is, met een sterke theoretische basis.

---

2. Methodologie: ADD (Add, Dot, Decode)

De auteurs stellen ADD voor, een methode die bestaat uit drie hoofdstappen: Add (Toevoegen), Dot (Inproduct), en Decode (Decoderen).

A. Het Kader

In plaats van complexe neurale netwerken te gebruiken om berichten te verbergen, gebruikt ADD een lineaire additieve aanpak:

• Een watermerk bestaat uit een set van $K$ geleerde vectoren (watermerken) $\{w_1, ..., w_K\}$.
• Om een $K$-bit bericht $m = (m_1, ..., m_K)$ (waarbij $m_k \in \{-1, 1\}$) in een afbeelding $x$ te verbergen, wordt het watermerk als volgt toegevoegd:
  $$\tilde{x} = x + \sum_{k=1}^{K} m_k w_k$$
• Het decoderen gebeurt puur door het berekenen van inproducten (dot products) tussen de (mogelijk vervormde) afbeelding $\tilde{x}'$ en de opgeslagen watermerken $w_k$.

B. Training (Het Leren van het Watermerk)

De watermerken $w_1, ..., w_K$ worden getraind om een balans te vinden tussen beeldkwaliteit, identificeerbaarheid en robuustheid.

• Doelfunctie: De training minimaliseert een verliesfunctie die bestaat uit:
  1. Identificeerbaarheid: Een margin-based loss (zoals hinge loss of logistieke loss) die ervoor zorgt dat het inproduct $\langle w_k, \tilde{x}' \rangle$ de juiste teken heeft voor het bit $m_k$, zelfs na vervorming.
  2. Kwaliteit: Een regularisatieterm ($\beta \sum \|w_k\|^2$) die de grootte van het watermerk beperkt om visuele artefacten te voorkomen.
  3. Robuustheid: Tijdens training worden willekeurige vervormingen (compressie, ruis, rotatie, etc.) toegepast op het watermerkte beeld, zodat het model leert om de boodschap te herstellen ondanks deze verstoringen.
• Implementatie: In plaats van direct in de hoge-dimensionale pixelruimte te optimaliseren, wordt het watermerk geleerd via een lage-dimensionale feature extractor (een bevroren, voorgeöorde model) en een trainbare afbeeldingsmap. Na training worden de gemiddelde watermerken over de dataset berekend en vastgezet voor gebruik.

C. Detectie en Decodering

• Detectie: Bereken de som van de absolute waarden van de inproducten: $S = \sum |\langle w_k, \tilde{x}' \rangle|$. Als $S$ een bepaalde drempel overschrijdt, is het beeld watermerkt.
• Decodering: Voor elke bit $k$ wordt de waarde bepaald door het teken van het inproduct: $\hat{m}_k = \text{sign}(\langle w_k, \tilde{x}' \rangle)$.
• Optimalisatie met Woordenlijst: Als een lijst van mogelijke berichten ($D$) bekend is, kan de detectie en decodering worden geoptimaliseerd door het bericht te kiezen dat het hoogste inproduct heeft met de waargenomen vector.

---

3. Theoretische Analyse

De auteurs bieden een wiskundige onderbouwing waarom ADD werkt, gebaseerd op de aanname dat beelddata zich concentreren rond een laag-dimensionale deelruimte met Gaussische ruis.

• Ortogonaliteit: De trainingsoptimalisatie zorgt ervoor dat de geleerde watermerken $w_k$ orthogonaal zijn op de laag-dimensionale deelruimte van de natuurlijke afbeeldingen.
• Mutuele Orthogonaliteit: De componenten van het watermerk ($w_k$ en $w_j$ voor $k \neq j$) zijn onderling orthogonaal.
• Gevolg: Omdat het watermerk loodrecht staat op de "natuurlijke" variatie van de afbeelding, wordt het signaal van het watermerk niet verward met de inhoud van de afbeelding. Dit maakt het mogelijk om het watermerk betrouwbaar te detecteren en de bits nauwkeurig te decoderen via inproducten, zelfs bij aanwezigheid van ruis of vervorming.
• Convergentie: De auteurs bewijzen dat de prestaties van het getrainde model (met eindige steekproef) convergeren naar de ideale populatie-prestaties naarmate de trainingsgrootte toeneemt.

---

4. Resultaten

De methode is getest op de MS-COCO dataset (118.000 afbeeldingen) met een berichtlengte van 48 bits (een uitdagende schaal).

• Decodering: ADD bereikt 100% decoderingnauwkeurigheid zonder vervorming.
• Robuustheid: Onder een breed scala aan vervormingen (JPEG-compressie, rotatie, roetjes, helderheidsaanpassing, etc.) daalt de nauwkeurigheid maximaal met 2%. Ter vergelijking: de beste bestaande methoden (zoals HiDDeN en SSL) vertonen een gemiddelde daling van ongeveer 14%.
• Beeldkwaliteit: De PSNR (Peak Signal-to-Noise Ratio) is vergelijkbaar met state-of-the-art methoden (rond 32 dB), wat betekent dat het watermerk visueel onzichtbaar blijft.
• Snelheid:
  • Embedding: 2x sneller dan de snelste bestaande methode.
  • Decodering: 7,4x sneller dan de snelste bestaande methode. Dit komt door de eenvoudige lineaire bewerkingen in plaats van zware neurale netwerken.
• Generalisatie: Een model getraind op MS-COCO werkt uitstekend op andere datasets (ImageNet, CIFAR-10/100) zonder hertraining, met behoud van hoge nauwkeurigheid (>99%).

---

5. Belangrijkheid en Bijdragen

1. Nieuwe State-of-the-Art: ADD overtreft bestaande methoden aanzienlijk in zowel nauwkeurigheid als snelheid voor multi-bit watermerking, zelfs bij hoge bit-lengtes (48 bits).
2. Theoretische Fundament: Het paper biedt een zeldzame en robuuste theoretische verklaring voor de effectiviteit van watermerking, gebaseerd op geometrische eigenschappen (ortogonaliteit) in de data-distributie.
3. Efficiëntie: Door het gebruik van lineaire operaties (optellen en inproducten) in plaats van complexe neurale netwerken voor decodering, maakt ADD watermerking schaalbaar en praktisch toepasbaar in real-time scenario's.
4. Toekomstperspectief: De methode biedt een solide basis voor het uitbreiden van watermerking naar andere media (video, audio) en voor het creëren van schaalbare systemen voor bronherkenning van AI-gegenereerde content.

Conclusie: ADD is een eenvoudige, maar krachtige oplossing die de beperkingen van huidige watermerkingstechnieken doorbreekt door een combinatie van slimme geometrische training, theoretische onderbouwing en extreme rekenefficiëntie.