Resumen Técnico: Semivalores Cociente para Atribución de Datos Resistente a Nombres Falsos

1. Declaración del Problema

Los métodos de valoración de datos, como Data Shapley, están diseñados para asignar pagos y auditar la contribución de los datos de entrenamiento a las pipelines de aprendizaje automático. Sin embargo, estos métodos suelen asumir un conjunto fijo de contribuyentes pasivos. En los mercados de datos del mundo real, los contribuyentes son agentes estratégicos que pueden manipular el mecanismo de atribución para inflar su cuota.

El artículo identifica la manipulación por nombre falso como un modo de fallo crítico. Un único proveedor latente puede:

• Dividir un conjunto de datos entre múltiples identidades pseudónimas (ataques Sybil).
• Duplicar ejemplos de alto valor o crear casi-duplicados (paráfrasis, aumentaciones, variantes sintéticas).
• Blanquear variantes sintéticas para explotar el conjunto de validación del evaluador.

El problema central es que la atribución justa de Shapley estándar sobre las identidades reportadas no es compatible con los incentivos. Dado que el valor de los datos a menudo es no aditivo y complementario, dividir un conjunto de datos en múltiples identidades puede aumentar la suma de los valores de Shapley recibidos por el atacante en comparación con el valor recibido por una única identidad honesta.

2. Metodología

2.1 Modelo Formal

Los autores formalizan el escenario como un problema de diseño de mecanismos sobre proveedores latentes ($N$) e identidades presentadas ($m$).

• Juego de Valor de Datos: Un juego monótono donde el valor de una coalición es la utilidad del aprendiz entrenado sobre la unión de las cargas útiles de dicha coalición.
• Clases de Manipulación:
  • División por nombre falso: Reemplazar una identidad con $k \ge 2$ identidades que poseen una partición o replicación de los datos originales.
  • Ataque por variante: Presentar copias transformadas (duplicados, paráfrasis, datos sintéticos) bajo una o más identidades.
• Métrica de Ganancia: La ganancia aditiva o multiplicativa que logra un atacante al manipular la estructura de identidades en comparación con el reporte honesto.

2.2 Resultado de Imposibilidad

El artículo demuestra un teorema fundamental de imposibilidad: La atribución exactamente justa de Shapley sobre las identidades reportadas es incompatible con la prueba de nombres falsos sin restricciones.
Incluso en juegos monótonos de valor binario (por ejemplo, juegos de unanimidad), un proveedor puede aumentar su pago total dividiendo sus datos en múltiples pseudónimos. Por ejemplo, en un juego de unanimidad de dos jugadores donde $v(\{A, B\}) = 1$, el proveedor $A$ recibe $1/2$. Si $A$ se divide en $A_1, A_2$ de modo que el valor requiere los tres ($A_1, A_2, B$), los nuevos valores de Shapley son $1/3$ cada uno, lo que arroja un total de $2/3$ para $A$. Esta vulnerabilidad estructural se extiende a los semivalores generales (Banzhaf, Beta-Shapley), aunque la magnitud de la ganancia varía.

2.3 El Mecanismo de Semivalue Cociente

Para resolver esto, los autores proponen el mecanismo de Semivalue Cociente, que desplaza la unidad estratégica de las identidades presentadas crudas a clústeres de atribución respaldados por evidencia.

1. Grafo de Evidencia y Agrupación:
   • Una función de evidencia $e_\theta(u, u')$ determina si dos unidades (ejemplos, documentos) son suficientemente similares (basado en hashes, incrustaciones, procedencia, etc.) para ser tratadas como el mismo objeto de atribución.
   • Esto forma un grafo donde los componentes conectados son clústeres ($C_1, \dots, C_K$).
2. Operador Representativo de Clúster ($R_\theta$):
   • Para prevenir la manipulación mediante duplicación dentro del clúster (por ejemplo, presentar 10 copias de un ejemplo para ponderarlo más alto), un operador representativo canónico mapea cada clúster a un conjunto fijo de unidades de entrenamiento canónicas.
   • Las estrategias incluyen: colapso de duplicados exactos, límite del número de unidades por clúster, o uniones normalizadas por peso.
3. Juego Cociente:
   • Se construye un nuevo juego cooperativo donde los jugadores son los clústeres, no las identidades.
   • El valor de una coalición de clústeres es la utilidad del aprendiz entrenado sobre la unión de sus representantes canónicos.
4. Cálculo y Asignación de Semivalores:
   • Los semivalores (Shapley, Banzhaf, etc.) se calculan sobre el juego cociente.
   • Asignación dentro del Clúster: El pago a un clúster se distribuye entre las identidades presentadas dentro de él. El mecanismo requiere una regla de asignación neutral a los nombres falsos (por ejemplo, asignación proporcional a la cantidad de unidades canónicas contribuidas por cada identidad) para asegurar que dividir una identidad dentro de un clúster no aumente la cuota total.

3. Contribuciones Clave

1. Modelo Formal: Un marco riguroso para la manipulación de proveedores de datos que involucra proveedores latentes, identidades presentadas y ataques de transformación.
2. Teorema de Imposibilidad: Demostración de que ningún mecanismo puede ser simultáneamente exactamente justo de Shapley en las identidades reportadas y probar nombres falsos sin restricciones.
3. Mecanismo de Semivalue Cociente: Una solución constructiva que calcula semivalores sobre clústeres respaldados por evidencia con un operador representativo canónico.
4. Garantías Teóricas:
   • Prueba Exacta de Nombres Falsos: Lograda bajo manipulaciones "cociente-estables" (donde el atacante no puede escapar de su clúster honesto ni alterar el representante canónico) y asignación neutral a los nombres falsos.
   • Garantías Aproximadas: Límites sobre la ganancia de manipulación y la pérdida de equidad en términos de tres cantidades medibles: masa de clúster escapado (variantes que forman nuevos clústeres), error de estimación de valor y distancia de agrupación (desviación en el representante).
5. DataMarket-Gym: Una nueva referencia para evaluar mecanismos de atribución bajo ataques estratégicos de proveedores, que cubre duplicados exactos, casi-duplicados, blanqueo sintético y división Sybil.

4. Resultados Experimentales

Los autores evalúan el mecanismo en conjuntos de datos sintéticos y del mundo real (CIFAR-10, AG News, STL-10, IMDB).

• Clasificación Sintética:
  • La línea base Shapley sobre identidades crudas mostró una ganancia de manipulación de 1.74 en ataques de duplicados/Sybil.
  • Shapley Cociente con evidencia a nivel de ejemplo (similitud coseno $\theta=0.99$) redujo esta ganancia a 0.96, neutralizando efectivamente el ataque y regresando a niveles cercanos a la honestidad.
  • El mecanismo es robusto ante la elección del semivalue (Shapley, Banzhaf, Beta-Shapley).
• Sensibilidad del Umbral:
  • El umbral de coseno $\theta$ es crítico. Un umbral demasiado bajo causa "fusiones falsas" (proveedores independientes agrupados juntos), lo que puede amplificar las ganancias Sybil. Un umbral demasiado alto no logra capturar casi-duplicados.
  • El artículo identifica una inversión de umbral específica del dominio:
    • En dominios de imagen (CIFAR-10), las normas altas conducen a altas similitudes pareadas; se requiere un umbral más estricto ($\theta \ge 0.90$) para prevenir ataques de encadenamiento.
    • En dominios de texto (AG News), las incrustaciones normalizadas por unidad tienen menores similitudes pareadas; un umbral más laxo ($\theta \le 0.90$) es óptimo, ya que los umbrales estrictos no logran vincular casi-duplicados.
  • El umbral óptimo es predecible a partir de estadísticas de incrustación (p90 pareado y fracción de componentes mixtos del suelo de encadenamiento).
• Transferencia al Mundo Real:
  • El mecanismo se transfiere a pipelines de características congeladas (ResNet-18, MiniLM) sin acceso a oráculo, confirmando su viabilidad práctica.
  • Los ataques de división pura (datos disjuntos sin superposición) permanecen indefensos solo por evidencia de similitud, requiriendo procedencia a nivel no de ejemplo (por ejemplo, vinculación de cuentas, KYC).

5. Significado y Afirmaciones

El artículo afirma que la atribución de datos justa de Shapley no es automáticamente compatible con los incentivos cuando las identidades son endógenas. El significado del trabajo radica en:

• Desplazamiento de la Carga Estratégica: Mover la unidad de atribución de identidades mutables a clústeres respaldados por evidencia permite un intercambio controlado entre la equidad al estilo Shapley y la resistencia a Sybil.
• Posibilidad Condicional: Aunque la equidad exacta de Shapley es imposible bajo manipulación sin restricciones, el mecanismo cociente recupera un "intercambio controlado" cuando las señales de similitud y procedencia pueden colapsar confiablemente las variantes manipuladas en la misma unidad.
• Despliegue Práctico: El mecanismo es "agnóstico al semivalue", lo que significa que puede implementarse con diversos backends de valoración (Shapley, Banzhaf, etc.) y es robusto al ruido del estimador.
• Complementariedad: El enfoque complementa el trabajo existente sobre "Valores de Shapley de Grupo Fieles" (que defiende contra la agregación de empresas fantasma de conjuntos de datos fijos) al abordar la construcción de la unidad de atribución en sí misma cuando el contenido de los datos puede ser alterado (duplicado, parafraseado, sintetizado).

Los autores concluyen que la unidad de atribución es una elección de diseño de mecanismos, y el semivalue cociente proporciona un marco robusto para mercados de datos donde los proveedores son estratégicos.