How Do Data Owners Say No? A Case Study of Data Consent Mechanisms in Web-Scraped Vision-Language AI Training Datasets

这是一篇关于网络爬取视觉 - 语言数据集（Web-Scraped Vision-Language Datasets, VLDs）中数据所有者同意机制的深入研究论文。论文以 DataComp 的 CommonPool 数据集为例，分析了在训练现代生成式 AI 模型（如 Stable Diffusion、DALL-E）时，数据收集过程是否充分尊重了数据所有者的意愿。

以下是该论文的详细技术总结：

1. 研究背景与问题 (Problem)

• 核心问题：现代文本到图像或视觉 - 语言模型主要依赖从互联网大规模爬取的数据进行训练。然而，目前尚不清楚这种数据收集实践是否充分尊重了数据所有者的同意意愿。
• 法律与伦理风险：忽略数据所有者的同意不仅引发伦理争议，还导致了多起版权侵权诉讼（如针对 Stability AI、OpenAI 和 Meta 的诉讼）。
• 多模态挑战：从纯文本模态转向“图像 - 文本”模态带来了新的复杂性：
  1. 同意信号（如版权声明、水印）在图像和文本中是异构的。
  2. 图像内容常通过第三方云提供商（CDN）交付，使得追踪数据溯源更加困难。
• 现有缺陷：当前的数据集发布实践（如仅发布 URL-文本对）缺乏透明度，导致难以全面评估数据收集是否符合数据所有者的限制（如服务条款 ToS 或 Robots 协议）。

2. 方法论 (Methodology)

研究以 DataComp CommonPool（包含 128 亿个图像 - 文本对）为案例，采用样本级和网络域名级两个维度的审计方法：

A. 样本级特征 (Sample-Level Characteristics)

旨在检测图像本身是否包含拒绝使用的信号：

1. 版权声明 (Copyright Notice)：使用正则表达式在图像标题（Caption）和 OCR 提取的文本中搜索版权符号（如"©"、"copr."）。
2. 元数据版权字段 (EXIF Metadata)：检查图像 EXIF 元数据中是否存在非空的版权标签（Key: "Copyright"或"0x8298"）。
3. 水印检测 (Watermark Detection)：
   • 使用了多种检测器：微调的 YoloV8、MobileViTv2，以及开源视觉语言模型（Rolm OCR, Gemma-3-12b-it）。
   • 构建了验证集：包括标准水印数据集（wm-eval）和人工标注的 CommonPool 子集（datacomp-watermark-eval），以评估检测器在“野生”网络图像上的鲁棒性。

B. 网络域名级特征 (Web-Domain-Level Characteristics)

旨在检测图像来源网站是否禁止爬取：

1. 服务条款 (Terms of Service, ToS)：
   • 针对前 50 大域名（覆盖约 45% 的样本），人工标注其 ToS 中的许可类型（如仅限非商业用途）和爬取政策（是否禁止爬取或 AI 训练）。
   • 注意：由于 CommonPool 仅发布 src URL（指向 CDN 或静态资源），而非原始页面 URL，这给 ToS 分析带来了挑战。
2. 机器人排除协议 (Robots Exclusion Protocol, REP/robots.txt)：
   • 解析前 50 大域名的 robots.txt 文件。
   • 针对特定的 AI 爬虫（如 GPTBot, ClaudeBot, Bytespider）和通用爬虫（如 Googlebot, CCBot）分析其访问限制状态（全部禁止、部分禁止、无禁止）。

3. 主要发现与结果 (Key Results)

A. 样本级统计

• 版权声明普遍存在：在 CommonPool 的英语子集中，估计至少有 1.22 亿（约占总量的 2.55%）样本包含某种形式的版权声明或信息。这些信号分散在标题、OCR 文本和 EXIF 元数据中，重叠度极低，表明需要多模态检测。
• 水印检测困难：
  • 在 CommonPool 的随机样本中，估计 9%-13% 的图像包含水印。
  • 检测失效：现有的水印检测模型在标准数据集上表现良好，但在网络爬取的“野生”图像上，F1 分数显著下降（例如 YoloV8 的 F1 从 96.66 降至 46.80）。主要原因是模型容易将图像中的普通文本误判为水印。
  • LAION-5B 评分不可靠：LAION-5B 发布的水印概率分数在验证集上的准确率和召回率极低（分别为 34% 和 51%），无法有效指导用户避开带水印的图像。

B. 域名级统计

• 高比例禁止爬取：在前 50 大域名中，60% 的样本来自那些在服务条款（ToS）中明确禁止爬取（Scraping）的网站。其中，33.4% 的样本来自限制仅限个人/研究/非商业用途的网站。
• CDN 导致的 ToS 失效：约 27% 的样本来自 CDN 提供商（如 Amazon AWS），18.6% 来自网站托管服务。由于发布的是 CDN URL 而非原始页面 URL，直接查看 CDN 的 ToS 无法反映原始内容所有者的真实限制，导致近 47% 的样本许可类型被标记为“不适用”。
• Robots.txt 的针对性限制：
  • 许多网站明确禁止 AI 专用爬虫（如 GPTBot, ClaudeBot, Bytespider），禁止率高达 87%-100%。
  • 然而，通用爬虫（如 Googlebot）通常未被禁止。
  • 关键漏洞：当数据集用户下载 CommonPool 并重新爬取图像时，默认不使用特定的 AI User-Agent，从而绕过了针对 AI 爬虫的 Robots.txt 限制。
• 时间滞后性：即使 CommonCrawl 在抓取时遵守了 Robots.txt，许多网站在归档后更新了 Robots.txt 以撤销同意，但 CommonPool 作为索引继续引导流量去爬取这些已撤销同意的网站。

4. 主要贡献 (Key Contributions)

1. 全面审计：首次系统性地通过样本级（版权、水印）和域名级（ToS、Robots.txt）多维度揭示了网络爬取 VLD 中的数据同意机制。
2. 量化证据：估算出 CommonPool 中约有 1.22 亿样本包含版权声明，且前 50 大域名中 60% 的样本来自禁止爬取的网站。
3. 揭示检测局限：证明了现有水印检测技术在真实网络环境中的低效性，以及 LAION-5B 水印分数的不可靠性。
4. 指出流程缺陷：揭示了当前数据集发布实践（仅发布 URL 而非页面上下文）导致无法有效执行数据同意检查，且数据集 curator 将责任转移给了 downstream user。

5. 意义与建议 (Significance & Recommendations)

局限性分析

• 责任转移：当前仅发布 URL-文本对的做法，使数据集策展人（Curator）规避了直接托管受版权保护资产的责任，同时也让使用者（User）误以为使用开源数据集是安全的，实际上使用者仍需承担爬取受限内容的法律风险。
• 缺乏统一框架：数据所有者通过多种不一致的渠道（水印、元数据、ToS、Robots.txt）表达同意，且这些渠道之间可能存在冲突，缺乏一个统一的、针对 AI 训练的数据同意标准。

建议

1. 改进发布实践：未来的数据集发布应包含原始页面 URL，以便使用者能准确查阅 ToS。策展人应明确警告使用者关于爬取的责任，或构建包含独立图像资产且已获授权的数据集。
2. 建立统一的数据同意框架：
   • 需要一种通用的协议，专门用于向 AI 开发者传达数据使用限制。
   • 现有的 Robots.txt 不足以应对，因为网站管理员不一定是数据所有者。
   • 建议转向**“选择加入”（Opt-in）**的同意模式，而非目前的“选择退出”（Opt-out）模式，以更好地保护数据所有者权益。
   • 社区应采纳并尊重统一的同意机制，将其作为数据使用的“单一事实来源”。

总结

该论文通过实证研究揭示了当前大规模视觉 - 语言数据集在数据同意方面的巨大缺口。尽管数据所有者通过多种渠道表达了限制意愿，但现有的 AI 数据收集管道（Pipeline）未能有效识别和尊重这些信号。这呼吁行业从单纯的数据规模竞争转向更负责任的数据治理，建立统一的同意框架，以解决版权和伦理问题。