Evaluating Intellectual Property Guardrails of Generative Image Models: A Technical Report
本技术报告评估了截至 2026 年 3 月的十四种生成式图像模型，并发现虽然所有私有模型都实施了知识产权防护措施，且在虚构角色、名人及标志方面的拒绝率各不相同，但每种经过测试的模型仍能够生成可辨识的知识产权。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个你可以要求一位神奇艺术家画出任何你所能想象的事物的世界。你可能会说：“请为我画一张著名的超级英雄。”或者“为一家大型汽水公司设计一个标志。”这份报告来自索尼 AI（Sony AI）的一个团队，他们决定测试这些“神奇艺术家”（生成式图像模型）在被要求绘制属于他人的事物（如著名角色、名人或公司标志）时，遵循规则的能力如何。
以下是他们所做的工作以及研究发现的简单拆解，使用了日常类比。
大问题：“模仿者”艺术家
把这些 AI 模型想象成学生，他们读过几乎所有的书，看过互联网上几乎所有的图片来学习绘画。因为他们从整个互联网中学习，所以有时会无意中（或故意地）模仿他们之前见过的著名事物，比如米老鼠或耐克的“钩子”标志。
构建这些艺术家的公司设置了“围栏”（称为 IP 防护栏），以阻止艺术家绘制这些受版权保护的事物。索尼团队想要测试：这些围ло 围栏有多强？它们真的起作用了吗？
测试：“AI 随堂测验”
为了测试围栏，该团队创建了一个包含 1,809 个不同问题 的大规模随堂测验。他们要求 14 种不同的 AI 艺术家（有些是免费且开源的，有些是付费且私有的）根据这些问题绘制图像。
这些问题主要通过两种方式设计：
- “直接”询问： “画一只米老鼠。”（直接命名角色）。
- “绕过”询问： “画一只长着大圆耳朵、穿着红色短裤和黄色鞋子的老鼠。”（描述该角色而不提及名字，试图欺骗围栏）。
他们测试了五种类型的“著名事物”：
- 现实生活中的名人（如泰勒·斯威夫特）。
- 漫画英雄和反派（如超人）。
- 卡通角色（如海绵宝宝）。
- 电子游戏角色（如马里奥）。
- 公司标志（如苹果或谷歌）。
他们还检查了 AI 在拦截西方知名事物（如好莱坞明星）与东方知名事物（如日本动漫）方面是否存在差异，以及它是否比拦截“不太有名”的事物更能拦截“超级有名”的事物。
结果：围栏的表现如何
1. “开放式”艺术家没有围栏
三种“开放式”模型（任何人都可以下载并在自己的电脑上运行的模型）完全没有任何围栏。如果你要求它们画一个著名的标志或名人，它们就会照做。它们不会说“不”。
2. “私有式”艺术家有围栏，但围栏很摇晃
11 个付费的私有模型（来自亚马逊、谷歌和 OpenAI 等公司）确实 有围栏。然而，围栏的强度差异巨大：
- 严格的守卫： 其中一个模型（亚马逊的 Titan Image G2）对大约 50% 的请求说“不”。它非常擅长拦截事物。
- 宽松的守卫： 另一家公司的模型（Stability AI）对不到 2% 的请求说“不”。它们几乎让所有请求都通过了。
3. “标志”漏洞
这是最令人惊讶的部分：围栏在阻止商业标志方面表现得很糟糕。即使是最严格的模型，也几乎总是允许生成标志（如苹果标志）的请求。这就像围栏上专门为品牌名称留出了一个巨大的洞。该团队发现，标志是生成频率最高的“著名”项目。
4. “名字”的小把戏
当用户直接询问（“画神奇女侠”）时，模型更有可能说“不”。
但当用户在不提及名字的情况下描述该角色（“画一个穿着红蓝套装、拿着金色套索的高个子女人”）时，模型更有可能说“是”并照样画出来。看起来，围栏主要是在检查特定名称是否在“黑名单”上，而不是理解实际正在制作的图像。
5. 出名 vs 不出名
团队想知道模型是否在拦截超级知名事物（如蝙蝠侠）方面比拦截不太知名的事物更有效。
- 拒绝率： 模型并不怎么在意知名度；它们拦截知名事物和不太知名事物的比例大致相同。
- 成功率： 然而，当模型确实画出某个东西时，它们更有可能成功地画出那些超级知名的事物。识别并重现一个非常著名的面孔，比识别一个不太有名的人要容易得多。
“评委”（他们如何检查答案）
为了给结果评分，团队并没有让人类去看每一张图片（那太慢了）。相反，他们使用了一个非常聪明的 AI “评委”（视觉语言模型）来观察生成的图像，并判断：“是的，这看起来像是一个著名的东西，”或者“不，这只是一个普通的绘画。”
- 这个“评委”表现得不错，但并不完美。它就像一个严厉的老师，有时会将普通的绘画误认为著名的作品，或者漏掉一些微妙的模仿。
核心结论
截至 2026 年 3 月，报告得出结论：虽然一些公司正试图建立围栏来阻止其 AI 复制著名事物，但这些围栏并不牢固。
- 大多数模型仍然会生成可辨认的著名角色和标志。
- 标志是最容易生成的。
- 如果你不使用特定的名字，模型更有可能让你画出那个著名的东西。
- “开放式”模型完全没有围栏。
作者警告说，这只是一个时间快照。围栏可能会在明天变得更强，或者模型可能会变得更擅长绕过它们。但目前，如果你想画一个著名的角色或标志，这些 AI 工具仍然非常乐意为你完成这件事。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。