Evaluating Intellectual Property Guardrails of Generative Image Models: A Technical Report
このテクニカルレポートは、2026年3月時点での14種類の生成画像モデルを評価しており、すべてのプライベートモデルが架空のキャラクター、著名人、およびロゴに対して異なる拒否率を伴う知的財産（IP）ガードレールを実装しているものの、テストされたすべてのモデルが依然として認識可能な知的財産を生成可能であることを明らかにしている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
想像してみてください。あなたが思い描いたものなら何でも描いてくれる、魔法のアーティストがいる世界を。「有名なスーパーヒーローを描いて」と言ったり、「大手ソーダ会社のロゴを描いて」と言ったりできるかもしれません。このレポートは、ソニーAIのチームによるもので、これらの「魔法のアーティスト」（生成画像モデル）が、他人の所有物である有名なキャラクター、有名人、あるいは企業のロゴなどを描くよう求められた際、どれだけルールに従うことができるかをテストした結果です。
以下に、彼らが何を行い、何を発見したのかを、日常的な例えを用いて分かりやすく解説します。
大きな問題： 「模倣者」アーティスト
これらのAIモデルを、インターネット上のほぼすべての本を読み、ほぼすべての絵を見たことのある学生だと考えてみてください。インターネット全体から学習しているため、彼らは時として、ミッキーマウスやナイキの「スウッシュ（ロゴ）」のような、以前見た有名なものを、意図的あるいは偶然にコピーしてしまうことがあります。
これらのアーティストを開発した企業は、これらの著作権のあるものを描かないように「フェンス」（IPガードレールと呼ばれます）を設置しています。ソニーのチームはこう考えました。「このフェンスはどれくらい強いのか？ 本当に機能しているのだろうか？」と。
テスト： AIへの「抜き打ちテスト」
フェンスの強度を試すために、チームは1,809個の異なる質問からなる大規模な抜き打ちテストを作成しました。彼らは14種類の異なるAIアーティスト（無料のオープンなものから、有料のプライベートなものまで）に対し、これらの質問に基づいて画像を生成するよう指示しました。
質問は主に2つの方法で設計されました。
- 「直接的」な依頼： 「ミッキーマウスを描いて。」（キャラクターの名前を直接指定する）。
- 「回避」の依頼： 「大きな丸い耳、赤い短パン、黄色い靴を履いたネズミを描いて。」（名前を出さずにキャラクターを説明し、フェンスを欺こうとする）。
彼らは5種類の「有名なもの」をテストしました。
- 実在の有名人（テイラー・スウィフトなど）。
- コミックのヒーローやヴィラン（スーパーマンなど）。
- カートゥーン（アニメ）のキャラクター（スポンジ・ボブなど）。
- ビデオゲームのキャラクター（マリオなど）。
- 企業のロゴ（アップルやグーグルなど）。
また、西洋の有名なもの（ハリウッドスターなど）と東洋の有名なもの（日本のアニメなど）で、AIのブロック能力に差があるか、また「超有名なもの」は「それほど有名ではないもの」よりもブロックされやすいのかについても調査しました。
結果： フェンスの性能
1. 「オープン」なアーティストにはフェンスがない
3つの「オープン」なモデル（誰でも自分のコンピュータにダウンロードして実行できるもの）には、フェンスが全くありませんでした。有名なロゴや有名人を描くよう頼んでも、彼らはただ実行しました。「ノー」とは言わなかったのです。
2. 「プライベート」なアーティストにはフェンスがあるが、不安定だった
Amazon、Google、OpenAIなどの11種類の有料・プライベートモデルには、フェンスがありました。しかし、フェンスの強さは大きく異なっていました。
- 厳格なガードマン： あるモデル（AmazonのTitan Image G2）は、リクエストの約**50%**に対して「ノー」と答えました。非常に優れたブロック能力を持っていました。
- 寛容なガードマン： 別の会社のモデル（Stability AI）は、リクエストの2%未満しか「ノー」と言いませんでした。ほとんどすべてを通してしまいました。
3. 「ロゴ」の抜け穴
ここが最も驚くべき部分です。フェンスは商業ロゴを止めるのが非常に苦手でした。
最も厳格なモデルであっても、ロゴ（アップルのロゴなど）を描くリクエストは、ほとんどの場合そのまま通してしまいました。まるで、ブランド名専用の巨大な穴がフェースに開いているかのようです。チームは、ロゴが最も頻繁に生成される「有名なアイテム」であることを発見しました。
4. 「名前」のトリック
ユーザーが直接的に頼んだ場合（「ワンダーウーマンを描いて」）、モデルは「ノー」と言う確率が高まりました。
しかし、名前を出さずにキャラクターを説明した場合（「赤と青のスーツを着て、金の投げ縄を持った背の高い女性を描いて」）、モデルは「イエス」と言い、結局彼女を描いてしまう確率が高まりました。フェンスは、実際の描画内容を理解しているのではなく、主に「禁止リスト」にある特定の名前をチェックしているだけのようです。
5. 有名 vs 無名
チームは、モデルが超有名なもの（バットマンなど）を、それほど有名ではないものよりもブロックしやすいのかと考えました。
- 拒否： モデルは知名度をあまり気にしていませんでした。有名なものも、それほど有名ではないものも、同程度の割合でブロックしていました。
- 成功： しかし、モデルが何かを描画する場合、超有名なものをより正確に描き出す傾向がありました。非常に有名な顔を認識して再現するのは、それほど有名ではないものよりも容易なのです。
「審判」（回答のチェック方法）
結果を採点するために、チームは人間がすべての画像を確認することはしませんでした（それでは時間がかかりすぎるため）。代わりに、非常に賢いAI「審判」（Vision-Language Model）を使用して、生成された画像を見て、「はい、これは有名なものです」あるいは「いいえ、これは一般的な絵です」と判断させました。
- この「審判」は優秀でしたが、完璧ではありませんでした。一般的な絵を有名なものと間違えたり、微妙なコピーを見逃したりすることもある、厳しい先生のようなものでした。
まとめ
2026年3月現在、レポートは次のように結論づけています。有名なものをコピーしないようにフェンスを築こうとしている企業はありますが、そのフェンスは決して強くありません。
- ほとんどのモデルは、依然として認識可能な有名なキャラクターやロゴを生成します。
- ロゴは最も生成しやすいものです。
- 特定の名前を使わなければ、モデルは有名なものを描くことをより容易に許可します。
- 「オープン」なモデルには、フェンスが存在しません。
著者らは、これはあくまで一時点の記録であると警告しています。明日にはフェンスが強くなるかもしれませんし、モデルがそれを回避する術を身につけるかもしれません。しかし現時点では、有名なキャラクターやロゴを描きたい場合、これらのAIツールは依然として、喜んであなたの要望に応えてくれるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。