Gemini 2.0 Flash、画像のウォーターマーク除去機能で物議

AIでやっていいこと、わるいこと。

日常的に使うようになってきたAIですが、特にAIが生成する画像は簡単な指示でこの世にない画像をすぐに生成してくれるのには、もはや人間を超えているなと日々実感しています。そんな便利な画像生成機能ですが、悪用されるリスクも秘めていました。

Google（グーグル）の新しいAIモデル｢Gemini 2.0 Flash｣が、透かし（ウォーターマーク）を削除するために使用されていることがSNS上で発覚し、議論を呼んでいます。この機能は、Getty Imagesやその他の著名なストックメディアの画像に対しても適用可能であることが確認されています。つまり、販売されている、著作権のある画像の透かしをAIが外せてしまうということなんです。

ネイティブな画像生成と編集機能公開が仇に

GoogleはGemini 2.0 Flashの画像生成機能を拡張し、開発者向けツールを公開しました。この機能拡張によって、AIがネイティブに画像生成および編集ができるようになっていました。しかし同時に適切な制限が設けられていない可能性を指摘されていました…

・著作権のある画像の透かしを削除できる

・削除された部分を自然に補完する能力が非常に高い

・競合するAIツールよりも高度な処理を無料で利用できる

XやRedditのユーザーによると、Gemini 2.0 Flashは単に透かしを消すだけでなく、削除によって生じた空白部分を高度な補完機能で埋めることが可能だといいます。他のAIツールでも同様の機能を持つものはありますが、Gemini 2.0 Flashの補完精度は特に優れていると報告されています。

GoogleのAIはまだ実験段階で、著作権問題の懸念も

現在、Gemini 2.0 Flashの画像生成機能は｢実験的かつ商用利用不可｣とラベル付けされており、AI Studioなどの開発者向けツールでのみ利用可能とされています。また、Gemini 2.0 Flashはすべての透かしを完全に除去できるわけではなく、半透明の透かしや画像全体を覆うような大きな透かしには対応が難しい場合もあるようです。

とはいえ、著作権を持つ企業やクリエイターからの批判は避けられない状況になっています。既に他のAIモデル、たとえばAnthropicのClaude 3.7 SonnetやOpenAIのGPT-4oは、透かしの削除を拒否する方針を明確にしており、Claudeは｢透かしの削除は非倫理的であり、違法である可能性がある｣と警告しています。

Googleや他のAI開発企業が取るべき対策は

3月17日 にGoogleの広報担当者が声明を発表し、

Googleの生成AIツールを著作権侵害目的で使用することは、当社の利用規約に違反します。すべての実験的なリリースと同様に、慎重に監視し、開発者からのフィードバックを受け取っています。

と述べています。

Googleは今後、Gemini 2.0 Flashの透かし削除機能に対する制限を追加する可能性があります。さらには、著作権保有者側からの圧力がさらに高まると、機能の変更や利用制限が導入されることも考えられます。

ただ現時点では、Gemini 2.0 Flashの透かし削除機能を制限する明確な措置は取られておらず、著作権関連の問題がさらに議論されることになりそうです。

AI開発企業は悪用されない仕組みづくりとともに、AIの方針を明確に示すことが今後も求められそうです。そして利用者も気付かないうちに法律違反していた…なんてことがないように気をつけなければいけません。

Source: Tech Crunch