学生さん、気を付けて。AIが作った文章に「見えない透かし」が入るってよ

AI文章にもついに足跡が残る！

AIに作らせた文章を自分で書いたものとして提出している学生やビジネスマンにとって、今後ごまかすのが少し難しくなってきそうな動きです。

文章に「見えない透かし」

Anthropicは今週、AIチャットボット「Claude」が生成したコンテンツに、機械で読み取れるウォーターマーク（電子透かし）を付けると発表しました。AIが生成した文章には、人間の目には見えない印が直接埋め込まれることになります。

これによりAnthropicは、OpenAIやGoogle（グーグル）と同様に、EUのAI法が定める透明性要件に対応をしていく方向性を見せたことになります。ちなみにAI法とは、AIの開発・利用に関するルールを定めた欧州連合の規制です。

Anthropicのサポートページによると、8月2日以降にEUでリリースされる新しいClaudeモデルには、提供開始時からこのマーキング機能が搭載されるとのことです。生成された文章にはウォーターマークが埋め込まれ、対応するファイルには、電子署名付きの「来歴情報」が付与されます。

ただし、この仕組みはヨーロッパ限定ではないようです。Anthropicによると、「Claude Platform（API）、Claude、Claude Code、Claude Cowork、Claude Tag」などの対応モデルに適用され、Claudeが提供されている世界各地で導入される予定です。

同社は既存モデルへのマーキング対応も進めており、将来的には、ユーザーや第三者がClaudeのウォーターマークを検出できるツールも提供する方針です。

文章の場合、Claudeは生成する言葉の中に、機械で検出可能なパターンを直接埋め込んでくのですが、これについてAnthropicは次のように説明しています。

対応するClaudeモデルが文章を生成すると、人間には認識できないウォーターマークを文章そのものに織り込みます。目で見ることはできず、Claudeの回答の意味や品質、読みやすさにも影響しません。

コピペや編集をしても残る

ウォーターマークは文章そのものに埋め込まれているため、コピー＆ペーストして別の場所に移しても残ります。ある程度の編集を加えた後でも、検出できる場合があるといいます。

ただし、この仕組みには重要な注意点があります。

透かしがあっても「AI生成」とは限らない

ウォーターマークが検出されたからといって、その文章をClaudeが最初から生成したとは限りません。Claudeを文章の校正や翻訳、要約、編集などに使う人もいるため、もともとは人間が書いた文章でも、Claudeで処理した結果としてウォーターマークが付く可能性があります。また、Claudeが処理した後に文章が修正されたり、別の文章と組み合わされたりしているケースもあります。

逆も同じです。ウォーターマークが検出されなかったからといって、AIが生成していないとは断定できないということです。

Claudeが生成した文章でも、大幅に編集したり、言い換えたり、翻訳したり、ほかの文章と混ぜたりすると、ウォーターマークが消える可能性があります。短い文章の場合も、確実に判定するのに十分な情報が含まれていないことがあります。

文章の電子透かしを試している大手AI企業は、Anthropicの他にもあります。Googleはすでに「SynthID」という技術で、AIが生成した文章に人間には見えないウォーターマークを埋め込んでいます。

画像ファイルにも来歴情報を追加

また、OpenAIも画像や音声についてはSynthIDなどの透明性技術を利用していますが、文章を対象とする検出システムについては、現時点で公に発表していません。

Anthropicは文章だけでなく、「.svg」、「.png」、「.jpg」などの対応ファイルにも、電子署名付きの来歴情報を付与する予定です。

このメタデータには、デジタルコンテンツの出どころや編集履歴を記録するための業界標準「C2PA（Coalition for Content Provenance and Authenticity）」が採用されます。これによって、そのファイルがClaudeで処理されたものか、また処理後に改変された可能性があるかを確認できるようになります。