「Sora」のAI生成動画は何が危険なのか。SNSにあふれる“偽りの現実”の問題とは（ハフポスト日本版）

著名人の容姿を使用したSoraの動画をめぐり、OpenAIはすでに批判に直面している。 同社は10月、マーティン・ルーサー・キング・ジュニア牧師を不敬な形で描いた動画が作られたため、「カメオ機能」で同牧師を描く映像を禁止すると発表した。 「カメオ」はOpenAIがディープフェイクの代わりに使い始めた言葉だ。この機能を使うことで、実際には言っていないことややっていないことを、やったかのような動画を作ることができる。 カメオ機能を使えば著名人だけではなく、自分自身を含めた一般人のAI動画を簡単に作ることも可能だ。 OpenAIの使用ポリシーには、本人の明確な同意なしに実在の人物の肖像を使った画像や動画を編集してはならないと記されている。 しかし、一度自分の顔や声をアップロードして、他人が自分の肖像をカメオ機能で使うことに同意すれば、想像もしていなかったような動画が作られことは想像に難くない。 これまでに投稿されている動画の中には、YouTuberでプロボクサーのジェイク・ポール氏が化粧をする動画や、元プロバスケットボール選手のシャキール・オニール氏がバレリーナのように踊る動画など“おもしろ映像”として楽しまれているものもある。 しかし、本人が望まない内容の動画を簡単に作って投稿することも可能だ。 人気YouTuberのダレン・ジェイソン・ワトキンス・ジュニア氏は、ライブ配信中に、Soraの「すべての人が自分肖像を使ってカメオを作れる」設定を有効にしたところ、フォロワーとキスしている動画や行ったことのない国を訪れている動画が次々に作られた。 ワトキンス氏は自分のカメオ動画に驚いた様子で「なんでこんなに本物のようなの？」と叫び、その後設定を「本人のみ」に変更して、自分以外の人が肖像を利用できないようにした。 非営利団体「電子フロンティア財団」サイバーセキュリティ部門ディレクターのエヴァ・ガルペリン氏は、この出来事について「これは比較的“穏やかな”例にすぎない」と話す。 ガルペリン氏はカメオ機能を使用範囲を定める仕組みは「信頼は時間とともに変化する」という現実を考慮していないと指摘する。 「たとえば、暴力的な元恋人や喧嘩をした元友人が、あなたを中傷するような動画を大量に作る可能性もあります」 「あなたはその動画の存在を知るまで止められません。通知された後に相手のアクセス権を取り消すことはできますが、その時点で動画はすでに拡散されてしまっています」 ハフポストUS版はOpenAIに「本人の同意なしにディープフェイクが作られることをどう防ぐのか」と質問した。 これに対し、同社はSoraの「システムカード（内部システム仕様書）で詐欺や不正行為、スパム、なりすましなどに使われるおそれのあるコンテンツの生成を禁止している」と回答した。 その仕組みについて「性的な内容やテロのプロパガンダ、自傷行為の助長などの危険なコンテンツが生成される前にブロックする“ガードレール”が備えられています。これは、動画フレームと音声文字起こしのプロンプトおよび出力の両方をチェックすることで機能します」と説明している。