Xの生成AI「Grok」で同意なく服を脱がされる...一般人を含めた女性や少女の性的画像が拡散。被害者が語る恐怖とは（Harper’s BAZAAR（ハーパーズ バザー））

私たちの生活を便利に変えつつあるものの、次第に深刻な問題も浮かび上がっている「AI」。これまでにもインターネット上では、ディープフェイクによって著名人の偽の映像や音声が拡散され、問題となってきたが、現代では誰でも容易にAIを利用できることから、その範囲や被害がより拡大しているよう。 【写真】「Grok」で作成されたフェイク写真 そしてここ最近、世界的に問題視されているのが、イーロン・マスク氏のAI企業「xAI」が開発し、X（旧Twitter）に搭載されている生成AIチャットボット「Grok」。『Cosmopolitan UK』によると、ユーザーがGrokの“Spicy Mode※”を悪用し、女性や少女の同意のない露骨な画像を作成する行為が横行しているという。 ※Grokには、画像生成機能「Imagine」の一部として「Spicy Mode」が搭載されており、他のAIツールでは通常制限されている、示唆的な表現や部分的なヌードを含むコンテンツの生成が可能とされている。一方で、Spicy Modeは無料では利用できず、Xの「Premium+」または「SuperGrok」といった有料プランへの加入が必要だという。

『BBC』は、 X上で実在する女性の画像を本人の同意なくビキニ姿に加工したり、性的な状況に置いたりするようチャットボットに求める複数の投稿を確認していると報道。同メディアの取材に応じたサマンサ・スミスさんは、自身の画像が改変されたことをXに投稿すると、同様の経験をしたユーザーからの反応が寄せられたものの、その後他のユーザーがGrokにさらに彼女の画像を生成させるよう要求する事態も発生したという。 「女性たちはこの行為に同意していません。実際に裸だったのは私ではありませんが、見た目は私にそっくりで、まるで誰かが私のヌードやビキニ姿の写真を投稿したかのように、侵害されているように感じました」 彼女の言葉は、ディープフェイク技術がいかに個人の尊厳を踏みにじる凶器となり得るかを物語っている。

これまでもディープフェイクは著名人の偽動画などで問題になってきたが、GrokのようにSNSに統合され、誰でも容易に使えるツールが登場したことで、一般人を含めた被害が拡大している。 自身の画像がいつの間にか「素材」として使われ、見知らぬ誰かの手によって性的な画像に変えられて世界中にばら撒かれる――。そんな恐怖が、今まさに現実のものとなっている。