神モデル？ GPT-4oのような個性あふれるChatGPT、復活へ

もしかすると生成AIって『笑ゥせぇるすまん』の喪黒福造みたいなものかもしれない…。

今年初め、OpenAI（オープンエーアイ）は、10代の少年がChatGPTと会話をしたあとに自らの命を絶った事件を受けて、ChatGPTの｢個性｣を大幅に抑える措置を取りました。

でも、どうやら喉元過ぎれば熱さを忘れるようで、逆振りを見せました。OpenAIのサム・アルトマンCEOは、X（旧Twitter）でChatGPTに個性を復活させると発表しました。しかも、エッチな｢成人モード｣のおまけまで付くようです。

メンタルヘルス対策による制限強化が賛否

アルトマン氏は、｢私たちはメンタルヘルスの問題に十分配慮するために、ChatGPTをかなり制限してきました｣とXの投稿で述べ、年齢制限によってユーザーがより適切な体験ができるようにしたと説明しました。

しかし、ほぼ同時期に、回答の質の低下や個性の喪失を指摘するユーザーが続出しました。アルトマン氏は、｢この措置によって、メンタルヘルスに問題を抱えていない多くのユーザーにとっては使いやすさや楽しさが低下したことを認識しています。しかし、問題の深刻さを考慮して、適切な対応をとることを優先しました｣と釈明しています。

メンタルヘルス対策は、16歳の少年がChatGPTに｢首をつる方法｣を尋ねたあとに自ら命を絶ち、遺族が不法死亡訴訟を起こしたことを受けて実施されました。

問題はすべて解決した…のか？

でも、もう心配は無用です。問題はすべて解決しました！ 今年初めに、長時間会話すると安全対策が｢劣化｣する可能性を認めていたアルトマン氏ですが、｢深刻なメンタルヘルス問題を軽減できました｣と自信満々で主張しています。そんなわけで、OpenAIは｢ほとんどのケースで制限を安全に緩和できる｣と考えているようです。

アルトマン氏によると、今後数週間のうちにChatGPTが以前のGPT-4oモデルのような個性を取り戻すとのこと。

今年初めにモデルをGPT-5にアップグレードした際、ユーザーは｢なんちゃって恋人｣を失った悲しみを嘆き、より無機質な回答に落胆しました。大切なパートナーが別人のように冷たくなったんだから、当然のリアクションかもしれません。

AIに人間らしさを求める危険性

アルトマン氏は、｢もしChatGPTに人間らしい応答を求めたり、絵文字を多用させたり、友人のように振る舞わせたりしたいなら、ChatGPTはそうすべきです（ただし、利用率の最大化のためではなく、ユーザーが望む場合に限ります）｣と述べています。

しかしこの発言は、4oモデルとのやり取りでユーザーがAIに｢感情的な依存｣を抱く可能性があることを警告した同社の報告を無視しているように感じます。

マサチューセッツ工科大学の研究者は、｢AIが自分を気づかってくれている、あるいは思いやりを持って行動してくれていると感じたり、そう望んだりするユーザーは、まさにそういう反応を引き出す言葉を使うようになります。そのようにして、非常に中毒性の高い愛情のエコーチェンバーを作ります｣と警告しています。

ここまでくると、これはもう明らかにバグではなく、仕様ですね。

成人向けのコンテンツ解禁へ

アルトマン氏はさらに踏み込んで、｢大人のユーザーを大人として扱う｣という原則に基づいて、｢認証済みの成人向けにエロティカ（成人向けコンテンツ）｣を導入すると語っています。

今年初めには、ガールフレンドモードをリリースしたイーロン・マスク氏のxAIをやゆしていたアルトマン氏。いまではすっかり自身も｢なんちゃって恋人｣路線にかじを切ったようです。

個性を取り戻して彼氏彼女のように振る舞っても、ユーザーが依存しないようにChatGPTが一定のラインを引ければいいと思いますが、どうなることやら…。