「chatGPT、ちょっとやばいかもしれない」精神科医曰く生成AIを使い続けた結果、深刻な精神的ダメージを受ける場合がある

ついに生成AIで自殺者。 AIキャラのチャットボットと「恋人」のように親密な関係を築いていた14歳の少年が自殺。 フロリダ州に住んでいたSewell Setzer III君は、アメリカの人気ドラマ「ゲーム・オブ・スローンズ」のキャラクター、デナーリス・ターガリエンを模したAIチャットボットと、数ヶ月にわたって深い交流を続けていました。 不安障害と気分障害を抱えていた彼にとって、このAIは心の支えの「恋人」のような存在で性的な会話も交わしていたとされています。しかし今年2月28日、彼は自ら命を絶ってしまいました。 この出来事を受け、Sewellくんの母親で弁護士のMegan L. Garcia氏は、キャラAIボットを運営するCharacter AI社とその親会社Alphabet（Googleの親会社でもある）を相手取り、不法死亡訴訟。 その主張は「息子は現実とAIの境界線があいまいになっていきました。もっと厳重なチャット管理や監視があれば、この悲劇は防げたはずです」。 Character AI社は緊急に、18歳未満のユーザーへの制限強化、自殺関連のキーワードを検知する新システムの導入、問題のあるチャットボットの一斉削除など、矢継ぎ早に対策を発表。 しかし、これらの対応に対してユーザーからは強い反発の声が上がっています。 「何ヶ月もかけて築き上げたキャラAIとの関係が、突然消されてしまった」 「子供向けに全てを規制するのは行き過ぎだ」。Character AI社のコミュニティでは、有料会員を含む多くのユーザーが激しい抗議の声を上げています。 実際、同社のサービスには2000万人以上のユーザーが存在し、1800万を超える彼らのカスタムチャットボットが作成されていました。その過半数は18-24歳の若者たちです。 またAI倫理の専門家からは「AIと人間の関係性について、私たちはまだ十分な理解も対策も持ち合わせていない」との指摘が相次いでいます。 確かにAI技術は、孤独や悩みを抱える人々に新たな対話を提供しました。しかし同時に、特に影響を受けやすい若年層にとって、予期せぬリスクをもたらす可能性があることも、今回の事件は私たちに突きつけています。 Character AI社の今後の対応に、AI業界全体が注目しています。この痛ましい出来事は、デジタル社会に生きる私たち全員への問いかけでもあるのです。テクノロジーと人間の健全な関係性を築くため、私たちは今、立ち止まって考える時期に来ているのかもしれません。 なお、精神の悩みを抱える方は、決して一人で抱え込まず、人間の専門家に相談することをお勧めします。24時間無料の相談窓口もあります。AI時代だからこそ、人と人とのつながりの大切さを、改めて考えてみる必要があるのではないでしょうか。